KR102065337B1 - Apparatus and method for measuring movement information of an object using a cross-ratio - Google Patents

Apparatus and method for measuring movement information of an object using a cross-ratio Download PDF

Info

Publication number
KR102065337B1
KR102065337B1 KR1020190087759A KR20190087759A KR102065337B1 KR 102065337 B1 KR102065337 B1 KR 102065337B1 KR 1020190087759 A KR1020190087759 A KR 1020190087759A KR 20190087759 A KR20190087759 A KR 20190087759A KR 102065337 B1 KR102065337 B1 KR 102065337B1
Authority
KR
South Korea
Prior art keywords
distance
reference point
environment
image frame
moving
Prior art date
Application number
KR1020190087759A
Other languages
Korean (ko)
Inventor
최영수
윤용문
김종혁
최지훈
박종찬
박남규
Original Assignee
대한민국
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by 대한민국 filed Critical 대한민국
Priority to KR1020190087759A priority Critical patent/KR102065337B1/en
Application granted granted Critical
Publication of KR102065337B1 publication Critical patent/KR102065337B1/en

Links

Images

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/50Depth or shape recovery
    • G06T7/55Depth or shape recovery from multiple images
    • G06T7/579Depth or shape recovery from multiple images from motion
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/70Determining position or orientation of objects or cameras
    • G06T7/73Determining position or orientation of objects or cameras using feature-based methods
    • G06T7/74Determining position or orientation of objects or cameras using feature-based methods involving reference images or patches
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N5/00Details of television systems
    • H04N5/14Picture signal circuitry for video frequency region
    • H04N5/144Movement detection
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/10Image acquisition modality
    • G06T2207/10028Range image; Depth image; 3D point clouds

Abstract

The present invention provides an apparatus and a method for measuring movement information of a target by using a cross-ratio which can quickly and accurately calculate movement information of a target by using a cross-ratio. The apparatus comprises: a camera to acquire an image frame of a moving target; a moving information extraction unit to receive a plurality of image frames from the camera, and extract a position change of a reference point of the target from each image frame; a moving distance measurement unit to use a cross-ratio of the target and the position change of the reference point between image frames photographed by the camera in a first environment to measure a first distance on pixels by which the target has moved; a first moving distance calculation unit to correct the first distance to calculate a second distance which is the real distance by which the target has moved in a three-dimensional space in the first environment; a reference data storage unit storing a corresponding relationship of the first distance and the second distance as reference data; and a second moving distance calculation unit to compare a position change of the reference point between image frames photographed by the camera in a second environment with a lower identifying capability than the first environment and the reference data to calculate a third distance which is the real moving distance of the target in the second environment.

Description

비조화비를 이용하여 대상체의 이동 정보를 측정하는 장치 및 방법{Apparatus and method for measuring movement information of an object using a cross-ratio}Apparatus and method for measuring movement information of an object using a cross-ratio}

본 발명은 장치와 방법에 관한 것으로, 더 상세하게는 비조화비를 이용하여 이동하는 대상체의 이동정보를 측정하는 장치 및 방법에 관한 것이다.The present invention relates to an apparatus and a method, and more particularly, to an apparatus and method for measuring movement information of a moving object using a non-harmonic ratio.

3차원 상에 이동하는 물체를 카메라로 찍으면, 2차원의 이미지가 생성된다. 촬상된 2차원의 이미지는 3차원의 정보를 반영할 수 없으며, 카메라의 위치나 방향에 따라서 정보의 차이가 발생한다.When a camera photographs an object moving in three dimensions, a two-dimensional image is generated. The captured two-dimensional image cannot reflect three-dimensional information, and a difference in information occurs according to the position or direction of the camera.

또한, 촬영된 이미지는 사용된 렌즈, 렌즈와 이미지 센서와의 거리, 렌즈와 이미지 센서가 이루는 각 등 카메라 내부의 기구적인 부분에 의해 영향을 받게 된다. 따라서 3차원 점들이 영상에 투영된 위치를 구하거나, 역으로 영상에서의 좌표로부터 3차원 공간좌표를 복원할 때에는 이러한 카메라의 내부 구조의 파라미터를 알아야 정확한 계산이 가능하다. 즉, 2차원 이미지에서 3차원의 실제 정보를 획득하기 위해서는 카메라 보정(Calibration)이 필요하다.In addition, the captured image is affected by mechanical parts inside the camera, such as the lens used, the distance between the lens and the image sensor, and the angle between the lens and the image sensor. Therefore, when calculating the position where the 3D points are projected on the image or conversely restoring the 3D spatial coordinates from the coordinates in the image, it is necessary to know the parameters of the internal structure of the camera so that accurate calculation is possible. That is, camera calibration is required to obtain 3D actual information from the 2D image.

카메라를 교정하는 방법으로 격자판을 주로 사용한다. 그러나, 이러한 교정 방식은 카메라의 위치가 고정되어 있어야 하고, 카메라의 다양한 촬상 각도와 위치 따라 격자판을 각각 설정해야 하는 어려움이 있다. The grid is often used to calibrate the camera. However, this calibration method has a difficulty in that the position of the camera must be fixed and the gratings must be set according to various imaging angles and positions of the camera.

법과학 분야와 같이 감정에 사용되는 CCTV나 블랙박스 영상의 경우, 카메라로부터 보정 파라미터를 추출하여 실측 데이터를 획득하기 어렵다. 일반적으로 영상 내 고정된 좌표를 선정한 뒤에 좌표 구간 내의 평균속도를 계산하는 방법을 사용하고 있으나, 순간적인 속도변화나 시점에 대한 분석은 어려우며, 영상에서 고정좌표를 추출하기 어려운 경우, 예컨대 어두운 환경, 비포장도로, 광활한 평지 등에는 적용이 불가하다는 한계가 있다.In the case of CCTV or black box images used for emotions, such as forensic science, it is difficult to obtain measurement data by extracting correction parameters from a camera. In general, the method of calculating the average speed in the coordinate interval after selecting fixed coordinates in the image is used, but it is difficult to analyze the instantaneous speed change or viewpoint, and it is difficult to extract the fixed coordinates from the image, for example, dark environment, There is a limit that it is not applicable to a dirt road or a wide flat land.

본 발명은 비조화비(cross-ratio)를 이용하여 신속하고 정확하게 대상체의 이동 정보를 산출할 수 있는 장치 및 방법을 제공한다.The present invention provides an apparatus and method capable of quickly and accurately calculating movement information of an object using a cross-ratio.

본 발명의 일 측면은, 이동하는 대상체의 이미지 프레임을 획득하는 카메라와, 상기 카메라로부터 복수개의 이미지 프레임을 전달받고, 각각의 이미지 프레임에서 상기 대상체의 기준점의 위치 변화를 추출하는 이동 정보 추출부와, 제1 환경에서 상기 카메라가 촬상한 이미지 프레임 사이에서 상기 기준점의 위치 변화와 상기 대상체의 비조화비(Cross-ratio)를 이용하여, 상기 대상체가 이동한 픽셀상의 제1 거리를 측정하는 이동 거리 측정부와, 상기 제1 거리를 보정하여, 상기 제1 환경에서 상기 대상체가 3차원 공간에서 이동한 실제 거리인 제2 거리를 산출하는 제1 이동 거리 산출부와, 상기 제1 거리와 상기 제2 거리의 대응관계를 레퍼런스 데이터로 저장한 기준 데이터 저장부, 및 상기 제1 환경보다 식별력이 낮은 제2 환경에서 상기 카메라가 촬상한 이미지 프레임 사이에서 상기 기준점의 위치 변화와 상기 레퍼런스 데이터를 비교하여, 상기 제2 환경에서 상기 대상체의 실제 이동 거리인 제3 거리를 산출하는 제2 이동 거리 산출부를 포함하는 비조화비를 이용하여 대상체의 이동 정보를 측정하는 장치를 제공한다.According to an aspect of the present invention, a camera for acquiring an image frame of a moving object, a movement information extracting unit for receiving a plurality of image frames from the camera, and extracting a position change of a reference point of the object in each image frame; And a moving distance measuring a first distance on a pixel to which the object is moved by using a change in position of the reference point and a cross-ratio of the object between image frames captured by the camera in a first environment. A first moving distance calculator configured to correct the first distance to calculate a second distance that is an actual distance of the object in a three-dimensional space in the first environment, the first distance and the first distance; A reference data storage unit storing the correspondence relationship of two distances as reference data, and the image captured by the camera in a second environment having a lower discrimination power than the first environment. An object using a non-harmonic ratio including a second moving distance calculator configured to compare a position change of the reference point and the reference data between unknown frames and calculate a third distance, which is an actual moving distance of the object in the second environment; It provides a device for measuring the movement information of.

또한, 상기 이동 거리 측정부는 비교하는 상기 이미지 프레임에서, 상기 대상체의 기 설정된 제1 기준점과 제2 기준점 사이의 거리인 기준 구간이 서로 중첩하는지 구분할 수 있다.The moving distance measuring unit may distinguish whether or not the reference sections, which are distances between the first reference point and the second reference point of the object, overlap each other in the image frames to be compared.

또한, 상기 이동 거리 측정부는 비교하는 상기 이미지 프레임에서 상기 기준 구간이 중첩되면, 하기의 수학식에 따라 상기 제1 거리를 산출할 수 있다.The movement distance measuring unit may calculate the first distance according to the following equation when the reference intervals overlap in the image frames to be compared.

Figure 112019074402405-pat00001
Figure 112019074402405-pat00001

D1: 제1 거리, L: 제1 기준점과 제2 기준점 사이의 거리(기준 구간), R: 대상체의 비조화비D1: first distance, L: distance between the first reference point and the second reference point (reference section), R: non-harmonization ratio of the object

또한, 상기 이동 거리 측정부는 비교하는 상기 이미지 프레임에서 상기 기준 구간이 연속되면, 하기의 수학식에 따라 상기 제1 거리를 산출할 수 있다.The moving distance measuring unit may calculate the first distance according to the following equation when the reference section is continuous in the image frames to be compared.

D1 = LD1 = L

D1: 제1 거리, L: 제1 기준점과 제2 기준점 사이의 거리(기준 구간)D1: first distance, L: distance between the first reference point and the second reference point (reference section)

또한, 상기 이동 거리 측정부는 비교하는 상기 이미지 프레임에서 상기 기준 구간이 이격되면, 하기의 수학식에 따라 상기 제1 거리를 산출할 수 있다.The moving distance measuring unit may calculate the first distance according to the following equation when the reference section is spaced apart from the image frames to be compared.

Figure 112019074402405-pat00002
Figure 112019074402405-pat00002

D1: 제1 거리, L: 제1 기준점과 제2 기준점 사이의 거리(기준 구간), R: 대상체의 비조화비D1: first distance, L: distance between the first reference point and the second reference point (reference section), R: non-harmonization ratio of the object

또한, 상기 제1 이동 거리 산출부는 기 저장된 상기 제1 거리에 대한 보정 함수로부터 상기 제2 거리를 산출할 수 있다.The first moving distance calculator may calculate the second distance from a previously stored correction function for the first distance.

또한, 상기 제2 거리 및 제3 거리 중 적어도 하나를 이용하여, 상기 대상체의 실제 이동 속도를 산출하는 속도 산출부를 더 포함할 수 있다.The apparatus may further include a speed calculator configured to calculate an actual moving speed of the object by using at least one of the second distance and the third distance.

또한, 상기 대상체의 실제 이동 속도는 하기의 수학식에 따라 산출될 수 있다.In addition, the actual moving speed of the object may be calculated according to the following equation.

Figure 112019074402405-pat00003
Figure 112019074402405-pat00003

Vi,j 는 i번째 이미지 프레임에서 j번째 이미지 프레임까지 대상체의 평균속도이고, D2i,j는 i번째 이미지 프레임에서 j번째 이미지 프레임까지 대상체의 제2 거리 또는 제3 거리이고, FPS(Frames per second)는 초당 이미지 프레임의 개수이고, |i-j|는 i번째 이미지 프레임에서 j번째 이미지 프레임 사이의 프레임 개수이다.V i, j is the average speed of the object from the i th image frame to the j th image frame, D2 i, j is the second or third distance of the object from the i th image frame to the j th image frame, and FPS (Frames per second) is the number of image frames per second, and | ij | is the number of frames between the i th image frame and the j th image frame.

또한, 상기 이동 정보 추출부는 상기 제1 환경에서 상기 대상체의 기준점을 차량의 전륜의 회전 중심 위치와 후륜의 회전 중심 위치로 설정하고, 상기 제2 환경에서 상기 대상체의 기준점을 차량의 기 설정된 하나의 위치로 설정할 수 있다.In addition, the movement information extracting unit sets the reference point of the object in the first environment to the rotation center position of the front wheel of the vehicle and the rotation center position of the rear wheel, and the reference point of the object in the second environment Can be set to position.

또한, 각각의 대상체 마다 형상 정보를 저장하는 대상체 정보 저장부를 더 포함하고, 상기 이동 정보 추출부는 상기 대상체 정보 저장부의 상기 형상 정보를 이용하여, 상기 이미지 프레임에 포함된 대상체를 특정할 수 있다.The apparatus may further include an object information storage configured to store shape information for each object, and the movement information extractor may specify an object included in the image frame using the shape information of the object information storage.

본 발명의 다른 측면은, 카메라로부터 이동하는 대상체의 복수개의 이미지 프레임을 획득하는 단계와, 복수개의 상기 이미지 프레임을 비교하여, 상기 대상체의 기준점의 위치 변화를 추출하는 단계와, 제1 환경에서 상기 카메라가 촬상한 이미지 프레임에서 상기 기준점의 위치 변화와 상기 대상체의 비조화비(Cross-ratio)를 이용하여, 비교하는 상기 이미지 프레임에서 상기 대상체가 이동한 제1 거리를 산출하는 단계와, 상기 제1 거리를 상기 대상체가 상기 제1 환경의 3차원 공간에서 이동한 실제 거리인 제2 거리로 보정하는 단계와, 상기 제1 거리와 상기 제2 거리의 대응관계를 레퍼런스 데이터로 저장하는 단계, 및 상기 제1 환경보다 식별력이 낮은 제2 환경에서 상기 카메라가 촬상한 이미지 프레임에서 상기 기준점의 위치 변화와 상기 레퍼런스 데이터를 비교하여, 비교하는 상기 이미지 프레임에서 상기 대상체가 상기 제2 환경의 3차원 공간에서 이동한 실제거리인 제3 거리를 산출하는 단계를 포함하는 비조화비를 이용한 대상체의 이동 정보 측정방법을 제공한다.According to another aspect of the present invention, there is provided a method of obtaining a plurality of image frames of an object moving from a camera, comparing the plurality of image frames, extracting a change in position of a reference point of the object, and Calculating a first distance that the object is moved in the image frame to be compared by using a positional change of the reference point and a cross-ratio of the object in the image frame photographed by the camera; Correcting a first distance to a second distance, which is an actual distance traveled by the object in a three-dimensional space of the first environment, storing a corresponding relationship between the first distance and the second distance as reference data, and The positional change of the reference point and the reference data in the image frame photographed by the camera in a second environment having a lower discrimination power than the first environment Comparing the data, and calculating a third distance, which is an actual distance of the object moving in the three-dimensional space of the second environment, in the image frames to be compared. to provide.

또한, 상기 제1 거리를 산출하는 단계는 비교하는 상기 이미지 프레임에서, 상기 대상체의 기 설정된 제1 기준점과 제2 기준점 사이의 거리인 기준 구간이 서로 중첩하는지 구분할 수 있다.The calculating of the first distance may determine whether the reference sections, which are distances between the first reference point and the second reference point of the object, overlap each other in the image frames to be compared.

또한, 상기 제1 거리를 산출하는 단계는 비교하는 상기 이미지 프레임에서 상기 기준 구간이 중첩되면, 하기의 수학식에 따라 상기 제1 거리를 산출할 수 있다.In the calculating of the first distance, when the reference intervals overlap in the image frames to be compared, the first distance may be calculated according to the following equation.

Figure 112019074402405-pat00004
Figure 112019074402405-pat00004

D1: 제1 거리, L: 제1 기준점과 제2 기준점 사이의 거리(기준 구간), R: 대상체의 비조화비D1: first distance, L: distance between the first reference point and the second reference point (reference section), R: non-harmonization ratio of the object

또한, 상기 제1 거리를 산출하는 단계는 비교하는 상기 이미지 프레임에서 상기 기준 구간이 연속되면, 하기의 수학식에 따라 상기 제1 거리를 산출할 수 있다.In the calculating of the first distance, when the reference section is continuous in the image frames to be compared, the first distance may be calculated according to the following equation.

D1 = LD1 = L

D1: 제1 거리, L: 제1 기준점과 제2 기준점 사이의 거리(기준 구간)D1: first distance, L: distance between the first reference point and the second reference point (reference section)

또한, 상기 제1 거리를 산출하는 단계는 비교하는 상기 이미지 프레임에서 상기 기준 구간이 이격되면, 하기의 수학식에 따라 상기 제1 거리를 산출할 수 있다.In the calculating of the first distance, when the reference section is spaced apart from the image frames to be compared, the first distance may be calculated according to the following equation.

Figure 112019074402405-pat00005
Figure 112019074402405-pat00005

D1: 제1 거리, L: 제1 기준점과 제2 기준점 사이의 거리(기준 구간), R: 대상체의 비조화비D1: first distance, L: distance between the first reference point and the second reference point (reference section), R: non-harmonization ratio of the object

또한, 상기 제2 거리 또는 상기 제3 거리 중 적어도 하나를 이용하여, 상기 대상체의 실제 이동 속도를 산출하는 단계를 더 포함할 수 있다.The method may further include calculating an actual moving speed of the object by using at least one of the second distance and the third distance.

또한, 상기 대상체의 실제 이동 속도를 산출하는 단계는 하기의 수학식에 따라 상기 실제 이동 속도를 계산할 수 있다.In the calculating of the actual moving speed of the object, the actual moving speed may be calculated according to the following equation.

Figure 112019074402405-pat00006
Figure 112019074402405-pat00006

Vi,j 는 i번째 이미지 프레임에서 j번째 이미지 프레임까지 대상체의 평균속도이고, D2i,j는 i번째 이미지 프레임에서 j번째 이미지 프레임까지 대상체의 제2 거리또는 제3 거리이고, FPS(Frames per second)는 초당 이미지 프레임의 개수이고, |i-j|는 i번째 이미지 프레임에서 j번째 이미지 프레임 사이의 프레임 개수이다.V i, j is the average velocity of the object from the i th image frame to the j th image frame, D2 i, j is the second or third distance of the object from the i th image frame to the j th image frame, and FPS (Frames per second) is the number of image frames per second, and | ij | is the number of frames between the i th image frame and the j th image frame.

또한, 상기 대상체의 기준점의 위치변화를 추출하는 단계는 상기 제1 환경에서 상기 대상체의 기준점을 차량의 전륜의 회전 중심 위치와 후륜의 회전 중심 위치로 설정하고, 상기 제2 환경에서 상기 대상체의 기준점을 차량의 기 설정된 하나의 위치로 설정할 수 있다.The extracting of the change of the position of the reference point of the object may include setting the reference point of the object in the first environment as the rotation center position of the front wheel of the vehicle and the rotation center position of the rear wheel, and in the second environment, the reference point of the object. May be set to one preset position of the vehicle.

본 발명에 따른 비조화비를 이용하여 대상체의 이동 정보를 측정하는 장치 및 방법은 주간시에 획득한 정보를 기초로, 야간시에 촬상한 이미지 프레임에서 대상체의 이동 정보를 정확하고 간단하게 측정할 수 있다. 대상체의 식별력이 높은 제1 환경에서는 비조화를 이용하여 2차원으로 촬상된 이미지로부터 3차원에서의 이동 정보를 정확하게 산출하고 이를 레퍼런스 데이터로 저장하고, 대상체의 식별력이 낮은 제2 환경에서는 촬상된 이미지에서 기준점의 픽셀상의 위치변화와 레퍼런스 데이터를 비교하여 실제 이동 거리 및 속도를 정확하게 산출할 수 있다.An apparatus and method for measuring movement information of an object using a non-harmonic ratio according to the present invention may accurately and simply measure movement information of an object in an image frame photographed at night based on information obtained at daytime. Can be. In the first environment where the object is highly distinguishable, the moving information in three dimensions is accurately calculated from the image captured in two dimensions using non-harmonization and stored as reference data, and the image is captured in the second environment where the object is low in recognition power By comparing the positional change of the reference point on the pixel with the reference data, the actual moving distance and speed can be calculated accurately.

본 발명의 실시예에 따른 비조화비를 이용하여 대상체의 이동 정보를 측정하는 장치 및 방법은 카메라의 보정을 위한 추가 작업이 없으며, 이미지 내에서 거리 계측없이 기준점만 좌표로 변환하여 신속하게 이동 정보를 산출할 수 있다.The apparatus and method for measuring movement information of an object using a non-harmonic ratio according to an embodiment of the present invention do not require additional work for calibrating a camera, and convert the reference point to coordinates without measuring a distance within an image to quickly move information. Can be calculated.

본 발명의 실시예에 따른 비조화비를 이용하여 대상체의 이동 정보를 측정하는 장치 및 방법은 날씨나 주변환경에 영향을 받지 않고 정확하게 차량의 이동 거리 및 속도를 분석할 수 있으며, 각 순간 마다 대상체의 속도변화를 분석하여 교통상황의 예측 및 재현에 효과적으로 사용할 수 있다.The apparatus and method for measuring movement information of an object using a non-harmonic ratio according to an embodiment of the present invention can accurately analyze a moving distance and a speed of a vehicle without being influenced by the weather or the surrounding environment, and the object at each moment. Speed change can be used to effectively predict and reproduce traffic conditions.

본 발명의 실시예에 따른 비조화비를 이용하여 대상체의 이동 정보를 측정하는 장치 및 방법은 각 대상체의 형상에 관한 기준 데이터를 저장하고, 이를 활용하여 신속하게 정확하게 대상체의 이동 정보를 계산할 수 있다. 물론 이러한 효과에 의해 본 발명의 범위가 한정되는 것은 아니다.The apparatus and method for measuring movement information of an object using a non-harmonic ratio according to an embodiment of the present invention may store reference data about the shape of each object, and quickly calculate the movement information of the object quickly and accurately by using the same. . Of course, the scope of the present invention is not limited by these effects.

도 1은 본 발명의 일 실시예에 따른 조화비를 이용하여 대상체의 이동 정보를 측정하는 장치를 도시하는 구조도이다.
도 2는 도 1의 대상체의 이동 정보 추출부를 도시하는 구조도이다.
도 3a 내지 도 3c는 대상체의 위치에 따라 이동 거리를 도시하는 도면이다.
도 4는 제1 거리와 제2 거리의 관계를 도시하는 그래프이다.
도 5는 제2 환경에서 대상체의 이동거리를 도시하는 도면이다.
도 6은 본 발명의 다른 실시예에 따른 조화비를 이용하여 대상체의 이동 정보를 측정하는 방법을 도시하는 순서도이다.
1 is a structural diagram illustrating an apparatus for measuring movement information of an object using a harmonic ratio according to an embodiment of the present invention.
FIG. 2 is a structural diagram illustrating a movement information extractor of the object of FIG. 1.
3A to 3C are diagrams illustrating a moving distance according to a position of an object.
4 is a graph showing a relationship between a first distance and a second distance.
5 is a diagram illustrating a moving distance of an object in a second environment.
6 is a flowchart illustrating a method of measuring movement information of an object using a harmonic ratio according to another embodiment of the present invention.

본 발명은 다양한 변환을 가할 수 있고 여러 가지 실시예를 가질 수 있는 바, 특정 실시예들을 도면에 예시하고 상세한 설명에 상세하게 설명하고자 한다. 본 발명의 효과 및 특징, 그리고 그것들을 달성하는 방법은 도면과 함께 상세하게 후술되어 있는 실시예들을 참조하면 명확해질 것이다. 그러나 본 발명은 이하에서 개시되는 실시예들에 한정되는 것이 아니라 다양한 형태로 구현될 수 있다.As the invention allows for various changes and numerous embodiments, particular embodiments will be illustrated in the drawings and described in detail in the written description. Effects and features of the present invention, and methods of achieving them will be apparent with reference to the embodiments described below in detail together with the drawings. However, the present invention is not limited to the embodiments disclosed below but may be implemented in various forms.

이하, 첨부된 도면을 참조하여 본 발명의 실시예들을 상세히 설명하기로 하며, 도면을 참조하여 설명할 때 동일하거나 대응하는 구성 요소는 동일한 도면부호를 부여하고 이에 대한 중복되는 설명은 생략하기로 한다.Hereinafter, exemplary embodiments of the present invention will be described in detail with reference to the accompanying drawings, and the same or corresponding components will be denoted by the same reference numerals, and redundant description thereof will be omitted. .

이하의 실시예에서, 단수의 표현은 문맥상 명백하게 다르게 뜻하지 않는 한, 복수의 표현을 포함한다.In the following examples, the singular forms "a", "an" and "the" include plural forms unless the context clearly indicates otherwise.

이하의 실시예에서, 포함하다 또는 가지다 등의 용어는 명세서상에 기재된 특징, 또는 구성요소가 존재함을 의미하는 것이고, 하나 이상의 다른 특징들 또는 구성요소가 부가될 가능성을 미리 배제하는 것은 아니다.In the following examples, the terms including or having have meant that there is a feature or component described in the specification and does not preclude the possibility of adding one or more other features or components.

어떤 실시예가 달리 구현 가능한 경우에 특정한 공정 순서는 설명되는 순서와 다르게 수행될 수도 있다. 예를 들어, 연속하여 설명되는 두 공정이 실질적으로 동시에 수행될 수도 있고, 설명되는 순서와 반대의 순서로 진행될 수 있다.In the case where an embodiment may be implemented differently, a specific process order may be performed out of the described order. For example, two processes described in succession may be performed substantially simultaneously or in the reverse order of the described order.

도면에서는 설명의 편의를 위하여 구성 요소들이 그 크기가 과장 또는 축소될 수 있다. 예컨대, 도면에서 나타난 각 구성의 크기 및 두께는 설명의 편의를 위해 임의로 나타내었으므로, 이하의 실시예는 반드시 도시된 바에 한정되지 않는다.In the drawings, components may be exaggerated or reduced in size for convenience of description. For example, the size and thickness of each component shown in the drawings are arbitrarily shown for convenience of description, and therefore the following embodiments are not necessarily limited to those shown.

도 1은 본 발명의 일 실시예에 따른 조화비를 이용하여 대상체의 이동 정보를 측정하는 장치(1)를 도시하는 구조도이다.1 is a structural diagram illustrating an apparatus 1 for measuring movement information of an object using a harmonic ratio according to an embodiment of the present invention.

도 1을 참조하면, 대상체의 이동 정보를 측정하는 장치(1)는 카메라(10), 기준 데이터 저장부(20), 컨트롤러(30) 및 표시부(40)를 포함하고, 컨트롤러(30)는 이동 정보 추출부(31), 이동 거리 측정부(32), 제1 이동 거리 산출부(33), 제2 이동거리 산출부(34), 기준 데이터 저장부(35) 및 속도 산출부(36)를 구비할 수 있다.Referring to FIG. 1, an apparatus 1 for measuring movement information of an object includes a camera 10, a reference data storage 20, a controller 30, and a display 40, and the controller 30 moves. The information extracting unit 31, the moving distance measuring unit 32, the first moving distance calculating unit 33, the second moving distance calculating unit 34, the reference data storing unit 35 and the speed calculating unit 36 It can be provided.

대상체의 이동 정보를 측정하는 장치(1)는 이동하는 대상체의 위치 정보, 속도 정보, 가속도 정보 등을 측정할 수 있다. 특히, 대상체의 이동 정보를 측정하는 장치(1)는 카메라(10)에서 획득한 이미지 프레임으로부터 대상체의 위치 정보를 추출 및 가공하여, 실제 3차원 공간에서의 대상체의 위치 정보, 속도 정보 또는 가속도 정보 등을 측정할 수 있다. 즉, 대상체의 이동 정보를 측정하는 장치(1)는 2차원의 영상 이미지에서 위치 정보를 추출하여, 3차원의 실제로 대상체가 이동한 위치나 속도에 관한 정보를 정확하게 획득할 수 있다.The apparatus 1 for measuring movement information of an object may measure position information, velocity information, acceleration information, and the like of a moving object. In particular, the apparatus 1 for measuring the movement information of the object extracts and processes the position information of the object from the image frame acquired by the camera 10, and thus, the position information, velocity information, or acceleration information of the object in a real three-dimensional space. Etc. can be measured. That is, the apparatus 1 for measuring the movement information of the object may extract position information from a two-dimensional image image to accurately obtain information about a position or a speed at which the object actually moves in three dimensions.

대상체는 이동 가능한 다양한 물체일 수 있다. 예컨대, 대상체는 사람, 동물, 차량, 항공기, 배 등과 같이 이동 중에 카메라(10)에 촬상 될 수 있는 다양한 목적물일 수 있다. 다만, 이하에서는 설명의 편의를 위해서 대상체가 차량인 경우를 중심으로 설명하기로 한다.The object may be various objects that are movable. For example, the object may be various objects that may be captured by the camera 10 while moving, such as a person, an animal, a vehicle, an aircraft, a ship, and the like. However, hereinafter, the description will be given based on the case where the object is a vehicle for convenience of description.

이하에서 제1 환경은 카메라(10)에서 생성한 이미지 프레임의 해상도가 높은 환경으로, 예컨대 주변이 밝은 환경, 날씨가 맑은 상황 등과 같이 촬상한 이미지에서 대상체를 명확하게 식별할 수 있는 환경으로 정의한다. 다만, 이하에서는 설명의 편의를 위해서 제1 환경이 주간의 밝은 환경일 경우를 중심으로 설명하기로 한다.Hereinafter, the first environment is defined as an environment in which the resolution of the image frame generated by the camera 10 is high, for example, an environment in which the object can be clearly identified in the captured image, such as a bright environment and a clear weather. . However, hereinafter, the first environment will be described based on the case where the first environment is a bright environment for the convenience of description.

이하에서 제2 환경은 카메라(10)에 생성한 이미지 프레임이 상기 제1 환경에서 촬상한 이미지 프레임보다 해상도가 낮은 환경이다. 예컨대, 제2 환경은 주면이 어두운 환경, 날씨가 흐리거나 비가 오는 상황 등과 같이, 촬상한 이미지에서 대상체를 명확하게 식별하기 어렵거나, 대상체의 일부만을 식별할 수 있는 환경으로 정의한다. 다만, 이하에서는 설명의 편의를 위해서 제2 환경이 야간의 어두운 환경일 경우를 중심으로 설명하기로 한다.Hereinafter, the second environment is an environment in which the image frame generated in the camera 10 has a lower resolution than the image frame picked up in the first environment. For example, the second environment is defined as an environment in which the object is not clearly identified in the captured image or only a part of the object can be identified, such as an environment in which the main surface is dark, a weather is cloudy or rainy. However, hereinafter, the description will be given based on the case where the second environment is a dark environment at night for convenience of description.

카메라(10)는 이동하는 대상체를 촬상하여 이미지 프레임을 획득할 수 있다. 카메라(10)는 연속적으로 대상체를 촬상하여 복수개의 이미지 프레임을 획득할 수 있다. The camera 10 may acquire an image frame by capturing a moving object. The camera 10 may acquire a plurality of image frames by continuously photographing an object.

카메라(10)는 제1 환경에서 이미지 프레임을 생성할 수 있으며, 상기 제1 환경 보다 대상체의 식별력이 낮은 제2 환경에서 이미지 프레임을 생성할 수 있다. The camera 10 may generate an image frame in a first environment, and may generate an image frame in a second environment in which the object of identification of the object is lower than that of the first environment.

기준 데이터 저장부(20)는 각각의 대상체의 기준 데이터, 일 예로 형상 정보를 저장할 수 있다. 예컨대, 도로에 운행중인 다양한 종류의 차량의 형상 정보를 저장할 수 있다. 이때, 형상 정보는 차량의 외형에 관한 정보, 차량의 전륜과 후륜 사이의 거리에 관한 정보, 헤드라이트의 위치에 관한 정보 등 다양하게 설정될 수 있다.The reference data storage 20 may store reference data of each object, for example, shape information. For example, shape information of various types of vehicles running on a road can be stored. In this case, the shape information may be set in various ways such as information about the appearance of the vehicle, information about the distance between the front wheel and the rear wheel of the vehicle, information about the position of the headlight.

컨트롤러(30)는 카메라(10)에서 복수개의 이미지 프레임을 전달받고, 이를 가공하여, 이동하는 대상체의 이동 정보를 산출할 수 있다. 컨트롤러(30)는 이동 정보 추출부(31), 이동 거리 측정부(32), 제1 이동 거리 산출부(33), 제2 이동 거리 산출부(34), 기준 데이터 저장부(35) 및 속도 산출부(36)를 구비할 수 있다.The controller 30 may receive a plurality of image frames from the camera 10, process the same, and calculate movement information of a moving object. The controller 30 includes a movement information extracting unit 31, a moving distance measuring unit 32, a first moving distance calculating unit 33, a second moving distance calculating unit 34, a reference data storage unit 35, and a speed. The calculator 36 may be provided.

이동 정보 추출부(31)는 카메라(10)로부터 복수개의 이미지 프레임을 전달받고, 각각의 이미지 프레임에서 대상체의 기준점의 위치 변화를 추출할 수 있다. 또한, 이동 정보 추출부(31)는 각각의 이미지 프레임에서 차량의 기준점의 좌표를 추적할 수 있다.The movement information extractor 31 may receive a plurality of image frames from the camera 10 and extract a change in the position of the reference point of the object from each image frame. In addition, the movement information extractor 31 may track the coordinates of the reference point of the vehicle in each image frame.

대상체의 기준점은 제1 환경에서 대상체의 비조화비를 정의하기 위해서 사용되며, 한 쌍인 제1 기준점과 제2 기준점을 가질 수 있다. 제1 기준점과 제2 기준점은 특정 위치에 한정되지 않으며 대상체에 따라 다양하게 설정될 수 있다. 제1 환경(주간시)에서는 대상체의 기준점은 한쌍으로 특정될 수 있다. 주간시에는 카메라를 통해서 획득한 이미지 프레임으로부터 픽셀의 위치 정보를 명확하게 획득할 수 있으므로, 대상체의 비조화비를 정확하게 정의하기 위해서 한 쌍의 기준점을 이용한다. 일 예로, 차량의 전방 범퍼의 위치와, 차량의 후방 범퍼의 위치 등 다양하게 설정될 수 있다. 다만, 이하에서는 설명의 편의를 위해서 제1 기준점은 차량의 후륜의 위치이고, 제2 기준점은 차량의 전륜의 위치인 경우를 중심으로 설명하기로 한다.The reference point of the object is used to define a non-harmonization ratio of the object in the first environment, and may have a pair of first reference point and second reference point. The first reference point and the second reference point are not limited to a specific position and may be variously set according to the object. In the first environment (weekly), the reference points of the objects may be specified in pairs. In the daytime, since the position information of the pixel can be clearly obtained from the image frame acquired through the camera, a pair of reference points are used to accurately define the non-harmonization ratio of the object. For example, the position of the front bumper of the vehicle and the position of the rear bumper of the vehicle may be variously set. However, hereinafter, the first reference point is the position of the rear wheel of the vehicle, and the second reference point will be described with reference to the case of the position of the front wheel of the vehicle for convenience of description.

또한, 대상체의 기준점은 제2 환경에서 차량의 위치 이동을 특정하기 위해서 사용될 수 있다. 제2 환경에서는 대상체의 기준점은 하나로 특정될 수 있다. 야간시에는 카메라를 통해서 획득한 이미지 프레임으로부터 복수개의 픽셀의 위치정보를 정확하게 획득하는데 한계가 있으므로, 하나의 기준점을 사용한다. 예컨대, 기준점은 차량의 헤드 램프나 차량의 범퍼 등으로 특정될 수 있다.Also, the reference point of the object may be used to specify the positional movement of the vehicle in the second environment. In the second environment, the reference point of the object may be specified as one. At night, since there is a limit in accurately obtaining position information of a plurality of pixels from an image frame acquired through a camera, one reference point is used. For example, the reference point may be specified as a head lamp of the vehicle, a bumper of the vehicle, or the like.

도 2는 도 1의 대상체의 이동 정보 추출부(31)를 도시하는 구조도이다.FIG. 2 is a structural diagram illustrating the movement information extracting unit 31 of the object of FIG. 1.

도 2를 참조하면, 이동 정보 추출부(31)는 대상체의 기준 정보 획득부(311) 및 기준 구간 산출부(312)를 구비할 수 있다. Referring to FIG. 2, the movement information extractor 31 may include a reference information acquirer 311 and a reference section calculator 312 of the object.

기준 정보 획득부(311)는 대상체 정보 저장부(20)와 연결되며, 대상체를 특정할 수 있는 정보를전달 받을 수 있다. 기준 정보 획득부(311)는 대상체 정보 저장부(20)의 형상 정보를 이용하여, 상기 이미지 프레임에 촬상된 대상체를 특정할 수 있다. 일예로, 이미지 프레임에서 차량의 형상을 추출하고, 이를 기준 데이터와 비교하여 이동하는 대상체가 특정 모델의 차량임을 특정할 수 있다.The reference information acquisition unit 311 is connected to the object information storage unit 20 and may receive information for specifying the object. The reference information acquisition unit 311 may specify an object captured in the image frame by using shape information of the object information storage unit 20. For example, the shape of the vehicle may be extracted from the image frame and compared with the reference data to specify that the moving object is a vehicle of a specific model.

기준 구간 산출부(312)는 제1 환경에서 획득한 이미지 프레임에서 제1 기준점과 제2 기준점을 특정할 수 있다. 제1 기준점은 후륜의 회전 중심이고, 제2 기준점은 전륜의 회전 중심이다. 또한, 제1 기준점과 제2 기준점 사이의 거리는 기준 구간으로 정의할 수 있다.The reference section calculator 312 may specify a first reference point and a second reference point in the image frame acquired in the first environment. The first reference point is the rotation center of the rear wheel, and the second reference point is the rotation center of the front wheel. In addition, the distance between the first reference point and the second reference point may be defined as a reference section.

기준 구간 산출부(312)는 카메라(10)에서 전달받은 복수개의 이미지 프레임마다 각각 제1 기준점과 제2 기준점을 특정하여, 기준 구간을 산출할 수 있다.The reference section calculator 312 may calculate a reference section by specifying a first reference point and a second reference point for each of the plurality of image frames received from the camera 10.

이동 거리 측정부(32)는 제1 환경에서 기준점의 위치 변화와 대상체의 비조화비(Cross-ratio)를 이용하여, 이미지 프레임 사이에서 대상체가 이동한 제1 거리를 산출할 수 있다.The movement distance measuring unit 32 may calculate the first distance that the object moves between image frames by using the position change of the reference point and the cross-ratio of the object in the first environment.

사영변환(Perspective Transformation)은 한 평면에서 다른 평면으로 직선의 직선성을 유지하는 선형 변환이다. 사영기하학에서 서로 다른 두 직선은 한 점에서 만나게 된다. 사영기하학에서 같은 직선 위에 있는 네 점의 비조화비는 사영불변량으로써 일정하다. 따라서, 실제의 3차원 공간에서 4개의 포인트(A, B, C, D)를 잇는 직선과, 이미지 프레임에서 4개의 포인트(A', B', C', D')를 잇는 직선으로부터 양 차원 간의 비조화비를 가질 수 있다. 따라서, 본 발명은 이미지 프레임에서 비조화비를 획득하여, 이를 기초로 대상체가 실제 3차원에서 이동한 거리 및 속도를 산출할 수 있다.Perspective Transformation is a linear transformation that maintains the linearity of a straight line from one plane to another. In projective geometry, two different straight lines meet at one point. In projective geometry, the nonharmonic ratios of four points on the same line are constant as projective invariants. Therefore, both dimensions from a straight line connecting four points (A, B, C, D) in a real three-dimensional space, and a straight line connecting four points (A ', B', C ', D') in an image frame. It may have an incompatibility ratio of the liver. Accordingly, the present invention can obtain a non-harmonic ratio in an image frame, and calculate the distance and speed at which the object has moved in actual three dimensions based on this.

이하에서 대상체의 비조화비는 디지털 이미지 처리를 통해 픽셀의 좌표값을 이용하여 계산될 수 있다. 비조화비는 제1 거리를 산출하기 전에 미리 이미지 처리를 통해서 계산된다.Hereinafter, the non-harmonization ratio of the object may be calculated using the coordinate values of the pixels through digital image processing. The non-harmonization ratio is calculated through image processing in advance before calculating the first distance.

도 3a 내지 도 3b는 대상체의 위치에 따라 이동 거리를 도시하는 도면이다.3A to 3B are diagrams illustrating a moving distance according to the position of the object.

도 3a 내지 도 3b를 참조하면, 시간에 따라 연속적으로 촬상된 이미지 프레임은 대상체(차량)의 제1 기준점과 제2 기준점 사이의 거리가 중첩되는지 여부에 따라 다음과 같이 3가지 케이스가 발생한다.3A to 3B, three cases of an image frame continuously captured according to time occur according to whether or not a distance between a first reference point and a second reference point of an object (vehicle) overlaps.

이동 거리 측정부(32)는 아래와 같이, 비교하는 이미지 프레임에서 대상체의 기 설정된 제1 기준점과 제2 기준점 사이의 거리인 기준 구간이 서로 중첩하는지 구분하고, 각각의 케이스에 따라 제1 거리를 산출할 수 있다.The movement distance measuring unit 32 distinguishes whether reference intervals, which are distances between the first reference point and the second reference point of the object, overlap each other in the image frames to be compared, and calculates a first distance according to each case. can do.

도 3a를 보면, 비교하는 이미지 프레임에서 기준 구간이 중첩된다. 처음의 프레임(T1)에서 제1 기준점은 (A')이고, 제2 기준점은 (B')이다. 이후 프레임(T2)에서 제1 기준점은 (C')으로 변하고, 제2 기준점은 (D')로 변화한다. 이때, C'은 A'과 B' 사이의 구간에 존재한다.Referring to FIG. 3A, reference intervals overlap in image frames to be compared. In the first frame T1, the first reference point is (A ') and the second reference point is (B'). Thereafter, in the frame T2, the first reference point changes to (C ′), and the second reference point changes to (D ′). In this case, C 'is present in a section between A' and B '.

이때, 비조화비(R)는 아래와 같이 정의되고, 하기의 수학식 1에 따라 제1 거리를 산출할 수 있다.In this case, the non-harmonic ratio R may be defined as follows, and the first distance may be calculated according to Equation 1 below.

[수학식1][Equation 1]

Figure 112019074402405-pat00007
Figure 112019074402405-pat00007

Figure 112019074402405-pat00008
Figure 112019074402405-pat00008

D1: 제1 거리, L: 제1 기준점과 제2 기준점 사이의 거리(기준 구간), R: 대상체의 비조화비D1: first distance, L: distance between the first reference point and the second reference point (reference section), R: non-harmonization ratio of the object

도 3b를 보면, 비교하는 이미지 프레임에서 기준 구간이 연속된다. 처음의 프레임(T1)에서 제1 기준점은 (A')이고, 제2 기준점은 (B')이다. 이후 프레임(T2)에서 제1 기준점은 (C')으로 변하고, 제2 기준점은 (D')로 변화한다. 이때, B'의 위치와 C'의 위치는 동일하다.Referring to FIG. 3B, reference intervals are continued in the image frames to be compared. In the first frame T1, the first reference point is (A ') and the second reference point is (B'). Thereafter, in the frame T2, the first reference point changes to (C ′), and the second reference point changes to (D ′). At this time, the position of B 'and the position of C' is the same.

이때, 비조화비(R)는 특정되지 않으나, 하기의 수학식 2에 따라 제1 거리를 산출할 수 있다.In this case, although the non-harmonic ratio R is not specified, the first distance may be calculated according to Equation 2 below.

[수학식2][Equation 2]

D1 = LD1 = L

D1: 제1 거리, L: 제1 기준점과 제2 기준점 사이의 거리(기준 구간)D1: first distance, L: distance between the first reference point and the second reference point (reference section)

도 3c를 보면, 비교하는 이미지 프레임에서 기준 구간이 이격된다. 처음의 프레임(T1)에서 제1 기준점은 (A')이고, 제2 기준점은 (B')이다. 이후 프레임(T2)에서 제1 기준점은 (C')으로 변하고, 제2 기준점은 (D')로 변화한다. 이때, C'은 B'에서 이격된다.Referring to FIG. 3C, reference intervals are spaced apart from image frames to be compared. In the first frame T1, the first reference point is (A ') and the second reference point is (B'). Thereafter, in the frame T2, the first reference point changes to (C ′), and the second reference point changes to (D ′). At this time, C 'is spaced apart from B'.

이때, 비조화비(R)는 아래와 같이 정의되고, 하기의 수학식 3에 따라 제1 거리를 산출할 수 있다.In this case, the non-harmonic ratio R may be defined as follows, and the first distance may be calculated according to Equation 3 below.

[수학식3][Equation 3]

Figure 112019074402405-pat00009
Figure 112019074402405-pat00009

Figure 112019074402405-pat00010
Figure 112019074402405-pat00010

D1: 제1 거리, L: 제1 기준점과 제2 기준점 사이의 거리(기준 구간), R: 대상체의 비조화비D1: first distance, L: distance between the first reference point and the second reference point (reference section), R: non-harmonization ratio of the object

이동 거리 측정부(32)는 각 케이스따라 서로 다른 수학식 및 대상체의 비조화비를 이용하여, 비교하는 이미지 프레임에서 대상체가 제1 환경에서 픽셀상에서 이동한 D1을 계산할 수 있다.The movement distance measuring unit 32 may calculate D1 in which the object is moved on the pixel in the first environment in the image frame to be compared by using different equations and the non-harmonization ratio of the object according to each case.

제1 이동 거리 산출부(33)는 이미지 프레임 상에서 대상체가 이동한 거리인 제1 거리(D1)를 보정하여, 대상체가 제1 환경에서 3차원 공간에서 이동한 실제 거리인 제2 거리(D2)를 산출할 수 있다. The first moving distance calculator 33 corrects the first distance D1, which is the distance the object moves on the image frame, so that the second distance D2 is the actual distance that the object moves in the 3D space in the first environment. Can be calculated.

제1 이동 거리 산출부(33)는 다양한 보간법을 사용하여 제1 거리에서 제2 거리를 산출할 수 있다. 예컨대, 제1 이동 거리 산출부(33)는 기 저장된 제1 거리(D1)에 대한 보정 함수로부터 제2 거리(D2)를 산출할 수 있다.The first moving distance calculator 33 may calculate the second distance from the first distance by using various interpolation methods. For example, the first moving distance calculator 33 may calculate the second distance D2 from a correction function for the previously stored first distance D1.

도 4는 제1 거리(D1)와 제2 거리(D2)의 관계를 도시하는 그래프이다.4 is a graph showing the relationship between the first distance D1 and the second distance D2.

도 4를 참조하면, 기준 데이터 저장부(35)는 제1 거리(D1)와 제2 거리(D2)의 대응관계를 레퍼런스 데이터로 저장할 수 있다. 기준 데이터 저장부(35)는 이동 거리 측정부(32)에서 계산된 제1 거리(D1)와 제1 이동 거리 산출부(33)에서 산출된 제2 거리(D2)의 대응관계를 각각 함수로 저장할 수 있다. Referring to FIG. 4, the reference data storage unit 35 may store the correspondence relationship between the first distance D1 and the second distance D2 as reference data. The reference data storage unit 35 functions as a function the correspondence relationship between the first distance D1 calculated by the moving distance measuring unit 32 and the second distance D2 calculated by the first moving distance calculating unit 33, respectively. Can be stored.

도 4의 그래프는 이미지 프레임에서 대상체의 픽셀에서의 위치 변화인 D1과, 실제 3차원 공간에서 대상체가 이동한 거리인 D2사이의 보정 함수를 나타낸다. 도 4와 같이 픽셀 사이의 거리인 D1에 대응한 실제 3차원상의 이동거리인 D2의 관계를 가지는 레퍼런스 데이터를 함수형태로 기준 데이터 저장부(35)에 저장될 수 있다. 제1 환경에서 D1과 D2를 복수회 측정 및 산출하여, 레퍼런스 데이터를 도출할 수 있다.The graph of FIG. 4 illustrates a correction function between D1, which is a position change in a pixel of an object in an image frame, and D2, which is a distance traveled by an object in an actual three-dimensional space. As shown in FIG. 4, reference data having a relationship of D2, which is an actual three-dimensional moving distance corresponding to D1, which is a distance between pixels, may be stored in the reference data storage 35 as a function. The reference data may be derived by measuring and calculating D1 and D2 a plurality of times in the first environment.

도 5는 제2 환경에서 대상체의 이동거리를 도시하는 도면이다.5 is a diagram illustrating a moving distance of an object in a second environment.

도 5를 참조하면, 제2 이동 거리 산출부(34)는 제2 환경에서 기준점의 이미지 프레임 사이에서 위치 변화와, 레퍼런스 데이터를 이용하여, 제2 환경에서 대상체가 실제 이동한 거리를 제3 거리(D3)로 산출할 수 있다.Referring to FIG. 5, the second moving distance calculator 34 changes a position between an image frame of a reference point in a second environment and a reference distance to a third distance by using the reference data. It can calculate by (D3).

제2 이동 거리 산출부(34)는 제2 환경에서 대상체의 실제 이동 거리인 제3 거리(D3)를 계산하기 위해서 사용된다. 제2 환경에서는 카메라(10)가 선명한 이미지 프레임을 촬상하는데 어려움이 있다. 특히, 주변환경이 어두운 상태에서는 이미지에서 대상체의 기준점을 특정하는데 어려움이 있으며, 그 정확성도 상대적으로 낮다.The second moving distance calculator 34 is used to calculate the third distance D3 which is the actual moving distance of the object in the second environment. In the second environment, it is difficult for the camera 10 to capture a clear image frame. In particular, it is difficult to specify the reference point of the object in the image in a dark environment, the accuracy is relatively low.

제2 이동 거리 산출부(34)는 제1 환경에서 획득한 레퍼런스 데이터를 이용하여, 간단하고 정확하게 제3 거리(D3)를 산출할 수 있다. 주간시에 이동 거리 측정부(32)와 제1 이동 거리 산출부(33)에서 산출된 제1 거리(D1)와 제2 거리(D2)는 정확성이 높으며, 레퍼런스 데이터도 정확성이 높다. 따라서, 제2 환경에서의 데이터를 통해서 이미지 프레임 상에서 대상체의 이동 거리만 정확하게 특정할 수 있다면, 레퍼런스 데이터를 이용하여 실제 이동거리(D3)를 산출할 수 있다.The second moving distance calculator 34 may calculate the third distance D3 simply and accurately using the reference data acquired in the first environment. In the daytime, the first distance D1 and the second distance D2 calculated by the movement distance measuring unit 32 and the first movement distance calculation unit 33 have high accuracy, and the reference data also has high accuracy. Therefore, if only the moving distance of the object on the image frame can be accurately specified through the data in the second environment, the actual moving distance D3 may be calculated using the reference data.

상세하게, 이동 정보 추출부(31)는 카메라(10)로부터 제2 환경에서 이동하는 대상체의 이미지 프레임(T1, T2)을 획득한다. 이동 정보 추출부(31)는 제2 환경에서 대상체의 기준점(E)을 대상체의 기 설정된 하나의 위치로 설정한다. 예컨대, 대상체가 차량이라면, 헤드 램프나 차량의 범퍼로 설정할 수 있다. 이하에서 설명의 편의를 위해서 기준점으로 헤드 램프로 설정한 경우를 중심으로 설명하기로 한다.In detail, the movement information extractor 31 acquires image frames T1 and T2 of the object moving in the second environment from the camera 10. The movement information extractor 31 sets the reference point E of the object to one preset position of the object in the second environment. For example, if the object is a vehicle, the object may be set as a head lamp or a bumper of the vehicle. Hereinafter, for convenience of description, a case in which the head lamp is set as a reference point will be described.

즉, 이동 정보 추출부(31)는 제2 환경에서 카메라(10)에서 전달받은 복수개의 이미지 프레임에서 각각의 헤드 램프의 이동 궤적(TL)을 추출할 수 있다. 이동 정보 추출부(31)는 제1 이미지 프레임(T1)과 제2 이미지 프레임(T2) 사이에서 헤드 램프의 픽셀상에서 이동궤적(TL)을 통해서 이동 거리를 추출할 수 있다.That is, the movement information extracting unit 31 may extract the movement trajectories TL of each headlamp from the plurality of image frames transmitted from the camera 10 in the second environment. The movement information extractor 31 may extract a movement distance between the first image frame T1 and the second image frame T2 through the movement trajectory TL on the pixel of the headlamp.

제2 이동 거리 산출부(34)는 이동 정보 추출부(31)에서 기준점(E)의 이동 거리와 레퍼런스 데이터를 비교하여 실제 제2 환경에서 이동 거리(D3)를 산출할 수 있다. 상기 기준점(E)의 이동 궤적(TL)은 D1에 대응하므로, 레퍼런스 데이터의 함수를 이용하여 실제 대상체가 이동한 제3 거리(D3)를 산출할 수 있다.속도 산출부(36)는 제2 거리(D2) 및 제3 거리(D3) 중 적어도 하나를 이용하여, 대상체의 실제 이동 속도를 산출할 수 있다. 속도 산출부(36)에서는 비교하는 이미지 프레임 사이에서 대상체가 실제로 3차원에서 이동한 평균 속도를 산출할 수 있다.The second movement distance calculator 34 may calculate the movement distance D3 in the actual second environment by comparing the movement distance of the reference point E with the reference data in the movement information extractor 31. Since the movement trajectory TL of the reference point E corresponds to D1, the third distance D3 of the movement of the actual object may be calculated using a function of reference data. An actual moving speed of the object may be calculated using at least one of the distance D2 and the third distance D3. The speed calculator 36 may calculate an average speed of the object actually moving in three dimensions between the image frames to be compared.

대상체의 실제 이동 속도는 하기의 수학식 4에 따라 산출될 수 있다.The actual moving speed of the object may be calculated according to Equation 4 below.

[수학식4][Equation 4]

Figure 112019074402405-pat00011
Figure 112019074402405-pat00011

Vi,j 는 i번째 이미지 프레임에서 j번째 이미지 프레임까지 대상체의 평균속도이고, D2i,j는 i번째 이미지 프레임에서 j번째 이미지 프레임까지 대상체의 제2 거리 또는 제3 거리이며, FPS(Frames per second)는 초당 이미지 프레임의 개수이고, |i-j|는 i번째 이미지 프레임에서 j번째 이미지 프레임 사이의 프레임 개수이다.V i, j is the average speed of the object from the i th image frame to the j th image frame, D2 i, j is the second or third distance of the object from the i th image frame to the j th image frame, and FPS (Frames per second) is the number of image frames per second, and | ij | is the number of frames between the i th image frame and the j th image frame.

표시부(40)는 컨트롤러(30)와 연결되며, 컨트롤러(30)에서 산출된 대상체의 이동 정보를 표시할 수 있다. 예컨대, 표시부(40)는 대상체의 실제 이동거리, 대상체의 실제 이동 속도 또는 대상체의 가속도 등을 표시할 수 있다.The display unit 40 is connected to the controller 30 and may display movement information of the object calculated by the controller 30. For example, the display unit 40 may display an actual moving distance of the object, an actual moving speed of the object, or an acceleration of the object.

표시부(40)는 컨트롤러(30)와 유선/무선으로 통신할 수 있는 다양한 디스플레이 장치이거나, 단말기 일 수 있다. 예컨대, 표시부(40)는 컨트롤러(30)와 유선으로 연결된 모니터일 수 있다. 또한, 다른 실시예로, 표시부(40)는 컨트롤러(30)와 무선 네트워크로 연결된 휴대용 단말기일 수 있다.The display unit 40 may be a variety of display devices or terminals that can communicate with the controller 30 by wire / wireless. For example, the display unit 40 may be a monitor connected to the controller 30 by wire. In another embodiment, the display unit 40 may be a portable terminal connected to the controller 30 through a wireless network.

도 6은 본 발명의 다른 실시예에 따른 조화비를 이용하여 대상체의 이동 정보를 측정하는 방법을 도시하는 순서도이다.6 is a flowchart illustrating a method of measuring movement information of an object using a harmonic ratio according to another embodiment of the present invention.

도 6을 참조하면, 대상체의 이동 정보를 측정하는 방법은 카메라로부터 이동하는 대상체의 복수개의 이미지 프레임을 획득하는 단계(S10)와, 복수개의 상기 이미지 프레임을 비교하여, 기 설정된 상기 대상체의 기준점의 위치변화를 추출하는 단계(S20)와, 제1 환경에서 상기 기준점의 위치 변화와 상기 대상체의 비조화비(Cross-ratio)를 이용하여, 상기 이미지 프레임 사이에서 상기 대상체가 이동한 제1 거리를 산출하는 단계(S30)와, 상기 대상체가 제1 환경에서 3차원 공간에서 이동한 실제 거리인 제2 거리로 상기 제1 거리를 보정하는 단계(S40)와, 상기 제1 거리와 상기 제2 거리의 대응관계를 레퍼런스 데이터로 저장하는 단계(S50)와, 제2 환경에서 상기 기준점의 위치 변화와 상기 레퍼런스 데이터를 비교하여, 비교하는 상기 이미지 프레임에서 상기 대상체가 제2 환경의 3차원 공간에서 이동한 실제거리인 제3 거리를 산출하는 단계(S60), 및 상기 제2 거리 및 상기 제3 거리 중 적어도 하나를 이용하여, 상기 대상체의 실제 이동 속도를 산출하는 단계(S70)를 포함할 수 있다. Referring to FIG. 6, the method of measuring movement information of an object may include obtaining a plurality of image frames of an object moving from a camera (S10), comparing the plurality of image frames, and comparing a preset reference point of the object. Extracting the position change (S20), and using the position change of the reference point and the cross-ratio of the object in a first environment, a first distance moved by the object between the image frames; Calculating (S30), correcting the first distance to a second distance that is an actual distance that the object moves in a three-dimensional space in a first environment (S40), and the first distance and the second distance Storing the corresponding relation of the reference data as reference data (S50), comparing the positional change of the reference point with the reference data in a second environment, and comparing the object in the image frame to be compared Computing a third distance which is the actual distance moved in the three-dimensional space of the second environment (S60), and using the at least one of the second distance and the third distance, calculating the actual moving speed of the object Step S70 may be included.

카메라로부터 이동하는 대상체의 복수개의 이미지 프레임을 획득하는 단계(S10)에서 카메라(10)가 이동하는 대상체를 연속적으로 촬상하여 복수개의 이미지 프레임을 획득할 수 있다.In operation S10 of obtaining a plurality of image frames of a moving object from the camera, the plurality of image frames may be obtained by continuously photographing the moving object of the camera 10.

복수개의 상기 이미지 프레임을 비교하여, 기 설정된 상기 대상체의 기준점의 위치변화를 추출하는 단계(S20)는 복수개의 이미지 프레임을 비교하여, 대상체의 기준점을 각각 좌표로 추출할 수 있다. 이동 정보 추출부(31)가 2차원의 비교하는 이미지 프레임에서 각각 기준점을 추출할 수 있다. Comparing the plurality of image frames, and extracting a change in the position of the reference point of the predetermined object (S20) by comparing a plurality of image frames, each of the reference point of the object may be extracted as coordinates. The movement information extractor 31 may extract a reference point from each of the two-dimensional comparing image frames.

이때, 제1 환경에서는 상기 대상체의 기준점을 차량의 전륜의 회전 중심 위치와 후륜의 회전 중심 위치로 설정하고, 제2 환경에서는 상기 대상체의 기준점을 차량의 기 설정된 하나의 위치로 설정할 수 있다. 야간시의 기준점은 예컨대 헤드 램프나 차량의 범퍼 등으로 설정될 수 있다.At this time, in the first environment, the reference point of the object may be set to the rotation center position of the front wheel and the rear wheel rotation center position of the vehicle, and in the second environment, the reference point of the object may be set to one preset position of the vehicle. The reference point at night may be set, for example, as a head lamp or a bumper of a vehicle.

제1 환경에서 생상된 복수개의 상기 이미지 프레임을 비교하여, 기 설정된 상기 대상체의 기준점의 위치변화를 추출하는 단계(S30)는 이동 거리 측정부(32)에서 비교하는 이미지 프레임에서 기준 구간이 서로 중첩하는지 구분하고, 각각의 케이스에 따라 제1 거리(D1)를 산출할 수 있다.Comparing the plurality of image frames generated in the first environment, and extracting the change in the position of the reference point of the predetermined object (S30) in the image frame compared by the moving distance measuring unit 32 overlap the reference intervals The first distance D1 may be calculated according to each case.

상기 대상체가 제1 환경의 3차원 공간에서 이동한 실제 거리인 제2 거리로 상기 제1 거리를 보정하는 단계(S40)는 제1 이동 거리 산출부(33)에서 보정 함수를 이용하여 제1 거리(D1)를 제2 거리(D2)로 산출할 수 있다. 즉, 2차원 상의 이동거리인 제1 거리(D1)로부터 3차원 상의 실제 이동거리인 제2 거리(D2)로 산출하여, 실제 대상체가 제1 환경에서 이동한 거리를 산출할 수 있다. In operation S40, the first distance is corrected by a second distance, which is an actual distance of the object in a three-dimensional space of a first environment, by using a correction function in the first movement distance calculator 33. (D1) can be calculated as the second distance D2. That is, the distance traveled by the actual object in the first environment may be calculated by calculating the second distance D2, which is the actual moving distance on the 3D, from the first distance D1, which is the moving distance on the 2D.

상기 제1 거리와 상기 제2 거리의 대응관계를 레퍼런스 데이터로 저장하는 단계(S50)는 기준 데이터 저장부(35)에서 제1 거리(D1)와 제2 거리(D2)의 대응관계를 각각 함수로 저장할 수 있다. 이미지 프레임에서 픽셀 사이의 거리인 D1에 대응한 실제 3차원상의 이동거리인 D2의 관계를 가지는 레퍼런스 데이터를 함수형태로 기준 데이터 저장부(35)에 저장될 수 있다. 제1 환경에서 D1과 D2를 복수회 측정 및 산출하여, 레퍼런스 데이터를 도출할 수 있다.In operation S50, the corresponding relationship between the first distance and the second distance may be stored as reference data, and the reference data storage 35 may function as a function of the correspondence between the first distance D1 and the second distance D2, respectively. Can be stored as Reference data having a relationship of D2, which is an actual three-dimensional moving distance corresponding to D1, which is a distance between pixels in an image frame, may be stored in the reference data storage 35 as a function. The reference data may be derived by measuring and calculating D1 and D2 a plurality of times in the first environment.

제2 환경에서 상기 기준점의 위치 변화와 상기 레퍼런스 데이터를 비교하여, 비교하는 상기 이미지 프레임에서 상기 대상체가 제2 환경의 3차원 공간에서 이동한 실제거리인 제3 거리를 산출하는 단계(S60)는 제2 환경에서 대상체의 이동 거리를 산출할 수 있다. Comparing the position change of the reference point and the reference data in a second environment, calculating a third distance which is the actual distance that the object moved in the three-dimensional space of the second environment in the image frame to be compared (S60) The moving distance of the object in the second environment may be calculated.

제2 이동 거리 산출부(34)는 제1 환경에서 획득한 레퍼런스 데이터를 이용하여, 간단하고 정확하게 제3 거리(D3)를 산출할 수 있다. 제1 환경에서 이동 거리 측정부(32)와 제1 이동 거리 산출부(33)에서 산출된 제1 거리(D1)와 제2 거리(D2)는 정확성이 높으며, 레퍼런스 데이터도 정확성이 높다. 따라서, 제2 환경에서의 데이터를 통해서 이미지 프레임 상에서 대상체의 이동 거리만 정확하게 특정할 수 있다면, 레퍼런스 데이터를 이용하여 실제 이동거리(D3)를 산출할 수 있다.The second moving distance calculator 34 may calculate the third distance D3 simply and accurately using the reference data acquired in the first environment. In the first environment, the first distance D1 and the second distance D2 calculated by the movement distance measuring unit 32 and the first movement distance calculation unit 33 have high accuracy, and the reference data has high accuracy. Therefore, if only the moving distance of the object on the image frame can be accurately specified through the data in the second environment, the actual moving distance D3 may be calculated using the reference data.

제2 이동 거리 산출부(34)는 이동 정보 추출부(31)에서 기준점(예컨대, 헤드 램프)의 이동 거리와 레퍼런스 데이터를 비교하여 실제 제2 환경에서의 이동 거리(D3)를 산출할 수 있다. 상기 기준점의 이동 거리는 D1에 대응하므로, 레퍼런스 데이터를 통해서 실제 대상체의 이동 거리를 산출할 수 있다.The second movement distance calculator 34 may calculate the movement distance D3 in the actual second environment by comparing the movement distance of the reference point (for example, the headlamp) and the reference data in the movement information extractor 31. . Since the moving distance of the reference point corresponds to D1, the moving distance of the actual object may be calculated through reference data.

상기 제2 거리 및 상기 제3 거리 중 적어도 하나를 이용하여, 상기 대상체의 실제 이동 속도를 산출하는 단계(S70)는 속도 산출부(36)에서 제2 거리와 FPS 정보를 이용하여, 대상체가 3차원 공간상에서 이동한 속도를 산출할 수 있다.The calculating of the actual moving speed of the object by using at least one of the second distance and the third distance (S70) is performed by the speed calculator 36 using the second distance and the FPS information. The velocity moved in the dimensional space can be calculated.

본 발명에 따른 비조화비를 이용하여 대상체의 이동 정보를 측정하는 장치 및 방법은 제1 환경에서 획득한 정보를 기초로, 제2 환경에서 촬상한 이미지 프레임에서 대상체의 이동 정보를 정확하고 간단하게 측정할 수 있다. 제1 환경에서는 비조화를 이용하여 2차원으로 촬상된 이미지로부터 3차원에서의 이동 정보를 정확하게 산출하고 이를 레퍼런스 데이터로 저장하고, 제2 환경에서는 촬상된 이미지에서 기준점의 픽셀상의 위치변화와 레퍼런스 데이터를 비교하여 실제 이동 거리 및 속도를 정확하게 산출할 수 있다.An apparatus and method for measuring movement information of an object using a non-harmonic ratio according to the present invention, based on the information obtained in the first environment, accurately and simply the movement information of the object in the image frame captured in the second environment It can be measured. In the first environment, non-harmonization is used to accurately calculate movement information in three dimensions from an image captured in two dimensions and store it as reference data.In the second environment, the positional change of a reference point on a pixel and reference data in the captured image. By comparing this, the actual moving distance and speed can be calculated accurately.

본 발명에 따른 비조화비를 이용하여 대상체의 이동 정보를 측정하는 장치 및 방법은 카메라의 보정을 위한 추가 작업이 없으며, 이미지 내에서 거리 계측없이 기준점만 좌표로 변환하여 신속하게 이동 정보를 산출할 수 있다.The apparatus and method for measuring movement information of an object by using a non-harmonic ratio according to the present invention have no additional work for calibrating a camera, and can quickly calculate movement information by converting only a reference point to coordinates without measuring a distance in an image. Can be.

본 발명에 따른 비조화비를 이용하여 대상체의 이동 정보를 측정하는 장치 및 방법은 날씨나 주변환경에 영향을 받지 않고 정확하게 차량의 이동 거리 및 속도를 분석할 수 있으며, 각 순간 마다 대상체의 속도변화를 분석하여 교통상황의 예측 및 재현에 효과적으로 사용할 수 있다.The apparatus and method for measuring movement information of an object using a non-harmonic ratio according to the present invention can accurately analyze a moving distance and a speed of a vehicle without being affected by the weather or the surrounding environment, and change the speed of the object at each moment. It can be effectively used for predicting and reproducing traffic conditions.

본 발명에 따른 비조화비를 이용하여 대상체의 이동 정보를 측정하는 장치 및 방법은 각 대상체의 형상에 관한 기준 데이터를 저장하고, 이를 활용하여 신속하게 정확하게 대상체의 이동 정보를 계산할 수 있다.The apparatus and method for measuring movement information of an object using a non-harmonic ratio according to the present invention may store reference data about the shape of each object, and quickly and accurately calculate movement information of the object by using the same.

본 발명의 사상은 상기 설명된 실시예에 국한되어 정해져서는 아니되며, 후술하는 특허청구범위뿐만 아니라, 이 특허청구범위와 균등한 또는 이로부터 등가적으로 변경된 모든 범위는 본 발명의 사상의 범주에 속한다고 할 것이다.The spirit of the present invention should not be limited to the embodiments described above, and the scope of the appended claims, as well as all equivalents or equivalents thereto, are defined within the scope of the spirit of the present invention. Will belong.

1: 비조화비를 이용하여 대상체의 이동 정보를 측정하는 장치
10: 카메라
20: 기준 데이터 저장부
30: 컨트롤러
40: 표시부
1: Device for measuring movement information of an object using a non-harmonic ratio
10: camera
20: reference data storage
30: controller
40: display unit

Claims (18)

이동하는 대상체의 이미지 프레임을 획득하는 카메라;
상기 카메라로부터 복수개의 이미지 프레임을 전달받고, 각각의 이미지 프레임에서 상기 대상체의 기준점의 위치 변화를 추출하는 이동 정보 추출부;
제1 환경에서 상기 카메라가 촬상한 이미지 프레임 사이에서 상기 기준점의 위치 변화와 상기 대상체의 비조화비(Cross-ratio)를 이용하여, 상기 대상체가 이동한 픽셀상의 제1 거리를 측정하는 이동 거리 측정부;
상기 제1 거리를 보정하여, 상기 제1 환경에서 상기 대상체가 3차원 공간에서 이동한 실제 거리인 제2 거리를 산출하는 제1 이동 거리 산출부;
상기 제1 거리와 상기 제2 거리의 대응관계를 레퍼런스 데이터로 저장한 기준 데이터 저장부; 및
상기 제1 환경보다 식별력이 낮은 제2 환경에서 상기 카메라가 촬상한 이미지 프레임 사이에서 상기 기준점의 위치 변화와 상기 레퍼런스 데이터를 비교하여, 상기 제2 환경에서 상기 대상체의 실제 이동 거리인 제3 거리를 산출하는 제2 이동 거리 산출부;를 포함하는, 비조화비를 이용하여 대상체의 이동 정보를 측정하는 장치.
A camera for obtaining an image frame of a moving object;
A movement information extracting unit receiving a plurality of image frames from the camera and extracting a change in position of a reference point of the object in each image frame;
Moving distance measurement for measuring a first distance on a pixel to which the object is moved using a change in position of the reference point and a cross-ratio of the object between image frames captured by the camera in a first environment part;
A first moving distance calculator configured to correct the first distance and calculate a second distance that is an actual distance of the object in a three-dimensional space in the first environment;
A reference data storage unit storing a correspondence relationship between the first distance and the second distance as reference data; And
Comparing the positional change of the reference point and the reference data between image frames captured by the camera in a second environment having a lower discrimination power than the first environment, a third distance, which is an actual moving distance of the object in the second environment, is compared. And a second movement distance calculator configured to calculate movement information of the object using a non-harmonic ratio.
제1 항에 있어서,
상기 이동 거리 측정부는
비교하는 상기 이미지 프레임에서, 상기 대상체의 기 설정된 제1 기준점과 제2 기준점 사이의 거리인 기준 구간이 서로 중첩하는지 구분하는, 비조화비를 이용하여 대상체의 이동 정보를 측정하는 장치.
According to claim 1,
The moving distance measuring unit
The apparatus for measuring movement information of an object by using a non-harmonic ratio in the image frame to be compared, to distinguish whether the reference interval, which is a distance between the first reference point and the second reference point of the object overlap each other.
제2 항에 있어서,
상기 이동 거리 측정부는
비교하는 상기 이미지 프레임에서 상기 기준 구간이 중첩되면, 하기의 수학식 1에 따라 상기 제1 거리를 산출하는, 비조화비를 이용하여 대상체의 이동 정보를 측정하는 장치.
[수학식1]
Figure 112019074402405-pat00012

D1: 제1 거리, L: 제1 기준점과 제2 기준점 사이의 거리(기준 구간), R: 대상체의 비조화비
The method of claim 2,
The moving distance measuring unit
And calculating the first distance according to Equation 1 below when the reference periods overlap in the image frames to be compared.
[Equation 1]
Figure 112019074402405-pat00012

D1: first distance, L: distance between the first reference point and the second reference point (reference section), R: non-harmonization ratio of the object
제2 항에 있어서,
상기 이동 거리 측정부는
비교하는 상기 이미지 프레임에서 상기 기준 구간이 연속되면, 하기의 수학식 2에 따라 상기 제1 거리를 산출하는, 비조화비를 이용하여 대상체의 이동 정보를 측정하는 장치.
[수학식2]
D1 = L
D1: 제1 거리, L: 제1 기준점과 제2 기준점 사이의 거리(기준 구간)
The method of claim 2,
The moving distance measuring unit
And calculating the first distance according to Equation 2 below, when the reference section is continuous in the image frames to be compared, using the non-harmonic ratio.
[Equation 2]
D1 = L
D1: first distance, L: distance between the first reference point and the second reference point (reference section)
제2 항에 있어서,
상기 이동 거리 측정부는
비교하는 상기 이미지 프레임에서 상기 기준 구간이 이격되면, 하기의 수학식 3에 따라 상기 제1 거리를 산출하는, 비조화비를 이용하여 대상체의 이동 정보를 측정하는 장치.
[수학식3]
Figure 112019074402405-pat00013

D1: 제1 거리, L: 제1 기준점과 제2 기준점 사이의 거리(기준 구간), R: 대상체의 비조화비
The method of claim 2,
The moving distance measuring unit
And calculating the first distance according to Equation 3 below when the reference interval is spaced from the image frames to be compared, using the non-harmonic ratio.
[Equation 3]
Figure 112019074402405-pat00013

D1: first distance, L: distance between the first reference point and the second reference point (reference section), R: non-harmonization ratio of the object
제1 항에 있어서,
상기 제1 이동 거리 산출부는
기 저장된 상기 제1 거리에 대한 보정 함수로부터 상기 제2 거리를 산출하는, 비조화비를 이용하여 대상체의 이동 정보를 측정하는 장치.
According to claim 1,
The first moving distance calculator
And calculating the second distance from the previously stored correction function for the first distance, using the non-harmonic ratio.
제1 항에 있어서,
상기 제2 거리 및 상기 제3 거리 중 적어도 하나를 이용하여, 상기 대상체의 실제 이동 속도를 산출하는 속도 산출부;를 더 포함하는, 비조화비를 이용하여 대상체의 이동 정보를 측정하는 장치.
According to claim 1,
And a speed calculator configured to calculate an actual movement speed of the object by using at least one of the second distance and the third distance.
제7 항에 있어서,
상기 대상체의 실제 이동 속도는 하기의 수학식 4에 따라 산출되는, 비조화비를 이용하여 대상체의 이동 정보를 측정하는 장치.
[수학식4]
Figure 112019074402405-pat00014

Vi,j 는 i번째 이미지 프레임에서 j번째 이미지 프레임까지 대상체의 평균속도, D2i,j는 i번째 이미지 프레임에서 j번째 이미지 프레임까지 대상체의 제2 거리 또는 제3 거리, FPS(Frames per second)는 초당 이미지 프레임의 개수, |i-j|는 i번째 이미지 프레임에서 j번째 이미지 프레임 사이의 프레임 개수
The method of claim 7, wherein
The apparatus for measuring the movement information of the object using the non-harmonic ratio, the actual moving speed of the object is calculated according to Equation 4 below.
[Equation 4]
Figure 112019074402405-pat00014

V i, j is the average speed of the object from the i th image frame to the j th image frame, D2 i, j is the second or third distance of the object from the i th image frame to the j th image frame, frames per second ) Is the number of image frames per second, and | ij | is the number of frames between the i th image frame and the j th image frame.
제1 항에 있어서,
상기 이동 정보 추출부는
상기 제1 환경에서 상기 대상체의 기준점을 차량의 전륜의 회전 중심 위치와 후륜의 회전 중심 위치로 설정하고,
상기 제2 환경에서 상기 대상체의 기준점을 차량의 기 설정된 하나의 위치로 설정하는, 비조화비를 이용하여 대상체의 이동 정보를 측정하는 장치.
According to claim 1,
The movement information extraction unit
In the first environment, the reference point of the object is set to the rotation center position of the front wheel of the vehicle and the rotation center position of the rear wheel,
The apparatus for measuring movement information of an object using a non-harmonic ratio, which sets the reference point of the object to a preset position of the vehicle in the second environment.
제1 항에 있어서,
각각의 대상체 마다 형상 정보를 저장하는 대상체 정보 저장부;를 더 포함하고,
상기 이동 정보 추출부는
상기 대상체 정보 저장부의 상기 형상 정보를 이용하여, 상기 이미지 프레임에 포함된 대상체를 특정하는, 비조화비를 이용하여 대상체의 이동 정보를 측정하는 장치.
According to claim 1,
Further comprising; object information storage unit for storing the shape information for each object,
The movement information extraction unit
An apparatus for measuring movement information of an object using a non-harmonic ratio that specifies an object included in the image frame by using the shape information of the object information storage unit.
카메라로부터 이동하는 대상체의 복수개의 이미지 프레임을 획득하는 단계;
복수개의 상기 이미지 프레임을 비교하여, 상기 대상체의 기준점의 위치 변화를 추출하는 단계;
제1 환경에서 상기 카메라가 촬상한 이미지 프레임에서 상기 기준점의 위치 변화와 상기 대상체의 비조화비(Cross-ratio)를 이용하여, 비교하는 상기 이미지 프레임에서 상기 대상체가 이동한 제1 거리를 산출하는 단계;
상기 제1 거리를 상기 대상체가 상기 제1 환경의 3차원 공간에서 이동한 실제 거리인 제2 거리로 보정하는 단계;
상기 제1 거리와 상기 제2 거리의 대응관계를 레퍼런스 데이터로 저장하는 단계; 및
상기 제1 환경보다 식별력이 낮은 제2 환경에서 상기 카메라가 촬상한 이미지 프레임에서 상기 기준점의 위치 변화와 상기 레퍼런스 데이터를 비교하여, 비교하는 상기 이미지 프레임에서 상기 대상체가 상기 제2 환경의 3차원 공간에서 이동한 실제거리인 제3 거리를 산출하는 단계;를 포함하는, 비조화비를 이용한 대상체의 이동 정보 측정방법.
Obtaining a plurality of image frames of the object moving from the camera;
Comparing a plurality of image frames to extract a change in position of a reference point of the object;
Computing a first distance that the object is moved in the image frame to be compared using the change of the position of the reference point and the cross-ratio of the object in the image frame photographed by the camera in a first environment step;
Correcting the first distance to a second distance that is an actual distance that the object moves in a three-dimensional space of the first environment;
Storing a correspondence relationship between the first distance and the second distance as reference data; And
The object is three-dimensional space of the second environment in the image frame comparing the position data of the reference point and the reference data in the image frame photographed by the camera in a second environment having a lower discrimination power than the first environment. And calculating a third distance, which is a real distance moved in, the movement information of the object using the non-harmonic ratio.
제11 항에 있어서,
상기 제1 거리를 산출하는 단계는
비교하는 상기 이미지 프레임에서, 상기 대상체의 기 설정된 제1 기준점과 제2 기준점 사이의 거리인 기준 구간이 서로 중첩하는지 구분하는, 비조화비를 이용한 대상체의 이동 정보 측정방법.
The method of claim 11, wherein
Calculating the first distance
And determining whether the reference sections, which are distances between the first reference point and the second reference point of the object, overlap each other in the image frames to be compared.
제12 항에 있어서,
상기 제1 거리를 산출하는 단계는
비교하는 상기 이미지 프레임에서 상기 기준 구간이 중첩되면, 하기의 수학식 1에 따라 상기 제1 거리를 산출하는, 비조화비를 이용한 대상체의 이동 정보 측정방법.
[수학식1]
Figure 112019074402405-pat00015

D1: 제1 거리, L: 제1 기준점과 제2 기준점 사이의 거리(기준 구간), R: 대상체의 비조화비
The method of claim 12,
Calculating the first distance
When the reference section overlaps in the image frames to be compared, the first distance is calculated according to Equation 1 below.
[Equation 1]
Figure 112019074402405-pat00015

D1: first distance, L: distance between the first reference point and the second reference point (reference section), R: non-harmonization ratio of the object
제12 항에 있어서,
상기 제1 거리를 산출하는 단계는
비교하는 상기 이미지 프레임에서 상기 기준 구간이 연속되면, 하기의 수학식 2에 따라 상기 제1 거리를 산출하는, 비조화비를 이용한 대상체의 이동 정보 측정방법.
[수학식2]
D1 = L
D1: 제1 거리, L: 제1 기준점과 제2 기준점 사이의 거리(기준 구간)
The method of claim 12,
Calculating the first distance
And calculating the first distance according to Equation 2 below when the reference section is continuous in the image frames to be compared.
[Equation 2]
D1 = L
D1: first distance, L: distance between the first reference point and the second reference point (reference section)
제12 항에 있어서,
상기 제1 거리를 산출하는 단계는
비교하는 상기 이미지 프레임에서 상기 기준 구간이 이격되면, 하기의 수학식 3에 따라 상기 제1 거리를 산출하는, 비조화비를 이용한 대상체의 이동 정보 측정방법.
[수학식3]
Figure 112019107536815-pat00016

D1: 제1 거리, L: 제1 기준점과 제2 기준점 사이의 거리(기준 구간), R: 대상체의 비조화비
The method of claim 12,
Calculating the first distance
And calculating the first distance according to Equation 3 below when the reference section is spaced apart from the image frames to be compared.
[Equation 3]
Figure 112019107536815-pat00016

D1: first distance, L: distance between the first reference point and the second reference point (reference section), R: non-harmonization ratio of the object
제11 항에 있어서,
상기 제2 거리 및 상기 제3 거리 중 적어도 하나를 이용하여, 상기 대상체의 실제 이동 속도를 산출하는 단계;를 더 포함하는, 비조화비를 이용한 대상체의 이동 정보 측정방법.
The method of claim 11, wherein
And calculating an actual moving speed of the object by using at least one of the second distance and the third distance.
제16 항에 있어서,
상기 대상체의 실제 이동 속도를 산출하는 단계는
하기의 수학식 4에 따라 상기 실제 이동 속도를 계산하는, 비조화비를 이용한 대상체의 이동 정보 측정방법.
[수학식4]
Figure 112019074402405-pat00017

Vi,j 는 i번째 이미지 프레임에서 j번째 이미지 프레임까지 대상체의 평균속도, D2i,j는 i번째 이미지 프레임에서 j번째 이미지 프레임까지 대상체의 제2 거리 또는 제3 거리, FPS(Frames per second)는 초당 이미지 프레임의 개수, |i-j|는 i번째 이미지 프레임에서 j번째 이미지 프레임 사이의 프레임 개수
The method of claim 16,
Calculating the actual moving speed of the object
A method of measuring movement information of an object using a non-harmonic ratio, which calculates the actual movement speed according to Equation 4 below.
[Equation 4]
Figure 112019074402405-pat00017

V i, j is the average speed of the object from the i th image frame to the j th image frame, D2 i, j is the second or third distance of the object from the i th image frame to the j th image frame, frames per second ) Is the number of image frames per second, and | ij | is the number of frames between the i th image frame and the j th image frame.
제11 항에 있어서,
상기 대상체의 기준점의 위치변화를 추출하는 단계는
상기 제1 환경에서 상기 대상체의 기준점을 차량의 전륜의 회전 중심 위치와 후륜의 회전 중심 위치로 설정하고,
상기 제2 환경에서 상기 대상체의 기준점을 차량의 기 설정된 하나의 위치로 설정하는, 비조화비를 이용한 대상체의 이동 정보 측정방법.
The method of claim 11, wherein
Extracting a change in the position of the reference point of the object
In the first environment, the reference point of the object is set to the rotation center position of the front wheel of the vehicle and the rotation center position of the rear wheel,
And setting the reference point of the object to one preset position of the vehicle in the second environment.
KR1020190087759A 2019-07-19 2019-07-19 Apparatus and method for measuring movement information of an object using a cross-ratio KR102065337B1 (en)

Priority Applications (1)

Application Number Priority Date Filing Date Title
KR1020190087759A KR102065337B1 (en) 2019-07-19 2019-07-19 Apparatus and method for measuring movement information of an object using a cross-ratio

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
KR1020190087759A KR102065337B1 (en) 2019-07-19 2019-07-19 Apparatus and method for measuring movement information of an object using a cross-ratio

Publications (1)

Publication Number Publication Date
KR102065337B1 true KR102065337B1 (en) 2020-01-14

Family

ID=69152904

Family Applications (1)

Application Number Title Priority Date Filing Date
KR1020190087759A KR102065337B1 (en) 2019-07-19 2019-07-19 Apparatus and method for measuring movement information of an object using a cross-ratio

Country Status (1)

Country Link
KR (1) KR102065337B1 (en)

Cited By (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
KR102278536B1 (en) * 2020-11-09 2021-07-19 대한민국 Apparatus and method for measuring distance using a video image
CN114998439A (en) * 2022-08-03 2022-09-02 安徽一视科技有限公司 Movement distance measuring system based on machine vision and application

Citations (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
KR20030080285A (en) * 2002-04-04 2003-10-17 엘지산전 주식회사 Apparatus and method for queue length of vehicle to measure
KR20060125148A (en) * 2005-06-02 2006-12-06 엘지전자 주식회사 Method for extracting 3-dimensional coordinate information from 3-dimensional image using mobile phone with multiple cameras and terminal thereof
KR20160087602A (en) * 2015-01-14 2016-07-22 삼성전자주식회사 Electronic device and method for tracking gaze in electronic device
KR20190071280A (en) * 2017-12-14 2019-06-24 현대자동차주식회사 Apparatus and method for processing user image of vehicle

Patent Citations (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
KR20030080285A (en) * 2002-04-04 2003-10-17 엘지산전 주식회사 Apparatus and method for queue length of vehicle to measure
KR20060125148A (en) * 2005-06-02 2006-12-06 엘지전자 주식회사 Method for extracting 3-dimensional coordinate information from 3-dimensional image using mobile phone with multiple cameras and terminal thereof
KR20160087602A (en) * 2015-01-14 2016-07-22 삼성전자주식회사 Electronic device and method for tracking gaze in electronic device
KR20190071280A (en) * 2017-12-14 2019-06-24 현대자동차주식회사 Apparatus and method for processing user image of vehicle

Cited By (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
KR102278536B1 (en) * 2020-11-09 2021-07-19 대한민국 Apparatus and method for measuring distance using a video image
CN114998439A (en) * 2022-08-03 2022-09-02 安徽一视科技有限公司 Movement distance measuring system based on machine vision and application

Similar Documents

Publication Publication Date Title
US10909395B2 (en) Object detection apparatus
JP7016058B2 (en) Camera parameter set calculation method, camera parameter set calculation program and camera parameter set calculation device
JP4406381B2 (en) Obstacle detection apparatus and method
US8872925B2 (en) Method and device for camera calibration
US9197866B2 (en) Method for monitoring a traffic stream and a traffic monitoring device
US7342669B2 (en) Three-dimensional shape measuring method and its device
JP6524529B2 (en) Building limit judging device
CN108362205B (en) Space distance measuring method based on fringe projection
JP4132068B2 (en) Image processing apparatus, three-dimensional measuring apparatus, and program for image processing apparatus
JP6186431B2 (en) Calibration apparatus, calibration system, and imaging apparatus
KR102065337B1 (en) Apparatus and method for measuring movement information of an object using a cross-ratio
KR100574227B1 (en) Apparatus and method for separating object motion from camera motion
KR20130034528A (en) Position measuring method for street facility
KR102490521B1 (en) Automatic calibration through vector matching of the LiDAR coordinate system and the camera coordinate system
JP4752319B2 (en) Image recognition apparatus and image recognition method
CN116778094A (en) Building deformation monitoring method and device based on optimal viewing angle shooting
CN111243021A (en) Vehicle-mounted visual positioning method and system based on multiple combined cameras and storage medium
CN114494466B (en) External parameter calibration method, device and equipment and storage medium
JP3465531B2 (en) Object recognition method and apparatus
CN113674361B (en) Vehicle-mounted all-round-looking calibration implementation method and system
KR20060034497A (en) Method for acquiring three-dimensional image information using single camera and video traffic monitoring method using the same
JPH1055446A (en) Object recognizing device
CN107292932B (en) Head-on video speed measurement method based on image expansion rate
WO2022133986A1 (en) Accuracy estimation method and system
WO2021124657A1 (en) Camera system

Legal Events

Date Code Title Description
E701 Decision to grant or registration of patent right
GRNT Written decision to grant