KR20120077309A - Apparatus and method for displaying rear image of vehicle - Google Patents

Apparatus and method for displaying rear image of vehicle Download PDF

Info

Publication number
KR20120077309A
KR20120077309A KR1020100139224A KR20100139224A KR20120077309A KR 20120077309 A KR20120077309 A KR 20120077309A KR 1020100139224 A KR1020100139224 A KR 1020100139224A KR 20100139224 A KR20100139224 A KR 20100139224A KR 20120077309 A KR20120077309 A KR 20120077309A
Authority
KR
South Korea
Prior art keywords
vehicle
image
information
rear vehicle
distance
Prior art date
Application number
KR1020100139224A
Other languages
Korean (ko)
Other versions
KR101243108B1 (en
Inventor
박재홍
Original Assignee
주식회사 와이즈오토모티브
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by 주식회사 와이즈오토모티브 filed Critical 주식회사 와이즈오토모티브
Priority to KR1020100139224A priority Critical patent/KR101243108B1/en
Publication of KR20120077309A publication Critical patent/KR20120077309A/en
Application granted granted Critical
Publication of KR101243108B1 publication Critical patent/KR101243108B1/en

Links

Images

Classifications

    • BPERFORMING OPERATIONS; TRANSPORTING
    • B60VEHICLES IN GENERAL
    • B60QARRANGEMENT OF SIGNALLING OR LIGHTING DEVICES, THE MOUNTING OR SUPPORTING THEREOF OR CIRCUITS THEREFOR, FOR VEHICLES IN GENERAL
    • B60Q5/00Arrangement or adaptation of acoustic signal devices
    • B60Q5/005Arrangement or adaptation of acoustic signal devices automatically actuated
    • B60Q5/006Arrangement or adaptation of acoustic signal devices automatically actuated indicating risk of collision between vehicles or with pedestrians
    • BPERFORMING OPERATIONS; TRANSPORTING
    • B60VEHICLES IN GENERAL
    • B60RVEHICLES, VEHICLE FITTINGS, OR VEHICLE PARTS, NOT OTHERWISE PROVIDED FOR
    • B60R1/00Optical viewing arrangements; Real-time viewing arrangements for drivers or passengers using optical image capturing systems, e.g. cameras or video systems specially adapted for use in or on vehicles
    • B60R1/02Rear-view mirror arrangements
    • B60R1/06Rear-view mirror arrangements mounted on vehicle exterior
    • BPERFORMING OPERATIONS; TRANSPORTING
    • B60VEHICLES IN GENERAL
    • B60RVEHICLES, VEHICLE FITTINGS, OR VEHICLE PARTS, NOT OTHERWISE PROVIDED FOR
    • B60R1/00Optical viewing arrangements; Real-time viewing arrangements for drivers or passengers using optical image capturing systems, e.g. cameras or video systems specially adapted for use in or on vehicles
    • B60R1/12Mirror assemblies combined with other articles, e.g. clocks
    • B60R2001/1215Mirror assemblies combined with other articles, e.g. clocks with information displays
    • BPERFORMING OPERATIONS; TRANSPORTING
    • B60VEHICLES IN GENERAL
    • B60RVEHICLES, VEHICLE FITTINGS, OR VEHICLE PARTS, NOT OTHERWISE PROVIDED FOR
    • B60R2300/00Details of viewing arrangements using cameras and displays, specially adapted for use in a vehicle
    • B60R2300/30Details of viewing arrangements using cameras and displays, specially adapted for use in a vehicle characterised by the type of image processing
    • B60R2300/304Details of viewing arrangements using cameras and displays, specially adapted for use in a vehicle characterised by the type of image processing using merged images, e.g. merging camera image with stored images
    • B60R2300/305Details of viewing arrangements using cameras and displays, specially adapted for use in a vehicle characterised by the type of image processing using merged images, e.g. merging camera image with stored images merging camera image with lines or icons
    • BPERFORMING OPERATIONS; TRANSPORTING
    • B60VEHICLES IN GENERAL
    • B60RVEHICLES, VEHICLE FITTINGS, OR VEHICLE PARTS, NOT OTHERWISE PROVIDED FOR
    • B60R2300/00Details of viewing arrangements using cameras and displays, specially adapted for use in a vehicle
    • B60R2300/30Details of viewing arrangements using cameras and displays, specially adapted for use in a vehicle characterised by the type of image processing
    • B60R2300/307Details of viewing arrangements using cameras and displays, specially adapted for use in a vehicle characterised by the type of image processing virtually distinguishing relevant parts of a scene from the background of the scene
    • BPERFORMING OPERATIONS; TRANSPORTING
    • B60VEHICLES IN GENERAL
    • B60RVEHICLES, VEHICLE FITTINGS, OR VEHICLE PARTS, NOT OTHERWISE PROVIDED FOR
    • B60R2300/00Details of viewing arrangements using cameras and displays, specially adapted for use in a vehicle
    • B60R2300/60Details of viewing arrangements using cameras and displays, specially adapted for use in a vehicle characterised by monitoring and displaying vehicle exterior scenes from a transformed perspective

Abstract

PURPOSE: An apparatus and method for displaying rear images of vehicles are provided to prevent car accidents because drivers effectively realize information on the distance to vehicles in the rear. CONSTITUTION: An apparatus and method for displaying rear images of vehicles comprises at least two cameras, a controller(150), and a display unit(160). The cameras are installed in the vehicles and film rear images. The controller generates a pre-set background image using a moving image interface program. The controller image-processes the rear images, and outputs the information on the vehicles in the rear on the background image. The display unit displays the information on the vehicles in the rear outputted from the controller.

Description

차량의 후방 영상 표시 장치 및 방법{APPARATUS AND METHOD FOR DISPLAYING REAR IMAGE OF VEHICLE} Rear image display device and method of vehicle {APPARATUS AND METHOD FOR DISPLAYING REAR IMAGE OF VEHICLE}

본 발명은 차량의 후방 영상 표시 장치 및 방법에 관한 발명으로서, 더욱 상세하게는 차량의 후방 영상 정보와 후방 차량까지의 거리 정보를 운전자가 인식하기 쉬운 화면으로 제공하는 차량의 후방 영상 표시 장치 및 방법에 관한 것이다.
The present invention relates to a rear image display apparatus and method of a vehicle, and more particularly, to a rear image display apparatus and method for providing a rear image information of a vehicle and distance information to a rear vehicle on a screen that is easy for a driver to recognize. It is about.

일반적으로 자동차의 좌/우측에 하나씩 설치되어 있는 아웃사이드 리어 뷰 미러(out-side rear view mirror, 이하 사이드 미러라고 함)는 차량의 주행중에 차선을 바꾸거나 주차 또는 후진 등을 할 경우 운전자가 자동차의 좌/우측 관찰을 쉽게 하는데 도움을 주는 구성이다.An outside rear view mirror (hereinafter referred to as a side mirror), which is generally installed at the left and right sides of a vehicle, is used when the driver changes the lane, parks, or reverses the vehicle while driving. This configuration helps to make the left and right side observation easier.

또한, 운전자는 상기 사이드미러에 잡히지 않는 사각 지대에 위치한 자동차의 유무를 확인한 다음, 후방 차량과의 간격이 충분히 확보되었다고 판단되었을 경우에 비로소 차선을 변경하거나 또는 주차 공간으로의 진입을 수행하게 된다.In addition, the driver checks the presence or absence of a vehicle located in a blind spot not caught by the side mirror, and then changes the lane or enters the parking space only when it is determined that a sufficient distance from the rear vehicle is secured.

또한, 자동차의 운전석 근처에 설치되어 있는 인사이드 리어 뷰 미러(in-side rear view mirror, 이하 룸미러라고 함)로서, 운전자가 자동차의 후방 시야를 확보하는데 도움을 준다.In addition, as an inside-side rear view mirror (hereinafter referred to as a room mirror) installed near the driver's seat, the driver helps to secure a rear view of the vehicle.

그러나 운전자가 차선을 변경하거나 주차를 수행하기 위해 후방을 주시하거나 후진할 경우 좌/우측의 사이드미러와 룸미러를 함께 계속 보아야 하므로 전방에 대한 감시가 소홀하거나 시야를 수시로 바꾸어야 하는 번거로운 문제점이 있다.However, when the driver watches the rear or reverses to change lanes or to park, the left and right side mirrors and the room mirror must be continuously watched together.

또한, 상기한 사이드 미러와 룸미러를 통해 자동차의 후면 상황을 파악할 때 사각 지역이 있기 때문에 주차시 또는 후진시 충돌의 위험이 있다.In addition, there is a danger of collision during parking or reversing because there is a blind spot when the rear of the vehicle is detected through the side mirror and the room mirror.

또한, 자동차의 후진 시 충돌의 위험을 해결하기 위하여 자동차의 트렁크 부위에 후방 감시용 카메라를 설치하여 자동차의 후방에 대한 시야를 확보하도록 하고 있으나 카메라를 통해 촬영할 수 있는 영역이 제한적이어서 충분한 후방 정보를 제공하지 못하는 문제점이 있다.In addition, in order to solve the risk of a collision when the vehicle is backing up, a rear view camera is installed in the trunk of the car to secure the view of the rear of the car, but the limited area that can be photographed through the camera provides sufficient rear information. There is a problem that cannot be provided.

또한, 카메라를 통해 촬영된 영상이 표시되는 화면상에서는 멀리 떨어져 있는 물체도 가깝게 보이거나 또는 그 반대로 보이는 경우가 많아서 후방 차량까지의 정확한 거리 정보를 알 수 없는 문제점이 있다.
In addition, on a screen on which an image photographed by a camera is displayed, a far-away object is often seen close to or vice versa, so that accurate distance information to a rear vehicle may not be known.

이러한 문제점을 해결하기 위하여, 본 발명은 차량의 후방 영상 정보와 후방 차량까지의 거리 정보를 운전자가 인식하기 쉬운 화면으로 제공하는 차량의 후방 영상 표시 장치 및 방법을 제공하는 것을 목적으로 한다.
In order to solve this problem, an object of the present invention is to provide a rear image display apparatus and method for providing a rear image information of the vehicle and the distance information to the rear vehicle in a screen that is easy for the driver to recognize.

상기한 목적을 달성하기 위하여 본 발명은 차량의 후방 영상 표시 장치로서,In order to achieve the above object, the present invention provides a rear image display apparatus of a vehicle,

차량에 설치되어 후방 영상을 촬영하는 적어도 두 대 이상의 카메라; 상기 카메라가 촬영한 후방 영상을 영상 정합 프로그램으로 정합하여 미리 설정된 배경 화면을 생성하고, 상기 촬영된 후방 영상을 이미지 프로세싱하여 검출한 후방 차량 정보를 상기 생성된 배경 화면에 배치하여 출력하는 제어부; 및 상기 제어부로부터 출력되는 배경 영상과 후방 차량 정보가 디스플레이되도록 하는 화면 표시부를 포함한다.At least two cameras installed in the vehicle to capture a rear image; A controller configured to generate a preset background screen by matching the rear image captured by the camera with an image matching program, and to arrange and output rear vehicle information detected by image processing the photographed rear image on the generated background screen; And a screen display unit for displaying a background image and rear vehicle information output from the controller.

또한, 본 발명에 따른 상기 제어부는 다수의 화면을 미리 설치된 영상 정합 프로그램으로 정합하여 배경 화면을 생성하는 배경화면 생성부; 상기 카메라가 촬영한 후방 영상을 미리 저장된 이미지 프로세싱 프로그램을 통해 분석하여 인식 대상 차량을 검출하는 물체 인식부; 상기 물체 인식부에서 검출한 후방 차량까지의 거리 정보와 상기 후방 차량의 상대 속도 정보를 산출하는 거리 측정부; 및 상기 배경화면 생성부에서 재생성된 배경 영상에 상기 물체 인식부 및 거리 측정부가 산출한 후방 차량과 상기 후방까지의 거리 정보를 매칭시켜 출력되도록 하는 화면 정합부를 포함하는 것을 특징으로 한다.In addition, the control unit according to the present invention includes a background screen generation unit for generating a background screen by matching a plurality of screens with a pre-installed image registration program; An object recognizing unit which detects a vehicle to be recognized by analyzing a rear image captured by the camera through a pre-stored image processing program; A distance measuring unit calculating distance information to the rear vehicle detected by the object recognition unit and relative speed information of the rear vehicle; And a screen matching unit configured to match the rear vehicle calculated by the object recognition unit and the distance measuring unit with the distance information to the rear and output the background image reproduced by the background screen generation unit.

또한, 본 발명에 따른 상기 배경화면 생성부는 파노라마 영상, 원근이 조절된 영상, 시점을 변경한 영상 중 어느 하나의 영상으로 정합하는 것을 특징으로 하고, 상기 시점을 변경한 영상은 탑 뷰(Top View) 화면인 것을 특징으로 한다.In addition, the background screen generation unit according to the present invention is characterized in that it matches any one of the panorama image, the image of the perspective adjusted, the image of changing the viewpoint, the image of changing the viewpoint is a Top View ) Screen.

또한, 본 발명에 따른 상기 거리 측정부는 하나의 카메라가 서로 다른 시간에 검출한 다수의 이미지를 이미지 프로세싱하여 후방 차량의 이동 변위를 검출하고, 차량으로부터 제공받는 조향각 정보, 거리 정보 및 속도 정보를 포함한 운행 정보와 상기 이동 변위를 이용하여 후방 차량까지의 거리 정보와 후방 차량의 상대 속도 정보를 산출하는 것을 특징으로 한다.In addition, the distance measuring unit according to the present invention detects the movement displacement of the rear vehicle by image processing a plurality of images detected by one camera at different times, and includes steering angle information, distance information and speed information provided from the vehicle The distance information to the rear vehicle and the relative speed information of the rear vehicle are calculated using the driving information and the movement displacement.

또한, 본 발명에 따른 상기 거리 측정부는 임의의 카메라가 촬영한 이미지를 스테레오 매칭 프로그램을 통해 후방 차량까지의 거리 정보와 후방 차량의 상대 속도 정보를 산출하는 것을 특징으로 한다.In addition, the distance measuring unit according to the present invention is characterized by calculating the distance information to the rear vehicle and the relative speed information of the rear vehicle through the stereo matching program for the image photographed by any camera.

또한, 본 발명에 따른 상기 화면 정합부는 상기 물체 인식부에서 인식된 후방 차량의 이미지를 촬영된 영상에서 캡처하고, 상기 거리 측정부에서 산출된 후방 차량까지의 거리 정보에 따라 상기 캡처된 미리 설정된 크기로 조절하며, 상기 크기가 조절된 후방 차량의 이미지를 상기 거리 정보와 미리 설정된 배경 화면상의 기준 위치로부터 원근감을 고려하여 배치하는 것을 특징으로 한다.In addition, the screen matching unit according to the present invention captures the image of the rear vehicle recognized by the object recognition unit in the photographed image, the captured preset size according to the distance information to the rear vehicle calculated by the distance measuring unit And adjusts the size of the rear vehicle having the size adjusted in consideration of perspective from the distance information and a reference position on a preset background screen.

또한, 본 발명에 따른 상기 화면 정합부는 상기 후방 차량까지의 거리 정보가 미리 설정된 원근 판단용 기준 값보다 큰 값을 가지면 상기 캡처된 차량의 이미지 크기가 작게 설정되도록 하고, 상기 후방 차량까지의 거리 정보가 상기 기준 값보다 작은 값을 가지면 상기 캡처된 차량의 이미지 크기가 크게 설정되도록 하는 것을 특징으로 한다.In addition, the screen matching unit according to the present invention, if the distance information to the rear vehicle has a value larger than a preset perspective determination reference value, the image size of the captured vehicle is set to be small, the distance information to the rear vehicle Has a value smaller than the reference value, the image size of the captured vehicle is set to be large.

또한, 본 발명에 따른 상기 화면 정합부는 상기 후방 차량까지의 거리 정보가 미리 설정된 원근 판단용 기준 값보다 큰 값을 가지면 상기 캡처된 차량의 이미지가 상기 배경 화면상의 기준 위치로부터 먼 곳에 위치되도록 하고, 상기 후방 차량까지의 거리 정보가 상기 기준 값보다 작은 값을 가지면 상기 캡처된 차량의 이미지가 상기 배경 화면상의 기준 위치로부터 가까운 곳에 위치되도록 하는 것을 특징으로 한다.In addition, the screen matching unit according to the present invention, if the distance information to the rear vehicle has a value larger than a preset reference value for determining the perspective, the image of the captured vehicle is located far from the reference position on the background screen, When the distance information to the rear vehicle has a smaller value than the reference value, the image of the captured vehicle is positioned near the reference position on the background screen.

또한, 본 발명에 따른 상기 카메라는 차량의 후면 및 측면에 설치된 것을 특징으로 한다.In addition, the camera according to the invention is characterized in that it is installed on the rear and side of the vehicle.

또한, 본 발명에 따른 상기 차량의 후방 영상 표시 장치는 상기 측정된 후방 차량까지의 거리 정보 및 후방 차량의 상대 속도를 분석하여 미리 설정된 추돌 방지 판단용 정보와 비교하고, 그 비교 결과에 따라 경고음 또는 경고 화면의 출력 여부를 결정하는 경고음 발생부를 더 포함하는 것을 특징으로 한다.In addition, the rear image display apparatus of the vehicle according to the present invention analyzes the measured distance information to the rear vehicle and the relative speed of the rear vehicle and compares it with preset collision avoidance determination information, and according to the comparison result, a warning sound or Characterized in that it further comprises a warning sound generating unit for determining whether to output the warning screen.

또한, 본 발명은 차량의 후방 영상 표시 방법으로서,In addition, the present invention is a rear image display method of a vehicle,

a) 제어부가 적어도 두 대 이상의 카메라들로부터 차량의 후방 영상을 검출하는 단계; b) 상기 제어부가 상기 카메라들로부터 검출된 후방 영상을 미리 설치된 영상 정합 프로그램을 통해 미리 설정된 배경 영상으로 정합하는 단계; c) 상기 제어부는 임의의 카메라가 촬영한 후방 영상을 이미지 프로세싱하여 후방에 위치한 차량을 인식하는 단계; 및 d) 상기 제어부가 상기 c) 단계에서 인식된 후방 차량을 상기 a) 단계에서 정합된 배경 화면과 매칭시켜 화면 표시부를 통해 디스플레이하는 단계를 포함한다.a) the control unit detecting rear image of the vehicle from at least two cameras; b) the control unit matching the rear image detected by the cameras with a preset background image through a pre-installed image registration program; c) the controller recognizing a vehicle located at the rear by image processing a rear image captured by an arbitrary camera; And d) the control unit matching the rear vehicle recognized in step c) with the background screen matched in step a) and displaying the same on the screen display unit.

또한, 본 발명은 e) 상기 제어부가 상기 c) 단계에서 인식된 후방 차량까지의 거리 정보 및 후방 차량의 속도를 산출하고, 상기 산출된 후방 차량까지의 거리 정보를 상기 d) 단계에서 정합된 배경 화면의 후방 차량과 매칭시켜 화면 표시부로 디스플레이되도록 하는 단계를 더 포함하는 것을 특징으로 한다.In addition, the present invention is e) the control unit calculates the distance information to the rear vehicle and the rear vehicle speed recognized in the step c), the background information matched in the step d) the calculated distance information to the rear vehicle The method may further include matching the vehicle behind the screen to be displayed on the screen display unit.

또한, 본 발명에 따른 상기 제어부는 촬영된 영상으로부터 상기 후방 차량의 이미지를 캡처하고, 상기 캡처된 차량 이미지의 크기와 상기 배경 화면상의 위치를 상기 후방 차량까지의 거리 정보에 따라 원근감 있게 조절하여 재배치하는 단계를 더 포함하는 것을 특징으로 한다.In addition, the control unit according to the present invention captures the image of the rear vehicle from the photographed image, repositioning by adjusting the size of the captured vehicle image and the position on the background screen in perspective according to the distance information to the rear vehicle Characterized in that it further comprises the step.

또한, 본 발명에 따른 상기 재배치 단계는 상기 후방 차량까지의 거리 정보가 미리 설정된 원근 판단용 기준 값보다 큰 값을 가지면 상기 캡처된 차량의 이미지 크기가 작게 설정되도록 하고, 상기 후방 차량까지의 거리 정보가 상기 기준 값보다 작은 값을 가지면 상기 캡처된 차량의 이미지 크기가 크게 설정되도록 하는 것을 특징으로 한다.In addition, the relocating step according to the present invention, if the distance information to the rear vehicle has a value larger than a preset reference value for perspective determination, the image size of the captured vehicle is set to be small, the distance information to the rear vehicle Has a value smaller than the reference value, the image size of the captured vehicle is set to be large.

또한, 본 발명에 따른 상기 재배치 단계는 상기 후방 차량까지의 거리 정보가 미리 설정된 원근 판단용 기준 값보다 큰 값을 가지면 상기 캡처된 차량의 이미지가 상기 배경 화면상의 기준 위치로부터 먼 곳에 위치되도록 하고, 상기 후방 차량까지의 거리 정보가 상기 기준 값보다 작은 값을 가지면 상기 캡처된 차량의 이미지가 상기 배경 화면상의 기준 위치로부터 가까운 곳에 위치되도록 하는 것을 특징으로 한다.In addition, the repositioning step according to the present invention, if the distance information to the rear vehicle has a value larger than a preset reference value for determining the perspective, the image of the captured vehicle is located far from the reference position on the background screen, When the distance information to the rear vehicle has a smaller value than the reference value, the image of the captured vehicle is positioned near the reference position on the background screen.

또한, 본 발명에 따른 e-1) 상기 e) 단계는 상기 산출된 후방 차량까지의 거리 정보, 및 후방 차량의 상대 속도 정보를 분석하여 미리 설정된 추돌 방지 판단용 정보와 비교하고, 그 비교 결과에 따라 경고음 또는 경고 화면의 출력 여부를 결정하는 단계를 더 포함하는 것을 특징으로 한다.Further, step e-1) e) according to the present invention analyzes the calculated distance information to the rear vehicle and the relative speed information of the rear vehicle and compares it with preset collision prevention determination information, and compares the result with the comparison result. The method may further include determining whether to output a warning sound or a warning screen.

또한, 본 발명에 따른 상기 e) 단계의 거리 산출은 하나의 카메라가 서로 다른 시간에 검출한 다수의 이미지를 이미지 프로세싱하여 후방 차량의 이동 변위를 검출하고, 차량으로부터 제공받는 조향각 정보, 거리 정보 및 속도 정보를 포함한 운행 정보와 상기 이동 변위를 이용하여 후방 차량까지의 거리 정보와 후방 차량의 상대 속도 정보를 산출하는 것을 특징으로 한다.In addition, the distance calculation of the step e) according to the present invention is image processing a plurality of images detected by one camera at different times to detect the displacement of the rear vehicle, steering angle information, distance information and The distance information to the rear vehicle and the relative speed information of the rear vehicle are calculated using the driving information including the speed information and the movement displacement.

또한, 본 발명에 따른 상기 e) 단계의 거리 산출은 스테레오 카메라가 촬영한 이미지를 스테레오 매칭 프로그램을 통해 거리 정보를 산출하는 것을 특징으로 한다.In addition, the distance calculation of the step e) according to the invention is characterized in that for calculating the distance information of the image taken by the stereo camera through a stereo matching program.

또한, 본 발명의 상기 b)단계에서 정합되는 배경화면은 파노라마 영상, 원근이 조절된 영상, 시점을 변경한 영상 중 어느 하나로 정합하는 것을 특징으로 한다.
The background image matched in step b) of the present invention may be matched with any one of a panoramic image, an image of which perspective is adjusted, and an image of which a viewpoint is changed.

본 발명은 차량의 후방 영상 정보와 후방 차량까지의 거리 정보를 운전자가 인식하기 쉬운 화면으로 제공하여 운전자에게 안전한 주행 환경을 제공할 수 있는 장점이 있다.The present invention has an advantage of providing a safe driving environment to a driver by providing a rear image information of a vehicle and distance information to a rear vehicle on a screen which is easy for a driver to recognize.

또한, 본 발명은 후방에 위치한 차량까지의 거리 정보를 운전자가 효과적으로 인지할 수 있도록 하여 후방에서 접근하는 차량과의 추돌 사고를 방지할 수 있는 장점이 있다.In addition, the present invention has the advantage that the driver can effectively recognize the distance information to the vehicle located in the rear to prevent the collision accident with the vehicle approaching from the rear.

또한, 본 발명은 후방의 차량이 추돌 예상 거리까지 접근하는 것을 경고하여 운전자의 안전 운전유도와 사고 발생을 방지할 수 있는 장점이 있다.
In addition, the present invention has the advantage of warning that the vehicle behind the approaching collision distance to prevent the driver's safe driving induction and accident occurrence.

도 1 은 본 발명에 따른 차량의 후방 영상 표시 장치의 구성을 나타낸 블록도.
도 2 는 도 1에 따른 차량의 후방 영상 표시 장치가 차량에 설치되어 동작하는 과정을 설명하기 위한 예시도.
도 3 은 차량에 설치된 카메라가 촬영한 후방 영상을 나타낸 예시도.
도 4 는 도 1에 따른 차량의 후방 영상 표시 장치가 출력하는 영상의 일 실시예를 나타낸 예시도.
도 5 는 도 1에 따른 차량의 후방 영상 표시 장치가 출력하는 영상의 다른 실시예를 나타낸 예시도.
도 6 은 본 발명에 따른 차량의 후방 영상 표시 방법을 나타낸 흐름도.
도 7 은 도 6에 따른 차량의 후방 영상 표시 방법의 영상 재배치 과정을 나타낸 흐름도.
1 is a block diagram showing the configuration of a rear image display apparatus of a vehicle according to the present invention;
FIG. 2 is an exemplary diagram for describing a process of installing and operating a rear image display apparatus of a vehicle according to FIG. 1; FIG.
3 is an exemplary view showing a rear image captured by a camera installed in a vehicle.
4 is an exemplary view illustrating an embodiment of an image output by the rear image display apparatus of the vehicle according to FIG. 1.
5 is an exemplary diagram illustrating another embodiment of an image output by the rear image display apparatus of the vehicle according to FIG. 1.
6 is a flowchart showing a rear image display method of a vehicle according to the present invention;
7 is a flowchart illustrating an image rearrangement process of the rear image display method of the vehicle according to FIG. 6.

이하, 첨부된 도면을 참조하여 본 발명에 따른 차량의 후방 영상 표시 장치 및 방법의 바람직한 실시예를 상세하게 설명한다.Hereinafter, exemplary embodiments of a rear image display apparatus and method for a vehicle according to the present invention will be described in detail with reference to the accompanying drawings.

도 1은 본 발명에 따른 차량의 후방 영상 표시 장치의 구성을 나타낸 블록도이고, 도 2는 도 1에 따른 차량의 후방 영상 표시 장치가 차량에 설치되어 동작하는 과정을 설명하기 위한 예시도이며, 도 3은 차량에 설치된 카메라가 촬영한 후방 영상을 나타낸 예시도이고, 도 4는 도 1에 따른 차량의 후방 영상 표시 장치가 출력하는 파노라마 영상을 나타낸 예시도이며, 도 5는 도 1에 따른 차량의 후방 영상 표시 장치가 출력하는 영상의 다른 실시예를 나타낸 예시도이다.1 is a block diagram illustrating a configuration of a rear image display apparatus of a vehicle according to the present invention, and FIG. 2 is an exemplary diagram for describing a process of installing and operating the rear image display apparatus of the vehicle according to FIG. 1. 3 is an exemplary view showing a rear image captured by a camera installed in a vehicle, FIG. 4 is an exemplary view showing a panoramic image output by the rear image display apparatus of the vehicle according to FIG. 1, and FIG. 5 is a vehicle according to FIG. 1. FIG. 4 is a diagram illustrating another embodiment of an image output by the rear image display device of FIG.

도 1 내지 도 5에 나타낸 바와 같이, 본 발명에 따른 차량의 후방 영상 표시 장치(100)는 차량에 설치되어 후방 영상을 촬영하는 4개의 카메라(110 내지 140)와, 상기 4개의 카메라(110 내지 140)가 촬영한 후방 영상들을 영상 정합 프로그램으로 미리 설정된 배경 영상을 정합하고, 상기 촬영된 후방 영상을 스테레오 매칭 프로그램으로 분석하여 후방에 위치한 차량(300 내지 320) 및 상기 차량까지의 거리 정보를 측정하며, 상기 측정된 차량까지의 거리 정보를 상기 정합된 파노라마 영상에 포함된 차량(300 내지 320)과 매칭시켜 출력하는 제어부(150)와, 상기 제어부(150)로부터 출력되는 후방 차량까지의 거리 정보와 파노라마 영상이 디스플레이되도록 하는 화면 표시부(160)와, 후방으로부터 접근하는 차량의 추돌 경보를 출력하는 경고음 발생부(170)를 포함한다.1 to 5, the rear image display apparatus 100 of the vehicle according to the present invention includes four cameras 110 to 140 installed in the vehicle and photographing the rear image, and the four cameras 110 to 140. The rear image captured by the 140 is matched with a preset background image by an image matching program, and the photographed rear image is analyzed by a stereo matching program to measure distance information of the vehicles 300 to 320 located behind and the vehicle. And a controller 150 for matching the measured distance information to the vehicle with the vehicles 300 to 320 included in the matched panoramic image, and outputting the distance information to the rear vehicle output from the controller 150. And a screen display unit 160 for displaying a panoramic image, and a warning sound generator 170 for outputting a collision warning of a vehicle approaching from the rear.

상기 4개의 카메라(110 내지 140)는 차량(200)의 후면 및 측면에 설치되어 차량의 후방을 촬영하고, 바람직하게는 차체의 좌/우측 휀더, 좌측 사이드 미러, 우측 사이드 미러, 좌측 후미등 및 우측 후미등에 각각 설치되어 차량 후방을 촬영한다.The four cameras 110 to 140 are installed at the rear and side of the vehicle 200 to photograph the rear of the vehicle, and preferably the left / right fender, left side mirror, right side mirror, left tail light and right side of the vehicle body. It is installed on the rear lights and photographs the rear of the vehicle.

상기 제 1 카메라(110)는 차량(200)의 우측 사이드 미러에 차량(200)의 종방향 축과 미리 설정된 각도를 형성하여 설치되고, 차량(200)의 우측 사각 지대 및 후방을 촬영하여 출력한다.The first camera 110 is installed by forming a predetermined angle with the longitudinal axis of the vehicle 200 on the right side mirror of the vehicle 200, and photographing and outputting the right blind spot and the rear of the vehicle 200. .

상기 제 2 카메라(120)는 차량(200)의 우측 후미등에 차량(200)의 종방향 축과 평행하게 설치되고, 차량(200)의 좌측 후방 일부와 우측 후방을 촬영하여 출력한다.The second camera 120 is installed on the right rear light of the vehicle 200 in parallel with the longitudinal axis of the vehicle 200, and photographs and outputs a part of the left rear side and the right rear side of the vehicle 200.

상기 제 3 카메라(130)는 차량(200)의 좌측 후미등에 차량(200)의 종방향 축과 평행하게 설치되어 차량(200)의 우측 후방 일부와 좌측 후방을 촬영하여 출력한다.The third camera 130 is installed on the rear tail light of the vehicle 200 in parallel with the longitudinal axis of the vehicle 200 to photograph and output a part of the right rear side and the left rear side of the vehicle 200.

상기 제 4 카메라(140)는 차량(200)의 좌측 사이드 미러에 차량(200)의 종방향 축과 미리 설정된 각도를 형성하여 설치되고, 차량(200)의 좌측 사각 지대 및 후방을 촬영하여 출력한다.The fourth camera 140 is installed on the left side mirror of the vehicle 200 to form a predetermined angle with the longitudinal axis of the vehicle 200, and photographs and outputs the left blind spot and the rear of the vehicle 200. .

또한, 상기 제 2 카메라(120)와 제 3 카메라(130)는 두 카메라의 축과 렌즈의 축이 같은 방향으로 평행하게 정렬되어 설치되고, 상기 제 2 및 제 3 카메라(120 및 130)를 이용하여 동일한 후방 차량을 촬영한다.In addition, the second camera 120 and the third camera 130 are installed with the axes of the two cameras and the axis of the lens aligned in parallel in the same direction, using the second and third cameras 120 and 130 To shoot the same rear vehicle.

상기 제 1 내지 제 4 카메라(110 내지 140)는 CMOS 또는 CCD 중 어느 것을 이용하여도 무방하다. The first to fourth cameras 110 to 140 may use either a CMOS or a CCD.

상기 제 1 내지 제 4 카메라(110 내지 140)의 설치 위치는 이에 한정되지 않고 얼마든지 설치 변경가능하다.The installation positions of the first to fourth cameras 110 to 140 are not limited thereto, and the installation positions may be changed.

상기 제어부(150)는 제 1 내지 제 4 카메라(110 내지 140)가 촬영한 도 3(a) 내지 도 3(d)의 영상을 정합하여 미리 설정된 배경 영상으로 출력되도록 하고, 후방 차량(300 내지 320)까지의 거리를 추출하여 상기 정합된 배경 영상에 매칭시켜 출력되도록 하며 이를 위해 배경화면 생성부(151), 물체 인식부(152), 거리 측정부(153) 및 화면 정합부(154)를 포함하여 구성된다.The controller 150 matches the images of FIGS. 3 (a) to 3 (d) taken by the first to fourth cameras 110 to 140 to output the preset background image, and the rear vehicle 300 to. The distance to 320 is extracted and matched with the matched background image so as to be output. For this, the background screen generator 151, the object recognition unit 152, the distance measuring unit 153, and the screen matching unit 154 are output. It is configured to include.

상기 배경화면 생성부(151)는 제 1 내지 제 4 카메라(110 내지 140)가 촬영한 후방 영상들을 각각 수신하고, 미리 저장된 영상 정합 프로그램을 통해 상기 수신된 후방 영상들로부터 왜곡 보정을 위한 파라미터 추출과 인접 영상 간의 호모그래피 등을 계산한 후 각 후방 영상들의 정합(합성)을 수행한다.The background image generating unit 151 receives rear images captured by the first to fourth cameras 110 to 140, and extracts parameters for distortion correction from the received rear images through a pre-stored image matching program. After calculating the homography between the image and the adjacent image, the rear image is matched (synthesized).

또한, 상기 배경화면 생성부(151)는 파노라마 영상, 원근이 조절된 영상, 시점을 변경한 영상 중 어느 하나의 영상으로 정합하여 출력한다.In addition, the background screen generation unit 151 matches and outputs any one of a panorama image, an image of which perspective is adjusted, and an image of which a viewpoint is changed.

상기 배경화면 생성부(151)가 파노라마 영상을 정합하는 경우 상기 제 1 및 제 4 카메라(110 및 140)가 촬영한 좌/우측 후방 영상과 상기 제 2 및 제 3 카메라(120 및 130)가 촬영한 후방 영상에 대하여 상기 왜곡 보정 파라미터 및 인접 영상 간의 호모그래피 등을 이용하여 각 후방 영상의 매핑을 통한 영상 정합을 수행하여 정합 영상을 생성한다.When the background image generating unit 151 matches the panorama image, the left and right rear images captured by the first and fourth cameras 110 and 140 and the second and third cameras 120 and 130 capture the image. A matched image is generated by performing image registration by mapping each rear image using the distortion correction parameter and homography between adjacent images.

즉 카메라에 광각 렌즈가 설치된 경우 입력되는 영상에 대한 왜곡 보정을 수행하여 왜곡이 보정된 영상을 추출한다.That is, when a wide-angle lens is installed in the camera, distortion correction is performed on the input image to extract the distortion-corrected image.

또한, 상기 시점을 변경한 배경 화면은 도 5에 나타낸 바와 같이 임의의 카메라가 촬영한 도로면의 영상과 차선 정보(420)를 평면의 탑 뷰(Top View)화면으로 정합하여 출력되도록 한다.In addition, as shown in FIG. 5, the background screen having the changed viewpoint may match the image of the road surface photographed by an arbitrary camera and the lane information 420 with the planar top view screen.

상기 배경 화면(400)은 운전자가 후방 차량까지의 위치를 실질적인 원근감을 갖고 인식할 수 있도록 한다.The background screen 400 allows the driver to recognize the position up to the rear vehicle with a substantial perspective.

상기 영상 정합 프로그램은 공지의 영상 정합 프로그램을 사용해도 무방하다.The image registration program may be a known image registration program.

상기 물체 인식부(152)는 미리 설정된 스테레오 매칭 프로그램을 통해 상기 제 1 내지 제 4 카메라(110 내지 140)에서 촬영된 영상 중에 포함된 차량을 인식하기 위하여 상기 제 1 및 제 2 카메라(110 및 120)와, 상기 제 2 및 제 3 카메라(120 및 130)와, 상기 제 3 및 제 4 카메라(130 및 140)를 한 쌍의 스테레오 카메라로 순차적으로 설정하고, 설정된 스테레오 카메라를 통해 촬영된 두 개의 영상에서 인식 대상인 후방의 차량(300 내지 320)을 인식한다.The object recognizing unit 152 recognizes the vehicle included in the images captured by the first to fourth cameras 110 to 140 through a preset stereo matching program. ), The second and third cameras 120 and 130, and the third and fourth cameras 130 and 140 are sequentially set as a pair of stereo cameras, and two images captured through the set stereo cameras are used. The vehicle 300 to 320 that are the recognition targets are recognized in the image.

즉 제 1 및 제 2 카메라(110 및 120)가 스테레오 카메라로 설정된 경우 두 대의 카메라가 촬영하는 영상 영역(A)에 후방 차량 1(300)이 진입하면 상기 제 1 및 제 2 카메라(110 및 120)의 촬영 영상에서 차량을 추출하고, 제 2 및 제 3 카메라(120 및 130)가 스테레오 카메라로 설정된 경우 두 대의 카메라가 촬영하는 영상 영역(B)에 후방 차량 2(310) 및 후방 차량 3(320)이 진입하면 상기 제 2 및 제 3 카메라(120 및 130)의 촬영 영상에서 차량을 추출하며, 제 3 및 제 4 카메라(130 및 140)가 스테레오 카메라로 설정된 경우 두 대의 카메라가 촬영하는 영상 영역(C)에 후방 차량이 진입하면 상기 제 3 및 제 4 카메라(130 및 140)의 촬영 영상에서 차량을 추출한다.That is, when the first and second cameras 110 and 120 are set as the stereo cameras, when the rear vehicle 1 300 enters the image area A captured by the two cameras, the first and second cameras 110 and 120 are included. When the vehicle is extracted from the captured image and the second and third cameras 120 and 130 are set as the stereo cameras, the rear vehicle 2 310 and the rear vehicle 3 ( When 320 is entered, the vehicle is extracted from the captured images of the second and third cameras 120 and 130, and when the third and fourth cameras 130 and 140 are set as stereo cameras, images captured by two cameras are recorded. When the rear vehicle enters the area C, the vehicle is extracted from the captured images of the third and fourth cameras 130 and 140.

또한, 상기 물체 인식부(152)는 설정된 두 대의 스테레오 카메라가 서로 평행한 영상 축을 가진 경우 예를 들면, 제 2 카메라(120)와 제 3 카메라(130)와 같이 차량의 좌/우측 후미등에 각각 평행하게 설치되어 카메라의 축과 렌즈의 축이 서로 평행한 경우 별도의 카메라 보정을 수행하지 않고, 서로 다른 영상 축 예를 들면 제 1 카메라(110)와 제 2 카메라(120) 또는 제 3 카메라(130)와 제 4 카메라(140)와 같이 동일한 영상 축이 아닐 경우 카메라 보정을 통해 인식 가능한 화면으로 보정한 후 두 영상의 특징점 비교 등을 통해 인식 대상 즉 후방의 차량을 추출하게 된다.In addition, when the two stereo cameras set have parallel image axes, the object recognizing unit 152 may be mounted on the left / right tail lights of the vehicle, for example, the second camera 120 and the third camera 130. If the axis of the camera and the axis of the lens is parallel to each other is installed in parallel to each other without performing a separate camera correction, for example, different image axes, for example, the first camera 110 and the second camera 120 or the third camera ( If it is not the same image axis as 130 and the fourth camera 140, the image is corrected to be recognizable through camera calibration, and then the recognition object, ie, the vehicle behind the vehicle, is extracted by comparing the feature points of the two images.

상기 보정은 두 대의 스테레오 카메라 간에 예를 들면 수직 방향 축 맞춤(Axis align), 수평 방향 축 맞춤, 시야각의 차이, 촬상 소자 규격의 차이, 카메라 간의 떨어진 거리 오차 등을 포함하여 동일한 영상 축을 갖는 화면으로 보정하는 것이다.The correction is a screen having the same image axis including, for example, vertical alignment, horizontal axis alignment, difference in viewing angles, differences in imaging device specifications, and distance error between cameras between two stereo cameras. To calibrate.

상기 스테레오 매칭 프로그램은 차량의 후미등 및 사이드 미러에 각각 설치된 카메라를 통해 좌측 및 우측의 이미지가 입력되면 좌측 및 우측 이미지에 대한 밝기 및 에피폴라 라인(epipolar line)을 일치시키는 스테레오 이미지 입력에 대한 전처리 과정을 수행하고, 동일한 물체로 판단되는 좌측 및 우측 이미지의 픽셀간 양안차(disparity)를 생성하는 스테레오 매칭을 수행하며, 이러한 양안차의 결과에서 노이즈 성분을 제거한 후에 그 스테레오 이미지의 거리 정보에 대한 프로젝션(projection), 세그멘테이션(segmentation), 필터링(filtering) 등의 후처리 과정을 수행하여 스테레오 이미지 정보를 획득함으로써 이러한 스테레오 이미지를 통해 물체의 거리, 모양, 방향 등의 정보를 검출하게 된다.The stereo matching program is a pre-processing process for the stereo image input to match the brightness and the epipolar line for the left and right images when the left and right images are input through the camera installed in the rear lamp and the side mirror of the vehicle, respectively. Perform stereo matching to generate a pixel-to-pixel disparity of the left and right images determined to be the same object, and remove the noise component from the result of the binocular projection, and then project the distance information of the stereo image. By performing post-processing such as projection, segmentation, filtering, and the like, stereo image information is obtained to detect information such as distance, shape, and direction of an object through the stereo image.

상기 스테레오 매칭 프로그램은 하나의 실시예로서, 공지의 다양한 스테레오 매칭 프로그램을 사용할 수도 있다.The stereo matching program may use various known stereo matching programs as an embodiment.

상기 거리 측정부(153)는 상기 물체 인식부(152)에서 인식 대상 물체인 후방 차량 1 내지 3(300 내지 320)이 추출되면, 해당 차량이 추출된 스테레오 카메라의 영상 편차와 목표 대상 차량이 영상의 중심에서 얼마나 떨어져 있는지를 계산하여 추출된 차량까지의 거리를 산출한다.When the distance measuring unit 153 extracts the rear vehicles 1 to 3 (300 to 320), which are objects to be recognized by the object recognition unit 152, the image deviation of the stereo camera from which the vehicle is extracted and the target target image are displayed. The distance to the extracted vehicle is calculated by calculating how far from the center of the.

즉 두 대의 카메라를 이용하여 동일 차량을 촬영한 후 두 영상의 영상 편차(Image disparity)를 이용하여 두 대의 카메라가 영상을 바라보는 각도를 구하고, 두 대의 카메라가 떨어진 위치와 이 각도 정보를 이용하여 카메라에서 차량까지의 거리를 계산하게 된다.In other words, after photographing the same vehicle using two cameras, the angle at which the two cameras look at the image using the image disparity of the two images is obtained, and the two cameras are separated from each other and the angle information is used. The distance from the camera to the vehicle is calculated.

또한, 상기 거리 측정부(153)는 하나의 카메라가 임의의 시점에서 촬영한 영상 이미지와 일정 시간 이전 과거 시점에 촬영한 영상 이미지를 미리 저장된 이미지 프로세싱 프로그램을 통해 임의의 영상 이미지와 과거 영상 이미지에서 유사한 특성(예를 들면, 픽셀의 밝기, 에지의 유무 등)을 갖는 물체의 픽셀을 찾아서 변위가 발생한 임의의 픽셀을 각각 검출한다.In addition, the distance measuring unit 153 may be configured to display the image image captured by a camera at an arbitrary point in time and the image image photographed at a past point in time by a predetermined time from an arbitrary image image and a past image image through a pre-stored image processing program. Pixels of an object having similar characteristics (e.g., brightness of pixels, presence or absence of edges, etc.) are found to detect each pixel in which displacement has occurred.

즉 서로 다른 시간에 촬영한 다수의 영상 이미지에서 이미지 프로세싱을 통해 관심 있는 두 개의 이미지를 비교하여 벡터로 정의된 화소들의 이동 변위와 각도 변위 등을 통해 유사도를 검출하여 물체를 인식하거나, 물체의 경계선 또는 윤곽선 등의 에지나 물체의 윤곽에 근사하는 선분, 곡선 등을 구하여 이용하기도 하고, 이미지 내에 존재하는 모서리점, 불변인 점, 또는 회전변환이나 크기 변화 등에 대하여 불변인 특징점을 이용한 인식을 수행할 수도 있으며, 이미지에 포함된 물체의 특징점을 추출하여 인식을 수행할 수도 있다.In other words, two images of interest are compared from multiple image images taken at different times through image processing to detect similarity through movement displacement and angular displacement of pixels defined as vectors, or object boundary Alternatively, it may be used to obtain line segments or curves that approximate edges, such as outlines, or contours of objects, and perform recognition using invariant feature points for corner points, invariant points, or rotational transformations or size changes existing in an image. Alternatively, recognition may be performed by extracting feature points of an object included in an image.

상기 거리 측정부(153)는 상기 임의의 영상 이미지(이하, 제 1 이미지라고 함)에서 검출된 픽셀 위치와 과거의 이미지(이하, 제 2 이미지라고 함)에서 검출한 과거의 픽셀 위치 간의 이동 변위(벡터)를 검출하고, 차량의 ECU, TCU, 휠 센서 또는 스티어링 각도 센서 등으로부터 제공되는 차량의 조향각 정보, 거리 정보 및 속도 정보를 포함한 운행 정보를 검출하여 상기 두 픽셀의 이동 변위에 대응하는 이동 거리를 산출한다.The distance measuring unit 153 may move displacement between a pixel position detected in the arbitrary image image (hereinafter referred to as a first image) and a past pixel position detected in a past image (hereinafter referred to as a second image). Detects (vector) and detects driving information including steering angle information, distance information, and speed information of the vehicle provided from the ECU, TCU, wheel sensor, or steering angle sensor of the vehicle, and corresponds to the movement displacement of the two pixels. Calculate the distance.

즉 상기 거리 측정부(153)는 제 1 이미지상의 픽셀 위치(현재 위치)와 과거의 픽셀 위치가 표시되도록 하고, 두 픽셀 간의 차이 값은 차량이 이동한 거리를 이용하여 두 픽셀 간의 이동 거리로 설정되도록 한다.That is, the distance measuring unit 153 displays the pixel position (current position) and the past pixel position on the first image, and sets the difference value between the two pixels as the movement distance between the two pixels using the distance traveled by the vehicle. Be sure to

또한, 상기 거리 측정부(153)는 제 1 이미지상에 미리 설정된 기준점과 현재의 픽셀 및 과거의 픽셀까지의 변위를 검출하며, 상기 기준점과 현재의 픽셀 및 과거의 픽셀이 이루는 삼각형 정보 즉 상기 현재 픽셀과 과거 픽셀 간의 이동 변위를 기준변으로 하고, 상기 기준점이 현재 픽셀 및 과거 픽셀과 각각 이루는 변위를 다른 두 변으로 하며, 이들이 이루는 각을 각각 산출하여 기준점으로부터 현재 픽셀까지의 거리 즉 후방 차량까지의 거리를 산출하여 제공한다.In addition, the distance measuring unit 153 detects a displacement between a predetermined reference point, a current pixel, and a past pixel on the first image, and triangular information formed by the reference point, the current pixel, and the past pixel, that is, the current The displacement between the pixel and the past pixel is the reference side, and the displacement between the reference point and the current pixel is the other two sides, and the angle between them is calculated to calculate the angle between each pixel and the distance from the reference pixel to the rear vehicle. Calculate and provide the distance of.

상기 화면 정합부(154)는상기 배경화면 생성부(151)에서 생성된 배경 화면에 상기 물체 인식부(152) 및 거리 측정부(153)가 산출한 후방 차량과 상기 후방까지의 거리 정보를 매칭시켜 출력되도록 한다.The screen matching unit 154 matches the background information generated by the background screen generation unit 151 with the rear vehicle calculated by the object recognition unit 152 and the distance measuring unit 153 and the distance information to the rear. To print it out.

즉 상기 화면 정합부(154)는 상기 산출된 후방 차량까지의 거리 정보를 예를 들면, 제 1 카메라(110)와 제 2 카메라(120)가 촬영한 후방 영상에서 검출한 경우 상기 배경화면 생성부(151)로부터 상기 제 1 및 제 2 카메라(110 및 120)의 영상을 매핑한 정보를 입력받아 정합된 배경화면에서 후방 차량 1(300)을 인식하고, 상기 인식된 후방 차량 1(300)의 주변에 상기 거리 측정부(153)에서 산출한 거리 정보가 표시되도록 매칭시켜 디스플레이 신호로 출력한다.That is, when the screen matching unit 154 detects the calculated distance information to the rear vehicle, for example, from the rear image captured by the first camera 110 and the second camera 120, the background screen generation unit The rear vehicle 1 (300) is recognized from the matched background image by receiving information mapped to the images of the first and second cameras (110 and 120) from 151, and the recognized rear vehicle 1 (300) of the The distance information calculated by the distance measuring unit 153 is displayed to be displayed as a display signal.

또한, 상기 화면 정합부(154)는 상기 거리 측정부(153)에서 산출한 후방 차량까지의 거리 정보(430)가 큰 값(예를 들면, 차량(200)으로부터 멀리 떨어진 위치의 거리 값)을 가지면 상기 물체 인식부(152)에서 인식한 차량의 이미지를 캡처하고, 상기 캡처된 차량의 이미지 1 내지 3(440, 450 및 460)의 크기가 작게 설정되도록 한 후, 배경 화면(400)상의 기준 위치인 차량 아이콘(410)으로부터 원근감을 고려하여 배치한다.In addition, the screen matching unit 154 may determine a large value (for example, a distance value of a position far from the vehicle 200) of the distance information 430 of the rear vehicle calculated by the distance measuring unit 153. If captured, the image of the vehicle recognized by the object recognition unit 152 is captured, and the sizes of the captured images 1 to 3 (440, 450, and 460) are set to be small, and then the reference on the background screen 400 is used. From the vehicle icon 410 which is a position, it arranges considering the perspective.

이를 더욱 상세하게 설명하면, 상기 화면 정합부(154)는 상기 거리 측정부(153)에서 산출한 후방 차량까지의 거리 정보가 작은 값(예를 들면, 상기 차량(200)과 가까운 위치의 거리 값)을 가지면 상기 차량의 캡처 이미지 1 내지 3(440, 450 및 460)의 크기가 크게 설정되도록 한다.In more detail, the screen matching unit 154 has a small value of the distance information to the rear vehicle calculated by the distance measuring unit 153 (for example, a distance value of a position close to the vehicle 200). ) Allows the capture images 1 to 3 (440, 450, and 460) of the vehicle to have a large size.

예를 들어 후방 차량 1(300)과 후방 차량 3을 비교하여 설명하면 후방 차량 1(300)의 거리 정보(430)가 7m이고 후방 차량 3(320)의 거리 정보(430)가 10m인 경우 화면 합성부(153)는 후방 차량 1(300)을 캡쳐한 이미지 1(440)의 크기를 후방 차량 3(320)을 캡쳐한 이미지 3(460)의 크기보다 크게 보이도록 하여 후방 차량 1(300)이 가까운 곳에 있음을 인식할 수 있도록 한다. For example, when comparing the rear vehicle 1 300 and the rear vehicle 3, the distance information 430 of the rear vehicle 1 300 is 7 m and the distance information 430 of the rear vehicle 3 320 is 10 m. The synthesizing unit 153 makes the size of the image 1 440 captured by the rear vehicle 1 300 larger than the size of the image 3 460 captured by the rear vehicle 3 320. Make sure you are aware of this nearby.

또한, 상기 화면 정합부(154)는 후방 차량까지의 거리 정보(430)가 큰 값을 가지면 상기 차량의 캡처 이미지 1 내지 3(440, 450 및 460)이 후방 표시용 배경 화면(400)상의 기준 위치인 차량 아이콘(410)으로부터 먼 곳에 위치되도록 한다.In addition, when the distance information 430 of the vehicle to the rear vehicle has a large value, the screen matching unit 154 may reference the captured images 1 to 3 (440, 450, and 460) of the vehicle on the background screen 400 for rear display. To be located far from the vehicle icon 410 which is the location.

또한, 상기 화면 합성부(154)는 후방 차량까지의 거리 정보가 작은 값을 가지면 차량의 캡처 이미지 1 내지 3(440, 450 및 460)이 후방 표시용 배경 화면(400)상의 기준 위치인 차량 아이콘(410)으로부터 가까운 곳에 위치되도록 한다.In addition, if the distance information to the rear vehicle has a small value, the screen synthesizing unit 154 may display a vehicle icon in which captured images 1 to 3 (440, 450, and 460) of the vehicle are the reference positions on the rear display background screen 400. 410 is located close to.

예를 들어 후방 차량 1(300)과 후방 차량 3을 비교하여 설명하면 후방 차량 1(300)의 거리 정보(430)가 7m이고 후방 차량 3(320)의 거리 정보(430)가 10m인 경우 화면 합성부(154)는 후방 차량 1(300)을 캡쳐한 이미지 1(440)을 후방 차량 3(320)을 캡쳐한 이미지 3(460)보다 가까운 곳에 위치하도록 배치하여 후방 차량 1(300)이 가까운 곳에 있음을 인식할 수 있도록 한다. For example, when comparing the rear vehicle 1 300 and the rear vehicle 3, the distance information 430 of the rear vehicle 1 300 is 7 m and the distance information 430 of the rear vehicle 3 320 is 10 m. The synthesizing unit 154 is arranged such that the image 1 440 captured by the rear vehicle 1 300 is located closer to the image 3 460 captured from the rear vehicle 3 320, so that the rear vehicle 1 300 is closer to the rear vehicle 1 300. Make sure you know where you are.

상기 화면 표시부(160)는 상기 제어부(150)에서 정합된 배경 화면과 상기 배경 화면에 매칭된 차량까지의 거리 정보가 운전자에게 디스플레이되도록 한다.The screen display unit 160 displays the background information matched by the controller 150 and the distance information to the vehicle matched with the background screen to the driver.

상기 경고음 발생부(170)는 상기 거리 측정부(153)에서 후방 차량까지의 거리가 산출되면 그 산출된 차량까지의 거리 정보를 차량(200)으로부터 검출한 차량의 속도 정보 또는 후방 차량의 이동 변위에 따른 상대 속도 정보에 기초하여 미리 설정된 추돌 방지 판단용 정보와 비교한다.When the distance from the distance measuring unit 153 to the rear vehicle is calculated, the warning sound generating unit 170 detects the speed information of the vehicle or the displacement of the rear vehicle which has detected the distance information of the calculated vehicle from the vehicle 200. Based on the relative speed information according to the comparison with the predetermined collision prevention determination information.

상기 경고음 발생부(170)는 상기 비교 결과, 후방 차량까지의 거리가 상기 추돌 방지 판단용 거리보다 큰 경우 별도의 경고음을 발생하지 않고, 상기 후방 차량까지의 거리가 상기 추돌 방지 판단용 거리와 같거나 작은 경우 운전자에 안전 운전을 위한 경고음이 출력되도록 한다.As a result of the comparison, the warning sound generating unit 170 does not generate a separate warning sound when the distance to the rear vehicle is greater than the collision prevention determination distance, and the distance to the rear vehicle is equal to the collision prevention determination distance. Or small, make the driver output a warning sound for safe driving.

또한, 상기 경고음 발생부(170)는 산출된 차량까지의 거리가 후방 차량과 비교적 가까운 거리지만 후방 차량의 속도가 작아지거나 또는 차량(200)의 속도가 증가하고 있는 경우 경고음이 발생되지 않도록 하고, 산출된 차량까지의 거리가 후방 차량과 비교적 먼 거리지만 후방 차량의 속도가 증가하고 있거나 또는 차량(200)의 속도가 감소하고 있는 경우 경고음이 발생되도록 한다.In addition, the warning sound generating unit 170, but the distance to the calculated vehicle is relatively close to the rear vehicle, but if the speed of the rear vehicle is reduced or the speed of the vehicle 200 is increased so as not to generate a warning sound, Although the calculated distance to the vehicle is relatively far from the rear vehicle, the warning sound is generated when the speed of the rear vehicle is increasing or the speed of the vehicle 200 is decreasing.

또한, 상기 경고음 발생부(170)는 상기 경고음의 발생 신호를 출력하는 경우 후방 차량이 추돌 방지 판단용 거리 이내로 접근하고 있음을 경고하는 점멸 신호를 상기 화면 정합부(154)에 출력한다.In addition, the warning sound generating unit 170 outputs a flashing signal to the screen matching unit 154 to warn that the rear vehicle is approaching within the collision prevention determination distance when the warning sound generating signal is output.

한편, 상기 화면 정합부(154)는 상기 경고음 발생부(170)로부터 경고용 점멸 신호가 입력되면 해당 후방 차량까지의 거리 정보가 점멸되도록 하여 운전자에게 경고신호가 노출되도록 한다.
On the other hand, the screen matching unit 154 when the warning flashing signal is input from the warning sound generating unit 170 so that the distance information to the rear vehicle to blink so that the warning signal is exposed to the driver.

도 6은 본 발명에 따른 차량의 후방 영상 표시 방법을 나타낸 흐름도이고, 도 7은 도 6에 따른 차량의 후방 영상 표시 방법의 영상 재배치 과정을 나타낸 흐름도이다.6 is a flowchart illustrating a rear image display method of a vehicle according to the present invention, and FIG. 7 is a flowchart illustrating an image rearrangement process of the rear image display method of the vehicle according to FIG. 6.

도 1 내지 도 7을 참조하여 본 발명에 따른 차량의 후방 영상 표시 방법을 더욱 상세하게 설명한다.A method of displaying a rear image of a vehicle according to the present invention will be described in more detail with reference to FIGS. 1 to 7.

후방 영상 표시 장치(100)의 제어부(150)가 차량의 좌/우측 사이드 미러와 좌/우측 후미등에 각각 설치된 제 1 내지 제 4 카메라(110 내지 140)로부터 차량의 후방을 촬영한 영상 이미지 정보를 검출(S100)한다.The control unit 150 of the rear image display apparatus 100 captures the image image information of the rear of the vehicle from the first to fourth cameras 110 to 140 installed at the left / right side mirrors and the left / right rear lights of the vehicle, respectively. Detection (S100).

상기 제어부(150)는 상기 S100 단계에서 촬영되는 후방 영상이 서로 비대칭 위치에 설치된 카메라에서 촬영된 영상인 경우 미리 설정된 카메라의 각도 및 설정정보에 따라 영상을 보정 변환하여 입력받는다.When the rear image photographed in step S100 is an image photographed by a camera installed at an asymmetrical position, the controller 150 corrects and inputs an image according to a preset camera angle and setting information.

상기 제 1 내지 제 4 카메라(110 내지 140)를 통한 촬영 영상이 입력되면, 상기 제어부(150)는 상기 제 1 내지 제4 카메라(110 내지 140))들로부터 촬영된 차량의 후방 영상(도 3(a) 내지 도 3(d) 참조)을 각각 수신하고, 미리 저장된 영상 정합 프로그램을 통해 상기 수신된 후방 영상들의 왜곡 보정을 위한 파라미터 추출과 인접 영상 간의 호모그래피 등을 계산한 후 각 후방 영상들을 정합하여 파노라마 영상, 원근이 조절된 영상, 시점을 변경한 영상 중 어느 하나의 영상으로 정합한 배경 화면을 생성(S110)한다.When the photographed image through the first to fourth cameras 110 to 140 is input, the controller 150 controls the rear image of the vehicle photographed from the first to fourth cameras 110 to 140. (a) to FIG. 3 (d)), and after calculating parameter extraction for distortion correction of the received rear images and homography between adjacent images through a pre-stored image registration program, each rear image is calculated. In operation S110, the background image is matched with any one of the panorama image, the image whose perspective is adjusted, and the image whose viewpoint is changed.

또한, 상기 제어부(150)는 미리 설정된 스테레오 매칭 프로그램을 통해 상기 제 1 내지 제 4 카메라(110 내지 140)에서 촬영된 후방 영상 중에 포함된 차량을 인식하기 위하여 제 1 및 제 2 카메라(110 및 120)와, 제 2 및 제 3 카메라(120 및 130)와, 제 3 및 제 4 카메라(130 및 140)를 한 쌍의 스테레오 카메라가 되도록 순차적으로 각각 설정하고, 상기 설정된 한 쌍의 스테레오 카메라가 촬영한 두 개의 영상 영역에 위치한 인식 대상인 후방 차량 1 내지 3(300 내지 320)을 인식(S120)하는 과정을 수행한다.In addition, the controller 150 may recognize the vehicle included in the rear image captured by the first to fourth cameras 110 to 140 through a preset stereo matching program. ), The second and third cameras 120 and 130, and the third and fourth cameras 130 and 140 are sequentially set to be a pair of stereo cameras, and the set pair of stereo cameras are photographed. A process of recognizing (S120) the rear vehicles 1 to 3 (300 to 320), which are recognition targets located in one or two image areas, is performed.

상기 S120 단계에서 두 대의 스테레오 카메라가 서로 평행한 경우 별도의 카메라 보정을 수행하지 않고, 상기 두 대의 스테레오 카메라가 서로 다른 영상 축 예를 들면 제 1 카메라(110)와 제 2 카메라(120) 또는 제 3 카메라(130)와 제 4 카메라(140)와 같이 동일한 영상 축을 갖는 것이 아닐 경우 카메라 보정을 통해 인식 가능한 화면으로 보정한 후 두 영상의 특징점 비교 등을 통해 후방의 차량을 추출한다.When the two stereo cameras are parallel to each other in step S120, the two stereo cameras do not perform separate camera correction, and the two stereo cameras have different image axes, for example, the first camera 110, the second camera 120, or the first camera. If the same camera axis as the third camera 130 and the fourth camera 140 does not have the same image axis, the camera is calibrated into a recognizable screen through camera calibration, and the rear vehicle is extracted by comparing feature points of the two images.

상기 S120 단계에서 후방 차량 1 내지 3(300 내지 320)이 인식되면, 상기 제어부(150)는 미리 설치된 거리 측정 프로그램을 통해 각 후방 차량을 인식한 스테레오 카메라의 영상 편차를 이용하여 두 대의 카메라가 영상을 바라보는 각도를 구하고, 두 대의 카메라가 떨어진 위치와 이 각도 정보를 이용하여 카메라에서 인식된 차량까지의 거리를 계산(S130)한다.When the rear vehicles 1 to 3 (300 to 320) are recognized in the step S120, the controller 150 images the two cameras by using the image deviation of the stereo camera that recognizes each rear vehicle through a pre-installed distance measuring program. Calculate the angle to look at, and calculates the distance from the camera to the recognized vehicle using the position of the two cameras and the angle information (S130).

상기 제어부(150)는 상기 S130 단계에서 계산된 거리 정보를 상기 S110 단계에서 생성된 배경 화면에 매칭시켜 원근감 있게 출력(S140)되도록 한다.The controller 150 matches the distance information calculated in the step S130 with the background screen generated in the step S110 to output in perspective (S140).

이를 더욱 상세하게 설명하면, 상기 제어부(150)가 후방 차량 1 내지 3(300, 310 및 320)과 차선 정보(420)와 상기 후방 차량까지의 거리 정보(430)를 검출하면 미리 설정된 배경 화면(400) 예를 들면, 탑 뷰 화면이 정합(S410)되도록 한다.In more detail, when the controller 150 detects rear vehicles 1 to 3 (300, 310 and 320), lane information 420, and distance information 430 to the rear vehicle, a preset background screen ( 400) For example, the top view screen is matched (S410).

상기 배경 화면(400)이 생성되면, 상기 제어부(150)가 배경 화면(400) 상에 도로면의 차선 정보(420)가 표시(S420)되도록 하고, 상기 차선 정보(420)가 표시된 배경 화면(400)에 디스플레이할 실제 차량의 캡처 이미지 1 내지 3(440, 450 및 460) 즉 거리 정보(430)가 추출된 후방 차량 1 내지 3(300, 310 및 320)의 실제 모습을 상기 촬영된 영상으로부터 캡처(S430)한다.When the background screen 400 is generated, the controller 150 causes the lane information 420 of the road surface to be displayed on the background screen 400 (S420), and the background screen on which the lane information 420 is displayed ( Capture image 1 to 3 (440, 450 and 460) of the actual vehicle to be displayed on 400, that is, the actual appearance of the rear vehicle 1 to 3 (300, 310 and 320) from which the distance information 430 is extracted from the captured image Capture (S430).

상기 S430 단계에서 차량의 캡처 이미지 1 내지 3(440, 450 및 460)은 상기 제어부(150)가 검출한 거리 정보 값의 크기에 따라 상기 차량의 캡처 이미지 1 내지 3(440, 450 및 460)의 크기를 조절하고, 상기 조절된 차량의 캡처 이미지 1 내지 3(440, 450 및 460)을 배경 화면(400) 상에 배치할 위치를 결정(S440)한다.In operation S430, the capture images 1 to 3 (440, 450, and 460) of the vehicle are configured to capture the captured images 1 to 3 (440, 450, and 460) of the vehicle according to the magnitude of the distance information value detected by the controller 150. A size is adjusted and a position at which the captured images 1 to 3 (440, 450, and 460) of the adjusted vehicle are to be disposed on the background screen 400 is determined (S440).

즉 상기 S440 단계에서 후방 차량까지의 거리 정보(430)가 예를 들면 원근을 판단하기 위해 미리 설정된 기준 값이 5m이고, 상기 산출될 거리 정보(430)가 기준 값보다 큰 값(예를 들면, 5m 이상의 값)을 가지면 상기 캡처된 차량의 이미지 크기가 미리 설정된 기준 크기보다 작아지도록 설정하고, 상기 후방 차량까지의 거리 정보가 작은 값(예를 들면, 5m 이하의 값)을 가지면 상기 캡처된 차량의 이미지 크기가 미리 설정된 기준 크기보다 커지도록 설정한다.That is, in step S440, the distance information 430 to the rear vehicle is a preset reference value for determining perspective, for example, 5 m, and the calculated distance information 430 is greater than the reference value (for example, A value of 5 m or more), the image size of the captured vehicle is set to be smaller than a preset reference size, and if the distance information to the rear vehicle has a small value (for example, a value of 5 m or less), the captured vehicle Set the image size of the image to be larger than the preset reference size.

또한, 상기 S440 단계에서 후방 차량까지의 거리 정보(430)가 상기 원근을 판단하기 위한 기준 값보다 큰 값을 가지면 상기 크기를 조절한 차량의 캡처 이미지를 상기 배경 화면(400) 상의 기준 위치인 차량 아이콘(410)으로부터 먼 곳에 위치되도록 하고, 상기 후방 차량까지의 거리 정보가 상기 기준 값보다 작은 값을 가지면 상기 크기를 조절한 차량의 캡처 이미지가 상기 배경 화면(400) 상의 기준 위치인 차량 아이콘(410)으로부터 가까운 곳에 위치되도록 결정한다.In addition, when the distance information 430 to the rear vehicle has a larger value than the reference value for determining the perspective in step S440 the vehicle is a reference position on the background screen 400 to capture the image of the adjusted vehicle When the distance information to the rear vehicle has a smaller value than the reference value, the captured image of the resized vehicle is a reference position on the background screen 400. 410 to be located close to.

상기 S440 단계에서 결정된 크기 및 배치 정보에 따라 상기 제어부(150)가 결정된 차량 이미지의 크기, 위치 및 거리 정보를 배경 화면(400) 상에 탑 뷰(Top View) 화면으로 표시(S450)되도록 한다.According to the size and arrangement information determined in step S440, the controller 150 displays the size, location, and distance information of the determined vehicle image on the background screen 400 as a top view screen (S450).

즉 후방 차량 1(300)과 후방 차량 2(310)와 후방 차량 3(320)의 거리 정보가 각각 7m, 8m, 10m 인 경우 상기 거리 정보에 따라 크기가 조절된 차량의 캡처 이미지 1 내지 3(440, 450 및 460)을 원근감 있게 배치하여 표시되도록 한다.That is, when the distance information of the rear vehicle 1 (300), the rear vehicle 2 (310) and the rear vehicle 3 (320) is 7 m, 8 m, and 10 m, respectively, the captured images 1 to 3 ( 440, 450, and 460 are placed in perspective so that they are displayed.

상기 제어부(150)가 상기 S450 단계에서의 배치를 완료한 배경 화면(400)을 화면 표시부(160)로 출력(S460)하여 운전자가 인식할 수 있도록 한다.The controller 150 outputs the background screen 400 having completed the arrangement in the step S450 to the screen display unit 160 (S460) so that the driver can recognize it.

상기 화면 표시부(160)는 상기 S140 단계에서 제어부(150)가 출력하는 디스플레이 신호를 수신하여 디스플레이(S150)되도록 한다.The screen display unit 160 receives the display signal output from the controller 150 in step S140 to display the display signal (S150).

한편, 경고음 발생부(170)는 상기 S130 단계에서 산출된 후방 차량까지의 거리 정보와 후방 차량의 속도 정보를 미리 설정된 추돌 방지 판단용 거리 정보와 비교하고, 상기 비교 결과 후방 차량까지의 거리가 상기 추돌 방지 판단용 거리보다 큰 경우 별도의 경고음을 발생시키지 않고, 상기 후방 차량까지의 거리가 상기 추돌 방지 판단용 거리와 같거나 작은 경우 운전자에 안전 운전을 위한 경고음이 출력되도록 한다.On the other hand, the warning sound generating unit 170 compares the distance information to the rear vehicle and the speed information of the rear vehicle calculated in step S130 with preset collision prevention determination distance information, the distance to the rear vehicle as a result of the comparison If the collision prevention determination distance is greater than the separate warning sound does not occur, and if the distance to the rear vehicle is less than or equal to the collision prevention determination distance to the driver to output a warning sound for safe driving.

또한, 상기 경고음 발생부(170)는 산출된 차량까지의 거리가 후방 차량과 비교적 가까운 거리지만 후방 차량의 속도가 작아지거나 또는 차량(200)의 속도가 증가하고 있는 경우 경고음이 발생되지 않도록 하고, 산출된 차량까지의 거리가 후방 차량과 비교적 먼 거리지만 후방 차량의 속도가 증가하고 있거나 또는 차량(200)의 속도가 감소하고 있는 경우 경고음이 발생되도록 한다.In addition, the warning sound generating unit 170, but the distance to the calculated vehicle is relatively close to the rear vehicle, but if the speed of the rear vehicle is reduced or the speed of the vehicle 200 is increased so as not to generate a warning sound, Although the calculated distance to the vehicle is relatively far from the rear vehicle, the warning sound is generated when the speed of the rear vehicle is increasing or the speed of the vehicle 200 is decreasing.

또한, 상기 경고음 발생부(170)는 상기 경고음의 발생 신호를 출력하는 경우 후방 차량이 추돌 방지 판단용 거리 이내로 접근하고 있음을 화면 표시부(160)를 통해 경고할 수 있도록 점멸 신호를 출력하여 접근하는 차량의 거리 정보가 상기 화면 표시부(160) 상에서 점멸되도록 한다.In addition, the warning sound generating unit 170 outputs a flashing signal to warn the screen vehicle 160 that the rear vehicle is approaching within the collision prevention determination distance when the warning sound generating signal is output. The distance information of the vehicle is flickered on the screen display unit 160.

따라서, 차량의 후방 영상 정보를 제공하여 운전자에게 안전한 주행 환경을 제공할 수 있고, 후방에 위치한 차량까지의 거리 정보를 운전자가 효과적으로 인지할 수 있도록 하여 후방에서 접근하는 차량과의 추돌 사고를 방지할 수 있으며, 후방의 차량이 추돌 발생 예상 거리까지 접근하는 것을 경고하여 운전자의 안전 운전유도와 사고 발생을 방지할 수 있게 된다.
Therefore, it is possible to provide a safe driving environment to the driver by providing the rear image information of the vehicle, and to prevent the collision accident with the vehicle approaching from the rear by allowing the driver to effectively recognize the distance information to the rear vehicle. In addition, by warning the rear of the vehicle approaching the expected collision distance to prevent the driver's safe driving and prevent the occurrence of an accident.

상기와 같이, 본 발명의 바람직한 실시 예를 참조하여 설명하였지만 해당 기술 분야의 숙련된 당업자라면 하기의 특허청구범위에 기재된 본 발명의 사상 및 영역으로부터 벗어나지 않는 범위 내에서 본 발명을 다양하게 수정 및 변경시킬 수 있음을 이해할 수 있을 것이다.
While the present invention has been particularly shown and described with reference to exemplary embodiments thereof, it will be understood by those of ordinary skill in the art that various changes in form and details may be made therein without departing from the spirit and scope of the invention as defined by the appended claims. It can be understood that

100: 영상 표시 장치 110 : 제 1 카메라
120 : 제 2 카메라 130 : 제 3 카메라
140 : 제 4 카메라 150 : 제어부
151 : 배경화면 생성부 152 : 물체 인식부
153 : 거리 측정부 154 : 화면 정합부
160 : 화면 표시부 170 : 경고음 발생부
200 : 차량 300 : 후방 차량 1
310 : 후방 차량 2 320 : 후방 차량 3
400 : 후방 표시용 배경 화면 410 : 차량 아이콘
420 : 차선 430 : 거리 정보
440 : 캡처 이미지 1 450 : 캡처 이미지 2
460 : 캡처 이미지 3
100: video display device 110: first camera
120: second camera 130: third camera
140: fourth camera 150: control unit
151: Wallpaper generation unit 152: Object recognition unit
153: distance measuring unit 154: screen matching unit
160: screen display unit 170: warning sound generation unit
200: vehicle 300: rear vehicle 1
310: rear vehicle 2 320: rear vehicle 3
400: rear display wallpaper 410: vehicle icon
420: lane 430: street information
440: capture image 1 450: capture image 2
460: Capture Image 3

Claims (20)

차량의 후방 영상 표시 장치로서,
차량에 설치되어 후방 영상을 촬영하는 적어도 두 대 이상의 카메라;
상기 카메라가 촬영한 후방 영상을 영상 정합 프로그램으로 정합하여 미리 설정된 배경 화면을 생성하고, 상기 촬영된 후방 영상을 이미지 프로세싱하여 검출한 후방 차량 정보를 상기 생성된 배경 화면에 배치하여 출력하는 제어부; 및
상기 제어부로부터 출력되는 배경 영상과 후방 차량 정보가 디스플레이되도록 하는 화면 표시부를 포함하는 차량의 후방 영상 표시 장치.
A rear image display device of a vehicle,
At least two cameras installed in the vehicle to capture a rear image;
A controller configured to generate a preset background screen by matching the rear image captured by the camera with an image matching program, and to arrange and output rear vehicle information detected by image processing the photographed rear image on the generated background screen; And
And a screen display unit configured to display a background image and rear vehicle information output from the controller.
제 1 항에 있어서,
상기 제어부는 다수의 화면을 미리 설치된 영상 정합 프로그램으로 정합하여 배경 화면을 생성하는 배경화면 생성부;
상기 카메라가 촬영한 후방 영상을 미리 저장된 이미지 프로세싱 프로그램을 통해 분석하여 인식 대상 차량을 검출하는 물체 인식부;
상기 물체 인식부에서 검출한 후방 차량까지의 거리 정보와 상기 후방 차량의 상대 속도 정보를 산출하는 거리 측정부; 및
상기 배경화면 생성부에서 생성된 배경 영상에 상기 물체 인식부 및 거리 측정부가 산출한 후방 차량과 상기 후방까지의 거리 정보를 매칭시켜 출력되도록 하는 화면 정합부를 포함하는 것을 특징으로 하는 차량의 후방 영상 표시 장치.
The method of claim 1,
The controller may include: a background screen generation unit for generating a background screen by matching a plurality of screens with a pre-installed image registration program;
An object recognizing unit which detects a vehicle to be recognized by analyzing a rear image captured by the camera through a pre-stored image processing program;
A distance measuring unit calculating distance information to the rear vehicle detected by the object recognition unit and relative speed information of the rear vehicle; And
And a screen matching unit configured to match the rear vehicle calculated by the object recognition unit and the distance measuring unit with the distance information to the rear, and output the background image generated by the background screen generation unit. Device.
제 2 항에 있어서,
상기 배경화면 생성부는 파노라마 영상, 원근이 조절된 영상, 시점을 변경한 영상 중 어느 하나의 영상으로 정합하는 것을 특징으로 하는 차량의 후방 영상 표시 장치.
The method of claim 2,
And the background screen generation unit matches any one of a panoramic image, an image of which perspective is adjusted, and an image of which the viewpoint is changed.
제 3 항에 있어서,
상기 시점을 변경한 영상은 탑 뷰(Top View) 화면인 것을 특징으로 하는 차량의 후방 영상 표시 장치.
The method of claim 3, wherein
The rear view image display apparatus of the vehicle, wherein the image of which the viewpoint is changed is a top view screen.
제 2 항에 있어서,
상기 거리 측정부는 하나의 카메라가 서로 다른 시간에 검출한 다수의 이미지를 이미지 프로세싱하여 후방 차량의 이동 변위를 검출하고, 차량으로부터 제공받는 조향각 정보, 거리 정보 및 속도 정보를 포함한 운행 정보와 상기 이동 변위를 이용하여 후방 차량까지의 거리 정보와 후방 차량의 상대 속도 정보를 산출하는 것을 특징으로 하는 차량의 후방 영상 표시 장치.
The method of claim 2,
The distance measuring unit detects a movement displacement of a rear vehicle by image processing a plurality of images detected by one camera at different times, and includes driving information including the steering angle information, distance information, and speed information provided from the vehicle, and the movement displacement. And calculating distance information to the rear vehicle and relative speed information of the rear vehicle by using the.
제 2 항에 있어서,
상기 거리 측정부는 임의의 카메라가 촬영한 이미지를 스테레오 매칭 프로그램을 통해 후방 차량까지의 거리 정보와 후방 차량의 상대 속도 정보를 산출하는 것을 특징으로 하는 차량의 후방 영상 표시 장치.
The method of claim 2,
And the distance measuring unit calculates distance information to a rear vehicle and relative speed information of the rear vehicle through a stereo matching program on an image photographed by an arbitrary camera.
제 2 항에 있어서,
상기 화면 정합부는 상기 물체 인식부에서 인식된 후방 차량의 이미지를 촬영된 영상에서 캡처하고, 상기 거리 측정부에서 산출된 후방 차량까지의 거리 정보에 따라 상기 캡처된 미리 설정된 크기로 조절하며, 상기 크기가 조절된 후방 차량의 이미지를 상기 거리 정보와 미리 설정된 배경 화면상의 기준 위치로부터 원근감을 고려하여 배치하는 것을 특징으로 하는 차량의 후방 영상 표시 장치.
The method of claim 2,
The screen matching unit captures an image of a rear vehicle recognized by the object recognition unit from a photographed image, and adjusts the captured size to the captured preset size according to the distance information to the rear vehicle calculated by the distance measuring unit. The rear image display apparatus of the vehicle, wherein the image of the adjusted rear vehicle is disposed in consideration of the perspective from the distance information and a reference position on a preset background screen.
제 7 항에 있어서,
상기 화면 정합부는 상기 후방 차량까지의 거리 정보가 미리 설정된 원근 판단용 기준 값보다 큰 값을 가지면 상기 캡처된 차량의 이미지 크기가 작게 설정되도록 하고, 상기 후방 차량까지의 거리 정보가 상기 기준 값보다 작은 값을 가지면 상기 캡처된 차량의 이미지 크기가 크게 설정되도록 하는 것을 특징으로 하는 차량의 후방 영상 표시 장치.
The method of claim 7, wherein
The screen matching unit causes the image size of the captured vehicle to be set smaller when the distance information to the rear vehicle has a value larger than a preset perspective determination reference value, and the distance information to the rear vehicle is smaller than the reference value. And a value so that the image size of the captured vehicle is set to be large.
제 7 항에 있어서,
상기 화면 정합부는 상기 후방 차량까지의 거리 정보가 미리 설정된 원근 판단용 기준 값보다 큰 값을 가지면 상기 캡처된 차량의 이미지가 상기 배경 화면상의 기준 위치로부터 먼 곳에 위치되도록 하고, 상기 후방 차량까지의 거리 정보가 상기 기준 값보다 작은 값을 가지면 상기 캡처된 차량의 이미지가 상기 배경 화면상의 기준 위치로부터 가까운 곳에 위치되도록 하는 것을 특징으로 하는 차량의 후방 영상 표시 장치.
The method of claim 7, wherein
The screen matching unit causes the image of the captured vehicle to be located far from the reference position on the background screen when the distance information to the rear vehicle has a value larger than a preset reference value for perspective determination, and the distance to the rear vehicle. And if the information has a value smaller than the reference value, the captured image of the vehicle is positioned near the reference position on the background screen.
제 1 항에 있어서,
상기 카메라는 차량의 후면 및 측면에 설치된 것을 특징으로 하는 차량의 후방 영상 표시 장치.
The method of claim 1,
And the camera is installed at the rear and side of the vehicle.
제 1 항에 있어서,
상기 차량의 후방 영상 표시 장치는 상기 측정된 후방 차량까지의 거리 정보 및 후방 차량의 상대 속도를 분석하여 미리 설정된 추돌 방지 판단용 정보와 비교하고, 그 비교 결과에 따라 경고음 또는 경고 화면의 출력 여부를 결정하는 경고음 발생부를 더 포함하는 것을 특징으로 하는 차량의 후방 영상 표시 장치.
The method of claim 1,
The rear image display apparatus of the vehicle analyzes the measured distance information to the rear vehicle and the relative speed of the rear vehicle and compares it with preset collision prevention determination information, and determines whether to output a warning sound or a warning screen according to the comparison result. And a warning sound generator configured to determine the rear image display device.
차량의 후방 영상 표시 방법으로서,
a) 제어부가 적어도 두 대 이상의 카메라들로부터 차량의 후방 영상을 검출하는 단계;
b) 상기 제어부가 상기 카메라들로부터 검출된 후방 영상을 미리 설치된 영상 정합 프로그램을 통해 미리 설정된 배경 영상으로 정합하는 단계;
c) 상기 제어부는 임의의 카메라가 촬영한 후방 영상을 이미지 프로세싱하여 후방에 위치한 차량을 인식하는 단계; 및
d) 상기 제어부가 상기 c) 단계에서 인식된 후방 차량을 상기 a) 단계에서 정합된 배경 화면과 매칭시켜 화면 표시부를 통해 디스플레이하는 단계를 포함하는 차량의 후방 영상 표시 방법.
As a rear image display method of a vehicle,
a) the control unit detecting rear image of the vehicle from at least two cameras;
b) the control unit matching the rear image detected by the cameras with a preset background image through a pre-installed image registration program;
c) the controller recognizing a vehicle located at the rear by image processing a rear image captured by an arbitrary camera; And
and d) displaying, by the control unit, the rear vehicle recognized in step c) with the background screen matched in step a) and displaying the same on the screen display unit.
제 12 항에 있어서,
e) 상기 제어부가 상기 c) 단계에서 인식된 후방 차량까지의 거리 정보 및 후방 차량의 속도를 산출하고, 상기 산출된 후방 차량까지의 거리 정보를 상기 d) 단계에서 정합된 배경 화면의 후방 차량과 매칭시켜 화면 표시부로 디스플레이되도록 하는 단계를 더 포함하는 것을 특징으로 하는 차량의 후방 영상 표시 방법.
The method of claim 12,
e) the controller calculates the distance information to the rear vehicle and the speed of the rear vehicle recognized in step c), and calculates the distance information to the rear vehicle and the rear vehicle of the background screen matched in step d). And matching the display to the screen display unit.
제 13 항에 있어서,
상기 제어부는 촬영된 영상으로부터 상기 후방 차량의 이미지를 캡처하고, 상기 캡처된 차량 이미지의 크기와 상기 배경 화면상의 위치를 상기 후방 차량까지의 거리 정보에 따라 원근감 있게 조절하여 재배치하는 단계를 더 포함하는 것을 특징으로 하는 차량의 후방 영상 표시 방법.
The method of claim 13,
The control unit may further include capturing an image of the rear vehicle from a photographed image, and repositioning the rear vehicle by adjusting the size of the captured vehicle image and a position on the background screen with perspective based on distance information to the rear vehicle. Rear image display method of a vehicle, characterized in that.
제 14 항에 있어서,
상기 재배치 단계는 상기 후방 차량까지의 거리 정보가 미리 설정된 원근 판단용 기준 값보다 큰 값을 가지면 상기 캡처된 차량의 이미지 크기가 작게 설정되도록 하고, 상기 후방 차량까지의 거리 정보가 상기 기준 값보다 작은 값을 가지면 상기 캡처된 차량의 이미지 크기가 크게 설정되도록 하는 것을 특징으로 하는 차량의 후방 영상 표시 방법.
15. The method of claim 14,
The relocating step may cause the image size of the captured vehicle to be set smaller when the distance information to the rear vehicle has a value greater than a preset reference value for perspective determination, and the distance information to the rear vehicle is smaller than the reference value. The image display method of the rear vehicle, characterized in that to have a larger image size of the captured vehicle.
제 14 항에 있어서,
상기 재배치 단계는 상기 후방 차량까지의 거리 정보가 미리 설정된 원근 판단용 기준 값보다 큰 값을 가지면 상기 캡처된 차량의 이미지가 상기 배경 화면상의 기준 위치로부터 먼 곳에 위치되도록 하고, 상기 후방 차량까지의 거리 정보가 상기 기준 값보다 작은 값을 가지면 상기 캡처된 차량의 이미지가 상기 배경 화면상의 기준 위치로부터 가까운 곳에 위치되도록 하는 것을 특징으로 하는 차량의 후방 영상 표시 방법.
15. The method of claim 14,
The relocating step may cause the image of the captured vehicle to be located far from the reference position on the background screen when the distance information to the rear vehicle has a value greater than a preset reference value for perspective determination, and the distance to the rear vehicle. And if the information has a value smaller than the reference value, the captured image of the vehicle is positioned near the reference position on the background screen.
제 13 항에 있어서,
e-1) 상기 e) 단계는 상기 산출된 후방 차량까지의 거리 정보, 및 후방 차량의 상대 속도 정보를 분석하여 미리 설정된 추돌 방지 판단용 정보와 비교하고, 그 비교 결과에 따라 경고음 또는 경고 화면의 출력 여부를 결정하는 단계를 더 포함하는 것을 특징으로 하는 차량의 후방 영상 표시 방법.
The method of claim 13,
e-1) step e) analyzes the calculated distance information to the rear vehicle and the relative speed information of the rear vehicle and compares it with preset collision avoidance determination information, and according to the comparison result, And determining whether to output the rear image of the vehicle.
제 13 항 내지 제 17 항 중의 어느 한 항에 있어서,
상기 e) 단계의 거리 산출은 하나의 카메라가 서로 다른 시간에 검출한 다수의 이미지를 이미지 프로세싱하여 후방 차량의 이동 변위를 검출하고, 차량으로부터 제공받는 조향각 정보, 거리 정보 및 속도 정보를 포함한 운행 정보와 상기 이동 변위를 이용하여 후방 차량까지의 거리 정보와 후방 차량의 상대 속도 정보를 산출하는 것을 특징으로 하는 차량의 후방 영상 표시 방법.
The method according to any one of claims 13 to 17,
The distance calculation of step e) is performed by processing a plurality of images detected by one camera at different times to detect a displacement of the rear vehicle, and driving information including steering angle information, distance information, and speed information provided from the vehicle. And calculating the distance information to the rear vehicle and the relative speed information of the rear vehicle by using the moving displacement.
제 13 항 내지 제 17 항 중의 어느 한 항에 있어서,
상기 e) 단계의 거리 산출은 스테레오 카메라가 촬영한 이미지를 스테레오 매칭 프로그램을 통해 거리 정보를 산출하는 것을 특징으로 하는 차량의 후방 영상 표시 방법.
The method according to any one of claims 13 to 17,
The distance calculation of the step e) is the rear image display method of the vehicle, characterized in that for calculating the distance information of the image taken by the stereo camera through a stereo matching program.
제 12 항에 있어서,
상기 b)단계에서 정합되는 배경화면은 파노라마 영상, 원근이 조절된 영상, 시점을 변경한 영상 중 어느 하나로 정합하는 것을 특징으로 하는 차량의 후방 영상 표시 방법.
The method of claim 12,
The background image matched in the step b) is matched to any one of the panorama image, the perspective adjusted image, the image of changing the viewpoint.
KR1020100139224A 2010-12-30 2010-12-30 Apparatus and method for displaying rear image of vehicle KR101243108B1 (en)

Priority Applications (1)

Application Number Priority Date Filing Date Title
KR1020100139224A KR101243108B1 (en) 2010-12-30 2010-12-30 Apparatus and method for displaying rear image of vehicle

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
KR1020100139224A KR101243108B1 (en) 2010-12-30 2010-12-30 Apparatus and method for displaying rear image of vehicle

Publications (2)

Publication Number Publication Date
KR20120077309A true KR20120077309A (en) 2012-07-10
KR101243108B1 KR101243108B1 (en) 2013-03-12

Family

ID=46710821

Family Applications (1)

Application Number Title Priority Date Filing Date
KR1020100139224A KR101243108B1 (en) 2010-12-30 2010-12-30 Apparatus and method for displaying rear image of vehicle

Country Status (1)

Country Link
KR (1) KR101243108B1 (en)

Cited By (16)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
KR20140048539A (en) * 2012-10-16 2014-04-24 에스케이텔레콤 주식회사 Method and apparatus for recognizing object using surrounding image of vehicle
KR20140071174A (en) * 2012-12-03 2014-06-11 현대자동차주식회사 Lane guide device in vehicle and method thereof
KR101458131B1 (en) * 2012-12-26 2014-11-05 주식회사 이미지넥스트 Vehicle and Method for Changing Traffic Line of Vehicle
CN104517096A (en) * 2013-10-08 2015-04-15 现代自动车株式会社 Image processing method and system of around view monitoring system
KR20150067448A (en) * 2013-12-10 2015-06-18 엘지전자 주식회사 Driver assistance apparatus and Vehicle including the same
WO2015093853A1 (en) * 2013-12-17 2015-06-25 엘지전자 주식회사 Vehicle driving auxiliary device and vehicle having same
US9308917B2 (en) 2014-05-28 2016-04-12 Lg Elctronics Inc. Driver assistance apparatus capable of performing distance detection and vehicle including the same
KR20170019844A (en) * 2015-08-13 2017-02-22 에스엘 주식회사 Apparatus and method for monitoring environment
KR20180055982A (en) * 2016-11-16 2018-05-28 한국철도기술연구원 Train Configuration Safety Device Using Image Processing and Distance Sensing and its Contol Method
US10005473B2 (en) 2013-12-12 2018-06-26 Lg Electronics Inc. Stereo camera, vehicle driving auxiliary device having same, and vehicle
EP3032517B1 (en) * 2014-12-10 2019-05-29 MAN Truck & Bus AG Device and method for supporting a driver of a vehicle, in particular a commercial vehicle
KR102040774B1 (en) * 2018-08-17 2019-11-05 주식회사 아이티스테이션 Around view monitoring system and responsing method for self-propelled type agricultural machinery in emergency using the same
WO2020059900A1 (en) * 2018-09-19 2020-03-26 차병옥 Vehicle black box device capable of monitoring blind spot
KR20200069280A (en) * 2015-01-13 2020-06-16 현대모비스 주식회사 Apparatus for safety-driving of vehicle
KR102164842B1 (en) * 2020-03-31 2020-10-13 주식회사 아이오토 Driving Stability System For Dangerous Goods Transport Vehicle
US20210001783A1 (en) * 2019-07-05 2021-01-07 Hyundai Mobis Co., Ltd. System and method for displaying vehicle driving information

Families Citing this family (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
KR101551026B1 (en) 2013-12-24 2015-09-07 현대자동차주식회사 Method of tracking vehicle
KR102173370B1 (en) 2014-07-25 2020-11-03 엘지전자 주식회사 Mirror device of vehicle
KR101721442B1 (en) * 2015-05-12 2017-03-30 주식회사 엠브레인 Avoiding Collision Systemn using Blackbox Rear Camera for vehicle and Method thereof
KR20180065527A (en) * 2016-12-08 2018-06-18 경창산업주식회사 Vehicle side-rear warning device and method using the same

Family Cites Families (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
KR970020704A (en) * 1995-10-11 1997-05-28 한승준 Automatic detection device of shape and distance of rear object of car
EP1223083B1 (en) 1999-09-20 2004-03-17 Matsushita Electric Industrial Co., Ltd. Device for assisting automobile driver
KR20100006700A (en) * 2008-07-10 2010-01-21 현대자동차주식회사 Night-vision system for a vehicle

Cited By (18)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
KR20140048539A (en) * 2012-10-16 2014-04-24 에스케이텔레콤 주식회사 Method and apparatus for recognizing object using surrounding image of vehicle
KR20140071174A (en) * 2012-12-03 2014-06-11 현대자동차주식회사 Lane guide device in vehicle and method thereof
KR101458131B1 (en) * 2012-12-26 2014-11-05 주식회사 이미지넥스트 Vehicle and Method for Changing Traffic Line of Vehicle
CN104517096A (en) * 2013-10-08 2015-04-15 现代自动车株式会社 Image processing method and system of around view monitoring system
KR20150067448A (en) * 2013-12-10 2015-06-18 엘지전자 주식회사 Driver assistance apparatus and Vehicle including the same
US10005473B2 (en) 2013-12-12 2018-06-26 Lg Electronics Inc. Stereo camera, vehicle driving auxiliary device having same, and vehicle
WO2015093853A1 (en) * 2013-12-17 2015-06-25 엘지전자 주식회사 Vehicle driving auxiliary device and vehicle having same
US9308917B2 (en) 2014-05-28 2016-04-12 Lg Elctronics Inc. Driver assistance apparatus capable of performing distance detection and vehicle including the same
EP3032517B1 (en) * 2014-12-10 2019-05-29 MAN Truck & Bus AG Device and method for supporting a driver of a vehicle, in particular a commercial vehicle
KR20200069280A (en) * 2015-01-13 2020-06-16 현대모비스 주식회사 Apparatus for safety-driving of vehicle
KR20170019844A (en) * 2015-08-13 2017-02-22 에스엘 주식회사 Apparatus and method for monitoring environment
KR20180055982A (en) * 2016-11-16 2018-05-28 한국철도기술연구원 Train Configuration Safety Device Using Image Processing and Distance Sensing and its Contol Method
KR101867182B1 (en) * 2016-11-16 2018-07-20 한국철도기술연구원 Train Configuration Safety Device Using Image Processing and Distance Sensing and its Contol Method
KR102040774B1 (en) * 2018-08-17 2019-11-05 주식회사 아이티스테이션 Around view monitoring system and responsing method for self-propelled type agricultural machinery in emergency using the same
WO2020059900A1 (en) * 2018-09-19 2020-03-26 차병옥 Vehicle black box device capable of monitoring blind spot
US20210001783A1 (en) * 2019-07-05 2021-01-07 Hyundai Mobis Co., Ltd. System and method for displaying vehicle driving information
US11697380B2 (en) * 2019-07-05 2023-07-11 Hyundai Mobis Co., Ltd. System and method for displaying vehicle driving information
KR102164842B1 (en) * 2020-03-31 2020-10-13 주식회사 아이오토 Driving Stability System For Dangerous Goods Transport Vehicle

Also Published As

Publication number Publication date
KR101243108B1 (en) 2013-03-12

Similar Documents

Publication Publication Date Title
KR101243108B1 (en) Apparatus and method for displaying rear image of vehicle
JP5421072B2 (en) Approaching object detection system
JP6091586B1 (en) VEHICLE IMAGE PROCESSING DEVICE AND VEHICLE IMAGE PROCESSING SYSTEM
JP4412380B2 (en) Driving support device, driving support method, and computer program
US9418556B2 (en) Apparatus and method for displaying a blind spot
US8199975B2 (en) System and method for side vision detection of obstacles for vehicles
KR100936558B1 (en) Perimeter monitoring apparatus and image display method for vehicle
KR101611194B1 (en) Apparatus and method for peripheral image generation of vehicle
US20110234761A1 (en) Three-dimensional object emergence detection device
KR20170014168A (en) Camera device for vehicle
JP2002359838A (en) Device for supporting driving
KR101097063B1 (en) Apparatus and method for displaying blind spot
WO2014132729A1 (en) Stereo camera device
KR20180085718A (en) METHOD AND APPARATUS FOR CALCULATING INTERACTIVE AREA IN VEHICLE AREA
US20090080702A1 (en) Method for the recognition of obstacles
JP5539250B2 (en) Approaching object detection device and approaching object detection method
KR20060021922A (en) Two camera based obstacle detection method and device
WO2011016257A1 (en) Distance calculation device for vehicle
KR101190789B1 (en) Apparatus and method for measurementing distance of vehicle
KR101276073B1 (en) System and method for detecting distance between forward vehicle using image in navigation for vehicle
KR101295618B1 (en) Apparatus and method for displaying blind spot
KR101704201B1 (en) Panorama view variable system and method for controlling the same
JP6174884B2 (en) Outside environment recognition device and outside environment recognition method
JP2008286648A (en) Distance measuring device, distance measuring system, and distance measuring method
KR101709009B1 (en) System and method for compensating distortion of around view

Legal Events

Date Code Title Description
A201 Request for examination
E701 Decision to grant or registration of patent right
GRNT Written decision to grant
FPAY Annual fee payment

Payment date: 20160127

Year of fee payment: 4

FPAY Annual fee payment

Payment date: 20170104

Year of fee payment: 5

FPAY Annual fee payment

Payment date: 20180305

Year of fee payment: 6

FPAY Annual fee payment

Payment date: 20190227

Year of fee payment: 7

FPAY Annual fee payment

Payment date: 20200309

Year of fee payment: 8