KR20160074110A - vehicle and control method thereof - Google Patents
vehicle and control method thereof Download PDFInfo
- Publication number
- KR20160074110A KR20160074110A KR1020140182932A KR20140182932A KR20160074110A KR 20160074110 A KR20160074110 A KR 20160074110A KR 1020140182932 A KR1020140182932 A KR 1020140182932A KR 20140182932 A KR20140182932 A KR 20140182932A KR 20160074110 A KR20160074110 A KR 20160074110A
- Authority
- KR
- South Korea
- Prior art keywords
- image
- cameras
- weight
- images
- view image
- Prior art date
Links
Images
Classifications
-
- B—PERFORMING OPERATIONS; TRANSPORTING
- B60—VEHICLES IN GENERAL
- B60W—CONJOINT CONTROL OF VEHICLE SUB-UNITS OF DIFFERENT TYPE OR DIFFERENT FUNCTION; CONTROL SYSTEMS SPECIALLY ADAPTED FOR HYBRID VEHICLES; ROAD VEHICLE DRIVE CONTROL SYSTEMS FOR PURPOSES NOT RELATED TO THE CONTROL OF A PARTICULAR SUB-UNIT
- B60W50/00—Details of control systems for road vehicle drive control not related to the control of a particular sub-unit, e.g. process diagnostic or vehicle driver interfaces
- B60W50/08—Interaction between the driver and the control system
- B60W50/14—Means for informing the driver, warning the driver or prompting a driver intervention
-
- B—PERFORMING OPERATIONS; TRANSPORTING
- B60—VEHICLES IN GENERAL
- B60W—CONJOINT CONTROL OF VEHICLE SUB-UNITS OF DIFFERENT TYPE OR DIFFERENT FUNCTION; CONTROL SYSTEMS SPECIALLY ADAPTED FOR HYBRID VEHICLES; ROAD VEHICLE DRIVE CONTROL SYSTEMS FOR PURPOSES NOT RELATED TO THE CONTROL OF A PARTICULAR SUB-UNIT
- B60W40/00—Estimation or calculation of non-directly measurable driving parameters for road vehicle drive control systems not related to the control of a particular sub unit, e.g. by using mathematical models
- B60W40/02—Estimation or calculation of non-directly measurable driving parameters for road vehicle drive control systems not related to the control of a particular sub unit, e.g. by using mathematical models related to ambient conditions
-
- B—PERFORMING OPERATIONS; TRANSPORTING
- B60—VEHICLES IN GENERAL
- B60W—CONJOINT CONTROL OF VEHICLE SUB-UNITS OF DIFFERENT TYPE OR DIFFERENT FUNCTION; CONTROL SYSTEMS SPECIALLY ADAPTED FOR HYBRID VEHICLES; ROAD VEHICLE DRIVE CONTROL SYSTEMS FOR PURPOSES NOT RELATED TO THE CONTROL OF A PARTICULAR SUB-UNIT
- B60W50/00—Details of control systems for road vehicle drive control not related to the control of a particular sub-unit, e.g. process diagnostic or vehicle driver interfaces
- B60W50/08—Interaction between the driver and the control system
- B60W50/14—Means for informing the driver, warning the driver or prompting a driver intervention
- B60W2050/143—Alarm means
Landscapes
- Engineering & Computer Science (AREA)
- Automation & Control Theory (AREA)
- Transportation (AREA)
- Mechanical Engineering (AREA)
- Physics & Mathematics (AREA)
- Mathematical Physics (AREA)
- Human Computer Interaction (AREA)
- Closed-Circuit Television Systems (AREA)
- Image Analysis (AREA)
- Image Processing (AREA)
Abstract
Description
본 발명은 차량 주변의 영상을 표시하는 AVM(Around View Monitoring) 장치를 구비하는 차량에 관한 것이다. The present invention relates to a vehicle equipped with an AVM (Around View Monitoring) device for displaying an image around a vehicle.
최근에는 차량의 고급화 및 다기능화에 따라, 차량에 어라운드 뷰 모니터링(이하, AVM, Around View Monitoring) 시스템이 탑재되고 있다.In recent years, an AVM (Around View Monitoring) system is mounted on a vehicle in accordance with the upgrading and multi-functionalization of a vehicle.
AVM 장치는 차량의 사방에 장착된 카메라를 통해 차량 주변의 영상을 획득하고, 차량의 주차시, 운전자가 힘들게 뒤를 돌아보거나 주위를 살피지 않고도 실내에 장착된 표시장치를 통해 차량의 주변을 확인할 수 있는 시스템이다. 또한, 어라운드 뷰 모니터링 시스템은 상기 주변의 영상을 합성하여 마치 차량의 위에서 보는 것과 같은 어라운드 뷰(around view)를 제공하기도 한다. 이러한 어라운드 뷰 모니터링 시스템을 이용하여, 운전자는 차량 주변의 상황을 한 눈에 파악하고 안전하게 주차를 하거나, 좁은 길을 지날 수 있다.The AVM device acquires images of the surroundings of the vehicle through a camera mounted on all sides of the vehicle, and can display the surroundings of the vehicle through a display device installed in the room without the driver looking back or looking around when the vehicle is parked System. In addition, the surround view monitoring system also synthesizes the surrounding images to provide an around view as if viewed from above the vehicle. Using these surround view monitoring systems, the driver can grasp the situation around the vehicle at a glance, park securely, or go a narrow path.
한편, AVM 장치는 주차 보조 장치로 활용되나, 복수의 카메라를 통해 획득되는 영상에 기초하여, 오브젝트 검출 또한 가능하다. AVM 장치에 구비된 복수의 카메라를 통해 오브젝트를 검출하는 동작에 대한 연구가 필요하다.On the other hand, the AVM apparatus is used as a parking assisting apparatus, but it is also possible to detect an object based on an image obtained through a plurality of cameras. It is necessary to study an operation of detecting an object through a plurality of cameras provided in the AVM apparatus.
AVM 시스템에 관한 선행 문헌 : 공개번호 10-2013-0028230Preceding literature on AVM systems: Publication No. 10-2013-0028230
본 발명은 상기한 문제점을 해결하기 위하여, 복수의 카메라로부터 수신된 영상에서 오브젝트 검출을 수행하는 차량을 제공하는데 목적이 있다.SUMMARY OF THE INVENTION The present invention has been made to solve the above problems, and it is an object of the present invention to provide a vehicle that performs object detection on an image received from a plurality of cameras.
본 발명의 과제들은 이상에서 언급한 과제들로 제한되지 않으며, 언급되지 않은 또 다른 과제들은 아래의 기재로부터 당업자에게 명확하게 이해될 수 있을 것이다.The problems of the present invention are not limited to the above-mentioned problems, and other problems not mentioned can be clearly understood by those skilled in the art from the following description.
상기 과제를 달성하기 위하여, 본 발명의 실시예에 따른 차량은복수의 카메라, 상기 복수의 카메라로부터 수신된 복수의 영상을 합성하고, 상기 합성된 영상을 탑뷰 영상(top view image)으로 전환하여 어라운드 뷰 영상을 생성하고, 상기 복수의 카메라 중 2개의 카메라 시야에서 오버랩 되는 영역에 오브젝트가 위치하는 경우, 상기 2개의 카메라에서 각각 획득한 영상의 가중치를 판단하여, 상기 복수의 영상 또는 상기 어라운드 뷰 영상에서 오브젝트를 검출하고, 상기 검출된 오브젝트를 상기 어라운드 뷰 영상에 반영하는 제어부 및 상기 어라운드 뷰 영상을 표시하는 디스플레이 장치를 포함한다.In order to achieve the above object, a vehicle according to an embodiment of the present invention includes a plurality of cameras, a plurality of images received from the plurality of cameras, and converts the synthesized image into a top view image, A method of generating a view image, the method comprising: generating a view image; determining a weight of an image obtained by the two cameras if the object is located in an overlapping area in two camera views of the plurality of cameras, A controller for detecting an object in the surround view image and reflecting the detected object in the surround view image, and a display device for displaying the surround view image.
한편, 본 발명의 실시예에 따른 차량에 포함되는 상기 제어부는, 상기 2개의 카메라 중에서 하나의 카메라에 외란이 발생하는 경우, 상기 외란이 발생되지 않은 카메라에 100%가중치를 부여할 수 있다.Meanwhile, the control unit included in the vehicle according to the embodiment of the present invention can give a 100% weight value to the camera in which the disturbance does not occur when disturbance occurs in one of the two cameras.
한편, 본 발명의 실시예에 따른 상기 외란은, 광 유입, 배기 가스 발생, 렌즈 오염, 저조도, 영상 포화, 사이드 미러 폴딩 및 트렁크 오픈 중 적어도 어느 하나일 수 있다.Meanwhile, the disturbance according to the embodiment of the present invention may be at least one of light inflow, exhaust gas generation, lens contamination, low illumination, image saturation, side mirror folding, and trunk open.
한편, 본 발명의 실시예에 따른 차량에 포함되는 상기 제어부는, 스코어 레벨(score level) 방식 또는 피처 레벨 (feature level)방식을 통해 가중치를 판단할 수 있다.Meanwhile, the controller included in the vehicle according to the embodiment of the present invention can determine the weight through a score level method or a feature level method.
한편, 본 발명의 실시예에 따른 차량에 포함되는 상기 제어부는, 스코어 레벨 방식을 통해 가중치를 판단하는 경우, 상기 2개의 카메라에서 획득되는 영상에 AND 조건 또는 OR 조건을 부여하여 가중치를 판할 수 있다.Meanwhile, the control unit included in the vehicle according to the embodiment of the present invention can determine a weight value by assigning an AND condition or an OR condition to an image obtained from the two cameras when determining a weight through a score level method .
한편, 본 발명의 실시예에 따른 차량에 포함되는 상기 제어부는, 피처 레벨 방식을 통해 가중치를 판단하는 경우, 상기 복수의 영상 또는 상기 어라운드 뷰 영상에서 획득되는 상기 오브젝트의 이동 속도, 방향, 크기를 비교하여 가중치를 판단할 수 있다.Meanwhile, the control unit included in the vehicle according to the embodiment of the present invention may calculate the moving speed, the direction, and the size of the object obtained from the plurality of images or the surround view image, It is possible to judge the weight.
한편, 본 발명의 실시예에 따른 차량에 포함되는 상기 제어부는, 상기 이동 속도를 기초로 가중치를 판단하는 경우, 상기 2개의 카메라에서 획득한 영상을 비교하여, 동일 시간에 상기 오브젝트의 픽셀 이동량이 더 큰 영상에 가중치를 더 부여할 수 있다.Meanwhile, the control unit included in the vehicle according to the embodiment of the present invention compares images acquired by the two cameras when the weight is determined on the basis of the moving speed, A larger weight can be given to a larger image.
한편, 본 발명의 실시예에 따른 차량에 포함되는 상기 제어부는, 상기 방향을 기초로 가중치를 판단하는 경우, 상기 2개의 카메라에서 획득한 영상을 비교하여, 가로방향 움직임이 더 큰 영상에 가중치를 더 부여할 수 있다.
Meanwhile, in the case where the weight is determined based on the direction, the controller included in the vehicle according to the embodiment of the present invention compares the images acquired by the two cameras to calculate a weight .
한편, 본 발명의 실시예에 따른 차량에 포함되는 상기 제어부는, 상기 크기를 비교하여 가중치를 판단하는 경우, 2개의 카메라에서 획득한 영상을 비교하여, 상기 오브젝트를 둘러싼 가상의 사각형 면적이 더 큰 영상에 가중치를 더 부여할 수 있다.Meanwhile, the control unit included in the vehicle according to the embodiment of the present invention compares the images obtained from the two cameras when comparing the sizes to determine the weights, so that the virtual square area surrounding the object is larger A weight can be given to the image.
한편, 본 발명의 실시예에 따른 차량은 상기 검출된 오브젝트에 기초하여 알람을 출력하는 알람부를 더 포함할 수 있다.Meanwhile, the vehicle according to the embodiment of the present invention may further include an alarm unit for outputting an alarm based on the detected object.
기타 실시예들의 구체적인 사항들은 상세한 설명 및 도면들에 포함되어 있다.The details of other embodiments are included in the detailed description and drawings.
본 발명의 실시예에 따르면 다음과 같은 효과가 하나 혹은 그 이상 있다.According to an embodiment of the present invention, there is one or more of the following effects.
본 발명의 실시예에 따른 차량은, 획득되는 영상에서, 오브젝트를 검출하고, 검출되는 오브젝트를 추적하여, 사고를 미연에 방지할 수 있는 효과가 있다.The vehicle according to the embodiment of the present invention has an effect of detecting an object in an acquired image and tracking the detected object to prevent an accident in advance.
단계별, 오버랩 영역에 오브젝트가 위치하는 경우에도, 어라운드 뷰 영상에 상기 오브젝트를 자연스럽게 표시할 수 있는 효과가 있다.There is an effect that the object can be displayed naturally on the surround view image even when the object is located in the overlap area in each step.
본 발명의 효과들은 이상에서 언급한 효과들로 제한되지 않으며, 언급되지 않은 또 다른 효과들은 청구범위의 기재로부터 당업자에게 명확하게 이해될 수 있을 것이다.The effects of the present invention are not limited to the effects mentioned above, and other effects not mentioned can be clearly understood by those skilled in the art from the description of the claims.
도 1은 본 발명의 일 실시예에 따른 복수의 카메라를 구비하는 차량의 외관을 도시한 도면이다.
도 2는 도 1의 차량에 부착되는 복수의 카메라의 위치를 개략적으로 도시한 도면이다.
도 3a는 도 2의 복수의 카메라에 촬영된 이미지에 기반한 어라운드 뷰 이미지를 예시한다
도 3b는 본 발명의 실시예에 따라 오버랩 영역을 설명하는데 참조되는 도면이다.
도 4는 본 발명의 실시예에 따른 차량의 블럭도이다.
도 5는 본 발명의 실시예에 따른 디스플레이 장치의 블럭도이다.
도 6a는 본 발명의 제1 실시예에 따른 제어부의 상세 블럭도이다.
도 6b는 본 발명의 제1 실시예에 따른 차량의 동작을 설명하는 플로우차트이다.
도 7a는 본 발명의 제2 실시예에 따른 제어부 및 프로세서의 상세 블럭도이다.
도 7b는 본 발명의 제2 실시예에 따른 차량의 동작을 설명하는 플로우차트이다.
도 8은 본 발명의 실시예에 따라, 카메라에 발생하는 외란을 설명하는데 참조되는 도면이다.
도 9 내지 도 12는 본 발명의 실시예에 따라, 오버랩 영역에 오브젝트가 위치하는 경우 가중치를 부여하는 동작을 설명하는데 참조되는 도면이다.BRIEF DESCRIPTION OF THE DRAWINGS FIG. 1 is a view showing the appearance of a vehicle having a plurality of cameras according to an embodiment of the present invention; FIG.
Fig. 2 is a view schematically showing positions of a plurality of cameras attached to the vehicle of Fig. 1. Fig.
Figure 3A illustrates an example of an ambient view image based on images photographed by the plurality of cameras of Figure 2
FIG. 3B is a diagram referred to explain overlap regions according to an embodiment of the present invention. FIG.
4 is a block diagram of a vehicle according to an embodiment of the present invention.
5 is a block diagram of a display device according to an embodiment of the present invention.
6A is a detailed block diagram of a control unit according to the first embodiment of the present invention.
6B is a flowchart illustrating an operation of the vehicle according to the first embodiment of the present invention.
7A is a detailed block diagram of a controller and a processor according to a second embodiment of the present invention.
7B is a flowchart for explaining the operation of the vehicle according to the second embodiment of the present invention.
FIG. 8 is a diagram referred to explain disturbance that occurs in a camera according to an embodiment of the present invention.
FIGS. 9 to 12 are diagrams for explaining an operation of assigning weights when an object is located in an overlap region according to an embodiment of the present invention. FIG.
이하, 첨부된 도면을 참조하여 본 명세서에 개시된 실시 예를 상세히 설명하되, 도면 부호에 관계없이 동일하거나 유사한 구성요소는 동일한 참조 번호를 부여하고 이에 대한 중복되는 설명은 생략하기로 한다. 이하의 설명에서 사용되는 구성요소에 대한 접미사 "모듈" 및 "부"는 명세서 작성의 용이함만이 고려되어 부여되거나 혼용되는 것으로서, 그 자체로 서로 구별되는 의미 또는 역할을 갖는 것은 아니다. 또한, 본 명세서에 개시된 실시 예를 설명함에 있어서 관련된 공지 기술에 대한 구체적인 설명이 본 명세서에 개시된 실시 예의 요지를 흐릴 수 있다고 판단되는 경우 그 상세한 설명을 생략한다. 또한, 첨부된 도면은 본 명세서에 개시된 실시 예를 쉽게 이해할 수 있도록 하기 위한 것일 뿐, 첨부된 도면에 의해 본 명세서에 개시된 기술적 사상이 제한되지 않으며, 본 발명의 사상 및 기술 범위에 포함되는 모든 변경, 균등물 내지 대체물을 포함하는 것으로 이해되어야 한다.Hereinafter, embodiments of the present invention will be described in detail with reference to the accompanying drawings, wherein like reference numerals are used to designate identical or similar elements, and redundant description thereof will be omitted. The suffix "module" and " part "for the components used in the following description are given or mixed in consideration of ease of specification, and do not have their own meaning or role. In the following description of the embodiments of the present invention, a detailed description of related arts will be omitted when it is determined that the gist of the embodiments disclosed herein may be blurred. It is to be understood that both the foregoing general description and the following detailed description are exemplary and explanatory and are intended to provide further explanation of the invention as claimed. , ≪ / RTI > equivalents, and alternatives.
제1, 제2 등과 같이 서수를 포함하는 용어는 다양한 구성요소들을 설명하는데 사용될 수 있지만, 상기 구성요소들은 상기 용어들에 의해 한정되지는 않는다. 상기 용어들은 하나의 구성요소를 다른 구성요소로부터 구별하는 목적으로만 사용된다.Terms including ordinals, such as first, second, etc., may be used to describe various elements, but the elements are not limited to these terms. The terms are used only for the purpose of distinguishing one component from another.
어떤 구성요소가 다른 구성요소에 "연결되어" 있다거나 "접속되어" 있다고 언급된 때에는, 그 다른 구성요소에 직접적으로 연결되어 있거나 또는 접속되어 있을 수도 있지만, 중간에 다른 구성요소가 존재할 수도 있다고 이해되어야 할 것이다. 반면에, 어떤 구성요소가 다른 구성요소에 "직접 연결되어" 있다거나 "직접 접속되어" 있다고 언급된 때에는, 중간에 다른 구성요소가 존재하지 않는 것으로 이해되어야 할 것이다.It is to be understood that when an element is referred to as being "connected" or "connected" to another element, it may be directly connected or connected to the other element, . On the other hand, when an element is referred to as being "directly connected" or "directly connected" to another element, it should be understood that there are no other elements in between.
단수의 표현은 문맥상 명백하게 다르게 뜻하지 않는 한, 복수의 표현을 포함한다. The singular expressions include plural expressions unless the context clearly dictates otherwise.
본 출원에서, "포함한다" 또는 "가지다" 등의 용어는 명세서상에 기재된 특징, 숫자, 단계, 동작, 구성요소, 부품 또는 이들을 조합한 것이 존재함을 지정하려는 것이지, 하나 또는 그 이상의 다른 특징들이나 숫자, 단계, 동작, 구성요소, 부품 또는 이들을 조합한 것들의 존재 또는 부가 가능성을 미리 배제하지 않는 것으로 이해되어야 한다.In the present application, the terms "comprises", "having", and the like are used to specify that a feature, a number, a step, an operation, an element, a component, But do not preclude the presence or addition of one or more other features, integers, steps, operations, elements, components, or combinations thereof.
본 명세서에서 기술되는 차량은, 동력원으로서 엔진을 구비하는 내연기관 차량, 동력원으로서 엔진과 전기 모터를 구비하는 하이브리드 차량, 동력원으로서 전기 모터를 구비하는 전기 차량 등을 모두 포함하는 개념일 수 있다. The vehicle described in the present specification may be a concept including both an internal combustion engine vehicle having an engine as a power source, a hybrid vehicle having an engine and an electric motor as a power source, and an electric vehicle having an electric motor as a power source.
이하의 설명에서 차량의 좌측은 차량의 주행 방향의 좌측, 즉, 운전석측을 의미하고, 차량의 우측은 차량의 주행 방향의 우측, 즉, 보조석측을 의미한다.In the following description, the left side of the vehicle means the left side in the running direction of the vehicle, that is, the driver's seat side, and the right side of the vehicle means the right side in the running direction of the vehicle, that is, the assistant's seat side.
한편, 본 명세서에서 기술되는 AVM 장치는, 복수의 카메라를 구비하고, 복수의 카메라에서 촬영된 복수의 이미지를 조합하여, 어라운드 뷰 이미지를 제공하는 장치일 수 있다. 특히, 차량을 기준으로 한 탑 뷰(top view) 또는 버드 아이 뷰(bird eye view)를 제공하는 장치일 수 있다. 이하에서는 본 발명의 다양한 실시예에 따른 차량의 AVM 장치 및 이를 구비하는 차량에 대해 기술한다.On the other hand, the AVM apparatus described in the present specification may be an apparatus provided with a plurality of cameras and combining a plurality of images photographed by a plurality of cameras to provide an overview image. In particular, it may be a device that provides a top view or a bird eye view based on a vehicle. DETAILED DESCRIPTION OF THE PREFERRED EMBODIMENTS Hereinafter, an AVM apparatus and a vehicle including the AVM apparatus according to various embodiments of the present invention will be described.
한편, 본 명세서에서, 데이터의 교환은 차량 통신 망을 통해 이루어질 수 있다. 여기서, 차량 통신 망은 CAN이 바람직하다. 실시예에 따라, 차량 통신 망은 이더넷 프로토콜을 이용하여 구축될 수 있다.On the other hand, in the present specification, the exchange of data can be performed through the vehicle communication network. Here, the vehicle communication network is preferably CAN. According to an embodiment, the vehicle communication network may be constructed using an Ethernet protocol.
도 1은 본 발명의 일 실시예에 따른 복수의 카메라를 구비하는 차량의 외관을 도시한 도면이다.BRIEF DESCRIPTION OF THE DRAWINGS FIG. 1 is a view showing the appearance of a vehicle having a plurality of cameras according to an embodiment of the present invention; FIG.
도 1을 참조하면, 차량(10)은, 동력원에 의해 회전하는 바퀴(20FR,20FL,20RL,..), 차량(10)의 진행 방향을 조절하기 위한 스티어링 휠(30), 및 차량(10)에 장착되는 복수의 카메라(110a,110b,110c,110d)를 구비할 수 있다. 한편, 도면에서는, 편의상 좌측 카메라(110a)와, 전방 카메라(110d)만 도시된다. 1, the
복수의 카메라(110a,110b,110c,110d)는, 차량의 속도가 소정 속도 이하인 경우, 또는 차량이 추진하는 경우, 활성화되어, 각각 촬영 이미지를 획득할 수 있다. 복수의 카메라에 의해 획득되는, 이미지는, 제어부(도 4의 180) 또는 프로세서(도 5의 280) 내에서 신호 처리될 수 있다.The plurality of
도 2는 도 1의 차량에 부착되는 복수의 카메라의 위치를 개략적으로 도시한 도면이고, 도 3a는 도 2의 복수의 카메라에 촬영된 이미지에 기반한 어라운드 뷰 이미지를 예시한다.Fig. 2 is a view schematically showing the positions of a plurality of cameras attached to the vehicle of Fig. 1, and Fig. 3a illustrates an example of an around view image based on images photographed by the plurality of cameras of Fig.
도 3a는 도 2의 복수의 카메라에 촬영된 이미지에 기반한 어라운드 뷰 이미지를 예시한다. 3A illustrates an overview view image based on images photographed by the plurality of cameras of FIG.
먼저, 도 2를 참조하면, 복수의 카메라(110a,110b,110c,110d)는, 각각 차량의 좌측, 후방, 우측, 및 전방에 배치될 수 있다.2, a plurality of
특히, 좌측 카메라(110a)와 우측 카메라(110c)는, 각각 좌측 사이드 미러를 둘러싸는 케이스와 우측 사이드 미러를 둘러싸는 케이스 내에 배치될 수 있다.In particular, the
한편, 후방 카메라(110b)와 전방 카메라(110d)는, 각각 트렁크 스위치 부근 및 앰블럼 또는 앰블럼 부근에 배치될 수 있다.On the other hand, the
복수의 카메라(110a,110b,110c,110d)에서 촬영된 각각의 복수의 이미지는, 차량(10) 내의 제어부(도 4의 180) 등에 전달되고, 제어부(도 4의 180)는, 복수의 이미지를 조합하여, 어라운드 뷰 이미지를 생성한다.Each of the plurality of images photographed by the plurality of
도 3a는 어라운드뷰 이미지(810)의 일예를 예시한다. 어라운드뷰 이미지(810)는, 좌측 카메라로부터(110a)의 제1 이미지 영역(110ai), 후방 카메라(110b)로부터의 제2 이미지 영역(110bi), 우측 카메라(110c)로부터의 제3 이미지 영역(110ci), 전방 카메라(110d)로부터의 제4 이미지 영역(110di)를 포함할 수 있다.FIG. 3A illustrates an example of an
한편, 복수의 카메라로부터, 어라운드 뷰 이미지 생성시, 각 이미지 영역 사이의 경계 부분이 발생한다. 이러한 경계 부분은 이미지 블렌딩(blending) 처리하여 자연스럽게 표시될 수 있도록한다.On the other hand, when a surround view image is generated from a plurality of cameras, a boundary portion between each image area occurs. Such boundary portions can be blended with the image so that they can be displayed naturally.
한편, 복수의 영상 각각의 경계에는 경계선(111a, 111b, 111c, 111d)이 표시될 수 있다. On the other hand, the
도 3b는 본 발명의 실시예에 따라 오버랩 영역을 설명하는데 참조되는 도면이다.FIG. 3B is a diagram referred to explain overlap regions according to an embodiment of the present invention. FIG.
도 3b를 참조하면, 복수의 카메라는 광각 렌즈를 사용할 수 있다. 그로 인해, 복수의 카메라에서 획득되는 영상에 오버랩(overlap)영역이 발생할 수 있다. 예를 들어, 제1 카메라(110a)에서 획득되는 제1 영상과 제2 카메라(110b)에서 획득되는 제2 영상에는 제1 오버랩영역(112a)이 발생될 수 있다. 또한, 제2 카메라(110b)에서 획득되는 제2 영상과 제3 카메라(110c)에서 획득되는 제3 영상에는 제2 오버랩 영역(112b)이 발생될 수 있다. 또한, 제3 카메라(110c)에서 획득되는 제3 영상과 제4 카메라(110d)에서 획득되는 제4 영상에는 제3 오버랩 영역(112c)이 발생될 수 있다. 또한, 제4 카메라(110d)에서 획득되는 제4 영상과 제1 카메라(110a)에서 획득되는 제1 영상에는 제4 오버랩 영역(112d)이 발생될 수 있다.Referring to FIG. 3B, a plurality of cameras can use a wide-angle lens. Thereby, an overlap region may occur in an image obtained from a plurality of cameras. For example, a
한편, 상기 제1 내지 제4 오버랩 영역(112a, 112b, 112c, 112d)에 오브젝트가 위치하는 경우, 어라운드 뷰 영상으로 변환시, 오브젝트가 2개로 보이거나, 사라지는 현상이 발생될 수 있다. 이러한 경우, 오브젝트 검출에 문제가 발생될 수 있고, 탑승자에게 정확한 정보를 전달할 수 없는 문제가 발생될 수 있다.On the other hand, when the object is located in the first to
도 4는 본 발명의 실시예에 따른 차량의 블럭도이다.4 is a block diagram of a vehicle according to an embodiment of the present invention.
도 4를 참조하면, 차량(10)은 복수의 카메라(110a, 110b, 110c, 110d), 제1 입력부(120), 알람부(130), 제1 통신부(140), 디스플레이 장치(200), 제1 메모리(160) 및 제어부(180)를 포함할 수 있다.4, the
복수의 카메라는 제1 내지 제4 카메라(110a, 110b, 110c, 110d)를 포함할 수 있다. 제1 카메라(110a)는 차량 좌측방 주변 영상을 획득한다. 제2 카메라(110b)는 차량 후방 주변 영상을 획득한다. 제3 카메라(110c)는 차량 우측방 주변 영상을 획득한다. 제4 카메라(110d)는 차량 전방 주변 영상을 획득한다.The plurality of cameras may include first to
제1 내지 제4 카메라(110a, 110b, 110c, 110d)에서 각각 획득한 복수의 영상들은 제어부(180)에 전달된다.The plurality of images acquired by the first to
한편, 제1 내지 제4 카메라(110a, 110b, 110c, 110d)는 각각 렌즈 및 이미지 센서(예를 들면, CCD 또는 CMOS)를 포함한다. 여기서, 상기 렌즈는, 광각이 180°이상인 어안 렌즈인 것이 바람직하다.Meanwhile, the first to
제1 입력부(120)는 사용자 입력을 수신할 수 있다. 제1 입력부(120)는 터치 패드, 물리적 버튼, 다이얼, 슬라이더 스위치, 클릭 휠 등, 외부로부터 입력을 받아들일 수 있는 수단을 포함할 수 있다. 제1 입력부(120)를 통해 수신되는 사용자 입력은 제어부(180)로 전달된다.The
알람부(130)는 제어부(180)에서 처리된 정보에 따라 알람을 출력한다. 알람부(130)는 음향 출력부 및 디스플레이를 포함할 수 있다. 음향 출력부는 제어부(180)의 제어에 따라, 오디오 데이터를 출력할 수 있다. 이러한 음향 출력부에는 리시버(receiver), 스피커(speaker), 버저(buzzer) 등이 포함될 수 있다. 디스플레이는 제어부(180)의 제어에 따라, 알람 정보를 화면으로 표시한다. The
한편, 알람부(130)는 검출된 오브젝트의 위치에 기초하여, 알람을 출력할 수 있다. 한편, 알람부(130)에 포함되는 디스플레이는, 차량 내부 전면의 클러스터(cluster) 또는 HUD(Head Up Display)를 포함하는 개념일 수 있다. On the other hand, the
제1 통신부(140)는 외부 전자기기와 통신을 수행한다. 제1 통신부(140)는 외부 서버, 주변 차량, 외부 기지국 등과 데이터를 교환할 수 있다. 제1 통신부(140)는 외부 전자기기와 통신을 가능하게 하는 통신 모듈을 포함할 수 있으며, 여기서, 통신 모듈은 공지의 기술을 이용할 수 있다.The
한편, 제1 통신부(140)는 근거리 통신 모듈을 포함할 수 있으며, 근거리 통신 모듈을 통해, 탑승자의 휴대 단말기 등과 데이터를 교환할 수도 있다. 제1 통신부(140)는 어라운드 뷰 화면을 탑승자의 휴대 단말기에 전송할 수 있다. 또한, 제1 통신부(140)는 휴대 단말기로부터 수신되는 제어 명령을 제어부(180)에 전달 할 수 있다. 한편, 제1 통신부(140)는 오브젝트 검출에 따른 정보를 휴대 단말기로 전송할 수도 있다. 이경우, 휴대 단말기는 진동, 음향 출력등을 통해, 오브젝트 검출을 알리는 알람을 출력할 수 있다.Meanwhile, the
디스플레이 장치(200)는 압축된 영상을 해제하여 어라운드 뷰 이미지를 표시한다. 디스플레이 장치(200)는 AVN(Audio Video Navigation)일 수 있다. 디스플레이 장치(200)에 대한 구성은 도 5를 참조하여 상세하게 설명한다.The
제1 메모리(160)는 차량(10)의 다양한 기능을 지원하는 데이터를 저장한다. 제1 메모리(160)는 차량(10)에서 구동되는 다수의 응용 프로그램, 차량(10)의 동작을 위한 데이터들, 명령어들을 저장할 수 있다.The
제1 메모리(160)는 고속 랜덤 액세스 메모리를 포함할 수 있다. 제1 메모리(160)는 하나 이상의 자기 디스크 저장 장치, 플래시 메모리 장치, 또는 기타 비휘발성 고상 메모리 장치 등의 비휘발성 메모리도 포함할 수 있으나, 이에 한정하지 아니하고, 판독 가능한 저장매체를 포함할 수 있다. The
예를 들어, 제1 메모리(160)는 EEP-ROM(Electronically Erasable and Programmable Read Only Memory)을 포함할 수 있으나, 이에 한정하지 아니한다. EEP-ROM 은 제어부(180)의 동작 중, 제어부(180)에 의해 정보의 기입 및 소거가 행해질 수 있다. EEP-ROM은 제어장치의 전원이 오프되어 전력 공급이 정지되어도, 내부에 기억되어 있는 정보가 소거되지 않고 유지되는 기억 디바이스일 수 있다.For example, the
한편, 제1 메모리(160)는 복수의 카메라(110a, 110b, 110c, 110d)로부터 획득되는 영상을 저장할 수 있다. 예를 들어, 차량(10)의 충돌이 감지되는 경우, 복수의 카메라(110a, 110b, 110c, 110d)로부터 획득되는 영상을 저장할 수 있다. Meanwhile, the
제어부(180)는, 차량(10) 내의 각 유닛의 전반적인 동작을 제어한다. 제어부(180)는 차량(10) 제어를 위해 다양한 기능들을 수행하고, 데이터를 처리하기 위해 제1 메모리(160) 내에 저장된 다양한 소프트웨어 프로그램들 및/또는 명령어들의 집합들을 실행 또는 수행할 수 있다. 제어부(180)는 제1 메모리(160)에 저장된 정보에 기반하여 신호를 처리할 수 있다.The
제어부(180)는 복수의 카메라(110a, 110b, 110c, 110d)로부터 수신되는 영상에 전처리를 수행한다. 제어부(180)는 각종 필터 또는 히스토그램 이쿼라이제이션(Histogram Equalization) 등을 이용하여 영상의 노이즈를 제거한다. 한편, 이러한 영상의 전처리는 반드시 필요한 절차는 아니며, 영상의 상태나 영상 처리 목적에 따라 생략될 수도 있다.The
제어부(180)는, 전처리된 복수의 영상을 기초로 어라운드 뷰 영상을 생성한다. 여기서, 어라운드 뷰 영상은 탑뷰 영상일 수 있다. 제어부(180)에서 전처리된 복수의 영상을 합성하여, 어라운드 뷰 영상으로 전환한다. 실시예에 따라, 제어부(180)는, 전처리 과정을 거치지 않은 복수의 영상을 합성하여, 어라운드 뷰 영상으로 전환할 수도 있다. 예를 들면, 제어부(180)는 룩업테이블(LUT, Look Up Table)을 이용하여 복수의 영상을 합성하여, 어라운드 뷰 영상으로 전환할 수 있다. 룩업테이블은 합성 영상의 한 픽셀이 4개의 원래의 영상의 어떤 픽셀과 대응되는지 관계를 저장한 테이블이다.The
예를 들면, 제어부(180)는, 좌측 카메라로부터(110a)의 제1 이미지, 후방 카메라(110b)로부터의 제2 이미지, 우측 카메라(110c)로부터의 제3 이미지, 전방 카메라(110d)로부터의 제4 이미지를 기초로 어라운드 뷰 영상을 생성한다. 이때, 제어부(180)는 제1 이미지와 제2 이미지 사이에 중복되는 영역, 제2 이미지와 제3 이미지 사이에 중복되는 영역, 제3 이미지와 제4 이미지 사이에 중복되는 영역, 제4 이미지와 제1 이미지 사이에 중복되는 영역을 각각 블렌딩 처리할 수 있다. 제어부(180)는 제1 이미지와 제2이미지 사이의 경계, 제2 이미지와 제3 이미지 사이의 경계, 제3 이미지와 제4 이미지 사이의 경계, 제4 이미지와 제1 이미지 사이의 경계 각각에 경계선을 생성할 수 있다.For example, the
제어부(180)는, 어라운드 뷰 영상에 가상의 차량 이미지를 오버레이(overlay)한다. 즉, 어라운드 뷰 영상은 차량(10)에 장착된 복수의 카메라를 통해, 획득된 차량 주변 영상에 기초하여 생성되었기 때문에, 차량(10)이미지를 포함하지는 않는다. 제어부(180)를 통해, 가상의 차량 이미지를 제공함으로써, 탑승자가 어라운드 뷰 영상을 직관적으로 인지할 수 있게 한다.The
제어부(180)는, 어라운드 뷰 영상을 기초로, 오브젝트를 검출할 수 있다. 여기서 오브젝트는, 보행자, 장애물, 주변 차량 등을 포함하는 개념일 수 있다. 한편, 디스플레이 장치(200)를 통해 표시되는 어라운드 뷰 화면은, 복수의 카메라(110a, 110b, 110c, 110d)를 통해 획득된 원 영상의 일부 영역에 해당할 수 있다. 제어부(180)는 디스플레이 장치(200)에 표시되는 영상을 포함하여, 원 영상 전체를 바탕으로, 오브젝트 검출을 수행할 수 있다.The
제어부(180)는, 검출된 오브젝트와 제1 메모리(160)에 저장된 오브젝트를 비교하여, 오브젝트를 분류하고, 확인한다.The
제어부(180)는 검출된 오브젝트를 트래킹한다. 예를 들어, 제어부(180)는, 순차적으로, 획득되는 이미지들에 내의, 오브젝트를 확인하고, 확인된 오브젝트의 움직임 또는 움직임 벡터를 연산하며, 연산된 움직임 또는 움직임 벡터에 기초하여, 해당 오브젝트의 이동 등을 트래킹할 수 있다.The
제어부(180)는, 검출된 오브젝트가 2개의 카메라에서 시야에서 오버랩 되는 영역에 위치하는지 판단한다. 즉, 제어부(180)는 제1 내지 제4 오버랩 영역(도 3b의 112a, 112b, 112c, 112d)에 오브젝트가 위치하는지 판단한다. 예를 들면, 제어부(180)는 2개의 카메라에서 획득되는 영상에서 동일 오브젝트가 검출되는지 여부로, 오버랩 영역에 오브젝트가 위치하는지 판단할 수 있다. The
오버랩 영역에 오브젝트가 위치하는 경우, 제어부(180)는 2개의 카메라에서 각각 획득한 영상의 가중치를 판단할 수 있다. 제어부(180)는 상기 가중치를 어라운드 뷰 영상에 반영할 수 있다.When the object is located in the overlap region, the
예를 들어, 2개의 카메라 중에서 하나의 카메라에 외란이 발생하는 경우, 제어부(180)는 외란이 발생되지 않는 카메라에 100%가중치를 부여할 수 있다. 여기서, 외란은 광 유입, 배기 가스 발생, 렌즈 오염, 저조도, 영상 포화, 사이드 미러 폴딩 및 트렁크 오픈 중 적어도 하나일 수 있다. 외란에 대해서는 도 8을 참조하여 상세하게 설명한다.For example, when disturbance occurs in one of the two cameras, the
예를 들어, 제어부(180)는 스코어 레벨(score level) 방식 또는 피처 레벨(feature level) 방식을 통해 가중치를 판단할 수 있다. For example, the
스코어 레벨 방식은 오브젝트 검출의 최종 결과를 가지고 AND 조건 또는 OR 조건으로 오브젝트가 존재하는지 판단하는 방식이다. 여기서, AND 조건은 2개의 카메라에서 획득된 영상에서 모두 오브젝트가 검출되는 경우를 의미할 수 있다. 또한, OR 조건은 2개의 카메라 중 어느 하나의 카메라에서 오브젝트가 검출되는 경우를 의미할 수 있다. 가령, 2개의 카메라 중 어느 하나의 카메라에 오염이 발생한 경우, 제어부(180)는 OR 조건을 이용하는 경우에는 오브젝트를 검출할 수 있다. 한편, 사용자 입력을 수신하여, AND 조건 또는 OR 조건에 대한 설정이 이루어질 수 있다. 가령, 사용자가 오브젝트 검출의 민감도를 낮추고자 하는 경우, AND 조건으로 설정하여, 오브젝트 검출의 민감도를 낮출 수 있다. 이경우, 제1 입력부(120)를 통해, 사용자 입력을 수신할 수 있다.The score level method is a method of determining whether an object exists in an AND condition or an OR condition with the final result of object detection. Here, the AND condition may refer to a case where an object is detected in all images obtained from two cameras. The OR condition may mean a case where an object is detected by any one of two cameras. For example, when contamination occurs in any one of the two cameras, the
피처 레벨 방식은, 오브젝트의 특성(feature)에 기초하여 오브젝트를 검출하는 방식이다. 여기서, 피처는 오브텍트의 이동 속도, 방향, 크기일 수 있다. 예를 들어, 제4 카메라(110d)에서 획득된 제4 영상에서는 제1 오브젝트가 초당 2픽셀을 움직이는 것으로 산정되고, 제1 카메라(110a)에서 획득된 제1 영상에서는 제1 오브젝트가 초당 4픽셀을 움직이는 것으로 산정되는 경우, 제어부(180)는 제1 영상에 더 큰 가중치를 설정하여, 오브젝트 검출율을 향상 시킬 수 있다.The feature level method is a method of detecting an object based on a feature of an object. Here, the feature may be the movement speed, direction, and size of the object. For example, in the fourth image acquired by the
만약, 제4 영상에서 제1 오브젝트가 존재할 가능성이 A%이고, 제1 영상에서 제1 오브젝트가 존재할 가능성이 B%이고, 가중치가 α인 경우, 제어부(180)는 다음과 같은 수학식1을 이용하여, 계산한 결과(O)가 기준값(예를 들면, 50%) 이상인지 판단하여, 오브젝트 존재 여부를 판단할 수 있다.If the possibility that the first object exists in the fourth image is A%, the possibility that the first object exists in the first image is B%, and the weight is?, The
수학식 1Equation 1
O=αA + (1-α)BO =? A + (1 -?) B
한편, 가중치는 각각의 경우에 대한 테스트를 통해 설정된 값일 수 있다.On the other hand, the weight value may be a value set through a test for each case.
제어부(180)는, 어라운드 뷰 이미지 기초로, 각종 어플리케이션을 수행한다. 예를 들면, 제어부(180)는 어라운드 뷰 이미지 기초로, 오브젝트를 검출할 수 있다. 또는, 제어부(180)는 어라운드 뷰 이미지에 가상의 주차선을 생성할 수 있다. 또는 제어부(180)는 어라운드 뷰 이미지를 기초로, 차량의 예측 경로를 제공할 수 있다. 한편, 이러한 어플리케이션 수행은 반드시 필요한 절차는 아니며, 영상의 상태나 영상 처리 목적에 따라 생략될 수도 있다.The
제어부(180)는 오브젝트 검출 또는 오브젝트 트래킹에 대응하는 응용 동작을 수행할 수 있다. 예를 들면, 제어부(180)는 복수의 카메라(110a, 110b, 110c, 110d)로부터 수신되는 복수의 영상 또는 어라운드 뷰 영상을 복수의 영역으로 나누고, 오브젝트가 상기 복수의 영상 중 어느 영역에 위치하는지 판단할 수 있다. 예를 들면, 제어부(180)는, 제1 카메라(110a)를 통해 획득된 제1 영상에 대응되는 영역에서, 제2 카메라(110b)를 통해 획득된 제2 영상에 대응되는 영역으로 검출된 오브젝트의 이동이 감지되는 경우, 제2 영상에서 오브젝트를 검출하기 위한 관심 영역을 설정할 수 있다. 여기서, 제어부(180)는 관심 영역에서 오브젝트의 검출을 최우선으로 수행할 수 있다.The
한편, 제어부(180)는 검출된 오브젝트에 대응하는 이미지를, 어라운드 뷰 이미지에 오버레이하여 표시할 수 있다. 제어부(180)는 트래킹되는 오브젝트에 대응하는 이미지를 어라운드 뷰 이미지에 오버레이하여 표시할 수 있다.On the other hand, the
한편, 제어부(180)는 가중치 판단 결과를 어라운드 뷰 이미지에 반영할 수 있다. 실시예에 따라, 가중치 반영 결과, 오브젝트가 존재하지 않는 경우, 제어부(180)는 오브젝트를 어라운드 뷰 이미지에 반영하지 않을 수도 있다.Meanwhile, the
도 5는 본 발명의 실시예에 따른 디스플레이 장치의 블럭도이다.5 is a block diagram of a display device according to an embodiment of the present invention.
도 5를 참조하면, 디스플레이 장치(200)는 제2 입력부(220), 제2 통신부(240), 디스플레이부(250), 음향 출력부(255), 제2 메모리(260) 및 프로세서(280)를 포함할 수 있다.5, the
제2 입력부(220)는, 사용자 입력을 수신할 수 있다. 제2 입력부(220)는 터치 패드, 물리적 버튼, 다이얼, 슬라이더 스위치, 클릭 휠 등, 외부로부터 입력을 받아들일 수 있는 수단을 포함할 수 있다. 제1 입력부(220)를 통해 수신되는 사용자 입력은 제어부(180)로 전달된다.The
제2 통신부(240)는, 외부 전자기기와 통신 연결되어, 데이터를 교환할 수 있다. 예를 들면, 제2 통신부(240)는 방송사 서버와 연결되어, 방송 컨텐츠를 수신할 수 있다. 예를 들면, 제2 통신부(240)는 교통 정보 제공 서버와 연결되어 TPEG(Transport Protocol Experts Group) 정보를 수신할 수 있다.The
디스플레이부(250)는, 프로세서(270)에서 처리되는 정보를 표시한다. 예를 들어, 디스플레이부(250)는 프로세서(270)에서 구동되는 응용 프로그램의 실행화면 정보, 또는 이러한 실행화면 정보에 따른 UI(User Interface), GUI(Graphic User Interface) 정보를 표시할 수 있다.The
한편, 터치 패드가 디스플레이부(250)와 상호 레이어 구조를 이룰 경우, 이를 터치스크린(touch screen)이라 부를 수 있다. 터치스크린은 제2 입력부(220)로서의 기능을 수행할 수 있다.Meanwhile, when the touch pad has a mutual layer structure with the
음향 출력부(255)는, 오디오 데이터를 출력할 수 있다. 이러한 음향 출력부(152)에는 리시버(receiver), 스피커(speaker), 버저(buzzer) 등이 포함될 수 있다.The
제2 메모리(260)는, 디스플레이 장치(200)의 다양한 기능을 지원하는 데이터를 저장한다. 제2 메모리(260)는 디스플레이 장치(200)에서 구동되는 다수의 응용 프로그램, 디스플레이 장치(200)의 동작을 위한 데이터들, 명령어들을 저장할 수 있다.The
제2 메모리(260)는 고속 랜덤 액세스 메모리를 포함할 수 있다. 제2 메모리(260)는 하나 이상의 자기 디스크 저장 장치, 플래시 메모리 장치, 또는 기타 비휘발성 고상 메모리 장치 등의 비휘발성 메모리도 포함할 수 있으나, 이에 한정하지 아니하고, 판독 가능한 저장매체를 포함할 수 있다. The
예를 들어, 제2 메모리(260)는 EEP-ROM(Electronically Erasable and Programmable Read Only Memory)을 포함할 수 있으나, 이에 한정하지 아니한다. EEP-ROM 은 프로세서(280)의 동작 중, 프로세서(280)에 의해 정보의 기입 및 소거가 행해질 수 있다. EEP-ROM은 제어장치의 전원이 오프되어 전력 공급이 정지되어도, 내부에 기억되어 있는 정보가 소거되지 않고 유지되는 기억 디바이스일 수 있다.For example, the
프로세서(280)는, 디스플레이 장치(200) 내의 각 유닛의 전반적인 동작을 제어한다. 프로세서(280)는 디스플레이 장치(20) 제어를 위해 다양한 기능들을 수행하고, 데이터를 처리하기 위해 제2 메모리(260) 내에 저장된 다양한 소프트웨어 프로그램들 및/또는 명령어들의 집합들을 실행 또는 수행할 수 있다. 프로세서(280)는 제2 메모리(260)에 저장된 정보에 기반하여 신호를 처리할 수 있다.The
프로세서(280)는 어라운드 뷰 영상을 표시한다.The
도 6a는 본 발명의 제1 실시예에 따른 제어부의 상세 블럭도이다.6A is a detailed block diagram of a control unit according to the first embodiment of the present invention.
도 6a를 참조하면, 제어부(180)는 전처리부(310), 어라운드 뷰 영상 생성부(320), 차량 이미지 생성부(340), 어플리케이션부(350), 오브젝트 검출부(410), 오브젝트 확인부(420), 오브젝트 트래킹부(430) 및 판단부(440)를 포함할 수 있다.6A, the
전처리부(310)는 복수의 카메라(110a, 110b, 110c, 110d)로부터 수신되는 영상에 전처리를 수행한다. 전처리부(310)는 각종 필터 또는 히스토그램 이쿼라이제이션(Histogram Equalization) 등을 이용하여 영상의 노이즈를 제거한다. 한편, 이러한 영상의 전처리는 반드시 필요한 절차는 아니며, 영상의 상태나 영상 처리 목적에 따라 생략될 수도 있다.The
어라운드 뷰 영상 생성부(320)는, 전처리된 복수의 영상을 기초로 어라운드 뷰 영상을 생성한다. 여기서, 어라운드 뷰 영상은 탑뷰 영상일 수 있다. 전처리부(310)에서 전처리된 복수의 영상을 합성하여, 어라운드 뷰 영상으로 전환한다. 실시예에 따라, 어라운드 뷰 영상 생성부(320)는, 전처리 과정을 거치지 않은 복수의 영상을 합성하여, 어라운드 뷰 영상으로 전환할 수도 있다. 예를 들면, 어라운드 뷰 영상 생성부(320)는 룩업테이블(LUT, Look Up Table)을 이용하여 복수의 영상을 합성하여, 어라운드 뷰 영상으로 전환할 수 있다. 룩업테이블은 합성 영상의 한 픽셀이 4개의 원래의 영상의 어떤 픽셀과 대응되는지 관계를 저장한 테이블이다.The surround view
예를 들면, 어라운드 뷰 영상 생성부(320)는, 좌측 카메라로부터(110a)의 제1 이미지, 후방 카메라(110b)로부터의 제2 이미지, 우측 카메라(110c)로부터의 제3 이미지, 전방 카메라(110d)로부터의 제4 이미지를 기초로 어라운드 뷰 영상을 생성한다. 이때, 어라운드 뷰 영상 생성부(320)는 제1 이미지와 제2 이미지 사이에 중복되는 영역, 제2 이미지와 제3 이미지 사이에 중복되는 영역, 제3 이미지와 제4 이미지 사이에 중복되는 영역, 제4 이미지와 제1 이미지 사이에 중복되는 영역을 각각 블렌딩 처리할 수 있다. 어라운드 뷰 영상 생성부(320)는 제1 이미지와 제2이미지 사이의 경계, 제2 이미지와 제3 이미지 사이의 경계, 제3 이미지와 제4 이미지 사이의 경계, 제4 이미지와 제1 이미지 사이의 경계 각각에 경계선을 생성할 수 있다.For example, the surround-view
차량 이미지 생성부(340)는, 어라운드 뷰 영상에 가상의 차량 이미지를 오버레이(overlay)한다. 즉, 어라운드 뷰 영상은 차량(10)에 장착된 복수의 카메라를 통해, 획득된 차량 주변 영상에 기초하여 생성되었기 때문에, 차량(10)이미지를 포함하지는 않는다. 차량 이미지 생성부(340)를 통해, 가상의 차량 이미지를 제공함으로써, 탑승자가 어라운드 뷰 영상을 직관적으로 인지할 수 있게 한다.The vehicle
오브젝트 검출부(410)는, 어라운드 뷰 영상을 기초로, 오브젝트를 검출할 수 있다. 여기서 오브젝트는, 보행자, 장애물, 주변 차량 등을 포함하는 개념일 수 있다. 한편, 디스플레이 장치(200)를 통해 표시되는 어라운드 뷰 화면은, 복수의 카메라(110a, 110b, 110c, 110d)를 통해 획득된 원 영상의 일부 영역에 해당할 수 있다. 오브젝트 검출부(410)는 디스플레이 장치(200)에 표시되는 영상을 포함하여, 원 영상 전체를 바탕으로, 오브젝트 검출을 수행할 수 있다.The
오브젝트 확인부(420)는, 검출된 오브젝트와 제1 메모리(160)에 저장된 오브젝트를 비교하여, 오브젝트를 분류하고, 확인한다.The object verification unit 420 compares the detected object with the object stored in the
오브젝트 트래킹부(430)는 검출된 오브젝트를 트래킹한다. 예를 들어, 오브젝트 트래킹부(430)는, 순차적으로, 획득되는 이미지들에 내의, 오브젝트를 확인하고, 확인된 오브젝트의 움직임 또는 움직임 벡터를 연산하며, 연산된 움직임 또는 움직임 벡터에 기초하여, 해당 오브젝트의 이동 등을 트래킹할 수 있다.The object tracking unit 430 tracks the detected object. For example, the object tracking unit 430 sequentially identifies an object in the acquired images, calculates a motion or a motion vector of the identified object, Movement of an object, and the like can be tracked.
판단부(440)는, 검출된 오브젝트가 2개의 카메라에서 시야에서 오버랩 되는 영역에 위치하는지 판단한다. 즉, 판단부(440)는 제1 내지 제4 오버랩 영역(도 3b의 112a, 112b, 112c, 112d)에 오브젝트가 위치하는지 판단한다. 예를 들면, 판단부(440)는 2개의 카메라에서 획득되는 영상에서 동일 오브젝트가 검출되는지 여부로, 오버랩 영역에 오브젝트가 위치하는지 판단할 수 있다. The
오버랩 영역에 오브젝트가 위치하는 경우, 판단부(440)는 2개의 카메라에서 각각 획득한 영상의 가중치를 판단할 수 있다. 판단부(440)는 상기 가중치를 어라운드 뷰 영상에 반영할 수 있다.When the object is located in the overlap area, the
예를 들어, 2개의 카메라 중에서 하나의 카메라에 외란이 발생하는 경우, 제어부(180)는 외란이 발생되지 않는 카메라에 100%가중치를 부여할 수 있다. 여기서, 외란은 광 유입, 배기 가스 발생, 렌즈 오염, 저조도, 영상 포화, 사이드 미러 폴딩 및 트렁크 오픈 중 적어도 하나일 수 있다. 외란에 대해서는 도 8을 참조하여 상세하게 설명한다.For example, when disturbance occurs in one of the two cameras, the
예를 들어, 판단부(440)는 스코어 레벨(score level) 방식 또는 피처 레벨(feature level) 방식을 통해 가중치를 판단할 수 있다. For example, the
스코어 레벨 방식은 오브젝트 검출의 최종 결과를 가지고 AND 조건 또는 OR 조건으로 오브젝트가 존재하는지 판단하는 방식이다. 여기서, AND 조건은 2개의 카메라에서 획득된 영상에서 모두 오브젝트가 검출되는 경우를 의미할 수 있다. 또한, OR 조건은 2개의 카메라 중 어느 하나의 카메라에서 오브젝트가 검출되는 경우를 의미할 수 있다. 가령, 2개의 카메라 중 어느 하나의 카메라에 오염이 발생한 경우, 판단부(440)는 OR 조건을 이용하는 경우에는 오브젝트를 검출할 수 있다. 한편, 사용자 입력을 수신하여, AND 조건 또는 OR 조건에 대한 설정이 이루어질 수 있다. 가령, 사용자가 오브젝트 검출의 민감도를 낮추고자 하는 경우, AND 조건으로 설정하여, 오브젝트 검출의 민감도를 낮출 수 있다. 이경우, 제1 입력부(120)를 통해, 사용자 입력을 수신할 수 있다.The score level method is a method of determining whether an object exists in an AND condition or an OR condition with the final result of object detection. Here, the AND condition may refer to a case where an object is detected in all images obtained from two cameras. The OR condition may mean a case where an object is detected by any one of two cameras. For example, when the contamination occurs in any one of the two cameras, the
피처 레벨 방식은, 오브젝트의 특성(feature)에 기초하여 오브젝트를 검출하는 방식이다. 여기서, 피처는 오브텍트의 이동 속도, 방향, 크기일 수 있다. 예를 들어, 제4 카메라(110d)에서 획득된 제4 영상에서는 제1 오브젝트가 초당 2픽셀을 움직이는 것으로 산정되고, 제1 카메라(110a)에서 획득된 제1 영상에서는 제1 오브젝트가 초당 4픽셀을 움직이는 것으로 산정되는 경우, 판단부(440)는 제1 영상에 더 큰 가중치를 설정하여, 오브젝트 검출율을 향상 시킬 수 있다.The feature level method is a method of detecting an object based on a feature of an object. Here, the feature may be the movement speed, direction, and size of the object. For example, in the fourth image acquired by the
만약, 제4 영상에서 제1 오브젝트가 존재할 가능성이 A%이고, 제1 영상에서 제1 오브젝트가 존재할 가능성이 B%이고, 가중치가 α인 경우, 판단부(440)는 다음과 같은 수학식1을 이용하여, 계산한 결과(O)가 기준값(예를 들면, 50%) 이상인지 판단하여, 오브젝트 존재 여부를 판단할 수 있다.If the possibility that the first object exists in the fourth image is A%, the possibility that the first object exists in the first image is B%, and the weight is?, The
수학식 1Equation 1
O=αA + (1-α)BO =? A + (1 -?) B
한편, 가중치는 각각의 경우에 대한 테스트를 통해 설정된 값일 수 있다.On the other hand, the weight value may be a value set through a test for each case.
어플리케이션부(350)는, 어라운드 뷰 이미지 기초로, 각종 어플리케이션을 수행한다. 예를 들면, 어플리케이션부(350)는 어라운드 뷰 이미지 기초로, 오브젝트를 검출할 수 있다. 또는, 어플리케이션부(350)는 어라운드 뷰 이미지에 가상의 주차선을 생성할 수 있다. 또는 어플리케이션부(350)는 어라운드 뷰 이미지를 기초로, 차량의 예측 경로를 제공할 수 있다. 한편, 이러한 어플리케이션 수행은 반드시 필요한 절차는 아니며, 영상의 상태나 영상 처리 목적에 따라 생략될 수도 있다.The application unit 350 performs various applications based on the surround view image. For example, the application unit 350 can detect the object based on the surrounding view image. Alternatively, the application unit 350 may generate a virtual parking line in the surround view image. Or the application unit 350 may provide a predicted path of the vehicle based on the surrounding view image. On the other hand, such application execution is not necessarily required, and may be omitted depending on the state of the image or the purpose of image processing.
어플리케이션부(350)는 오브젝트 검출 또는 오브젝트 트래킹에 대응하는 응용 동작을 수행할 수 있다. 예를 들면, 어플리케이션부(350)는 복수의 카메라(110a, 110b, 110c, 110d)로부터 수신되는 복수의 영상 또는 어라운드 뷰 영상을 복수의 영역으로 나누고, 오브젝트가 상기 복수의 영상 중 어느 영역에 위치하는지 판단할 수 있다. 예를 들면, 어플리케이션부(350)는, 제1 카메라(110a)를 통해 획득된 제1 영상에 대응되는 영역에서, 제2 카메라(110b)를 통해 획득된 제2 영상에 대응되는 영역으로 검출된 오브젝트의 이동이 감지되는 경우, 제2 영상에서 오브젝트를 검출하기 위한 관심 영역을 설정할 수 있다. 여기서, 어플리케이션부(350)는 관심 영역에서 오브젝트의 검출을 최우선으로 수행할 수 있다.The application unit 350 may perform an application operation corresponding to object detection or object tracking. For example, the application unit 350 divides the plurality of images or the surround view images received from the plurality of
한편, 어플리케이션부(350)는 검출된 오브젝트에 대응하는 이미지를, 어라운드 뷰 이미지에 오버레이하여 표시할 수 있다. 어플리케이션부(350)는 트래킹되는 오브젝트에 대응하는 이미지를 어라운드 뷰 이미지에 오버레이하여 표시할 수 있다.On the other hand, the application unit 350 can overlay the image corresponding to the detected object on the surround view image. The application unit 350 may display an image corresponding to an object to be tracked over an overview image.
한편, 어플리케이션부(350)는 가중치 판단 결과를 어라운드 뷰 이미지에 반영할 수 있다. 실시예에 따라, 가중치 반영 결과, 오브젝트가 존재하지 않는 경우, 어플리케이션부(350)는 오브젝트를 어라운드 뷰 이미지에 반영하지 않을 수도 있다.Meanwhile, the application unit 350 may reflect the weight determination result in the surround view image. According to the embodiment, when the object does not exist as a result of weighting, the application unit 350 may not reflect the object in the surround view image.
도 6b는 본 발명의 제1 실시예에 따른 차량의 동작을 설명하는 플로우차트이다.6B is a flowchart illustrating an operation of the vehicle according to the first embodiment of the present invention.
도 6b를 참조하면, 제어부(180)는 복수의 카메라(110a, 110b, 110c, 110d)로부터 각각의 영상을 수신한다(S610). Referring to FIG. 6B, the
제어부(180)는 수신된 복수의 영상 각각에 대해 전처리를 수행한다(S620). 다음, 제어부(180)는 전처리 수행된 복수의 영상을 합성하고(S630), 탑뷰로 전환하여(S640), 어라운드 뷰 영상을 생성한다. 실시예에 따라, 제어부(180)는, 전처리 과정을 거치지 않은 복수의 영상을 합성하여, 어라운드 뷰 영상으로 전환할 수도 있다. 예를 들면, 제어부(180)는 룩업테이블(LUT, Look Up Table)을 이용하여 복수의 영상을 합성하여, 어라운드 뷰 영상으로 전환할 수 있다. 룩업테이블은 합성 영상의 한 픽셀이 4개의 원래의 영상의 어떤 픽셀과 대응되는지 관계를 저장한 테이블이다.The
어라운드 뷰 영상이 생성된 상태에서, 제어부(180)는 어라운드 뷰 영상을 기초로, 오브젝트 검출을 수행할 수 있다. 한편, 디스플레이 장치(200)를 통해 표시되는 어라운드 뷰 화면은, 복수의 카메라(110a, 110b, 110c, 110d)를 통해 획득된 원 영상의 일부 영역에 해당할 수 있다. 제어부(180)는 디스플레이 장치(200)에 표시되는 영상을 포함하여, 원 영상 전체를 바탕으로, 오브젝트 검출을 수행할 수 있다(S650).In a state where the surround view image is generated, the
소정의 오브젝트가 검출되는 경우, 제어부(180)는, 검출된 오브젝트가 2개의 카메라에서 시야에서 오버랩 되는 영역에 위치하는지 판단한다(S660). 오버랩 영역에 오브젝트가 위치하는 경우, 판단부(440)는 2개의 카메라에서 각각 획득한 영상의 가중치를 판단할 수 있다. 판단부(440)는 상기 가중치를 어라운드 뷰 영상에 반영할 수 있다(S670).When a predetermined object is detected, the
이후에, 제어부(180)는 어라운드 뷰 영상에 가상의 차량 이미지를 생성한다(S680).Thereafter, the
소정의 오브젝트가 검출되지 않는 경우, 제어부(180)는 어라운드 뷰 영상에 가상의 차량 이미지를 생성한다(S680). 오브젝트가 오버랩 영역에 위치하지 않는 경우, 제어부(180)는 어라운드 뷰 영상에 가상의 차량 이미지를 생성한다(S680). 구체적으로, 제어부(180)는 어라운드 뷰 영상에 가상의 차량 이미지를 오버레이(overlay)한다.If a predetermined object is not detected, the
다음, 제어부(180)는 압축된 데이터를 디스플레이 장치(200)에 전송하여, 어라운드 뷰 영상을 표시한다(S690).Next, the
한편, 제어부(180)는 검출된 오브젝트에 대응하는 이미지를, 어라운드 뷰 이미지에 오버레이하여 표시할 수 있다. 제어부(180)는 트래킹되는 오브젝트에 대응하는 이미지를 어라운드 뷰 이미지에 오버레이하여 표시할 수 있다. 이때, 오브젝트는, S670단계에서 가중치가 반영된 오브젝트일 수 있다. 실시예에 따라, 가중치 반영 결과, 오브젝트가 존재하지 않는 경우, 제어부(180)는 오브젝트를 어라운드 뷰 이미지에 반영하지 않을 수도 있다.On the other hand, the
도 7a는 본 발명의 제2 실시예에 따른 제어부 및 프로세서의 상세 블럭도이다.7A is a detailed block diagram of a controller and a processor according to a second embodiment of the present invention.
제2 실시예는 제1 실시예와, 수행 순서에 차이가 있다. 이하, 도 7a를 참조하여, 제1 실시예와의 차이점을 중심으로, 설명한다.The second embodiment differs from the first embodiment in the order of execution. Hereinafter, with reference to FIG. 7A, description will be given centering on differences from the first embodiment.
전처리부(310)는 복수의 카메라(110a, 110b, 110c, 110d)로부터 수신되는 영상에 전처리를 수행한다. 이후에, 어라운드 뷰 영상 생성부(320)는, 전처리된 복수의 영상을 기초로 어라운드 뷰 영상을 생성한다. 차량 이미지 생성부(340)는, 어라운드 뷰 영상에 가상의 차량 이미지를 오버레이(overlay)한다.The
한편, 오브젝트 검출부(410)는, 전처리 영상을 기초로, 오브젝트를 검출할 수 있다. 오브젝트 확인부(420)는, 검출된 오브젝트와 제1 메모리(160)에 저장된 오브젝트를 비교하여, 오브젝트를 분류하고, 확인한다. 오브젝트 트래킹부(430)는 검출된 오브젝트를 트래킹한다. 판단부(440)는, 검출된 오브젝트가 2개의 카메라에서 시야에서 오버랩 되는 영역에 위치하는지 판단한다. 오버랩 영역에 오브젝트가 위치하는 경우, 판단부(440)는 2개의 카메라에서 각각 획득한 영상의 가중치를 판단할 수 있다. 어플리케이션부(350)는, 어라운드 뷰 이미지 기초로, 각종 어플리케이션을 수행한다. 또한, 어플리케이션부(350)는 검출되고, 확인되며, 트래킹된 오브젝트를 기초로, 각종 어플리케이션을 수행한다. 또한, 어플리케이션부(350)는 가중치가 적용된 오브젝트를 어라운드 뷰에 반영할 수 있다.On the other hand, the
도 7b는 본 발명의 제2 실시예에 따른 차량의 동작을 설명하는 플로우차트이다.7B is a flowchart for explaining the operation of the vehicle according to the second embodiment of the present invention.
제2 실시예는 제1 실시예와, 수행 순서에 차이가 있다. 이하, 도 7b를 참조하여, 제1 실시예와의 차이점을 중심으로, 설명한다.The second embodiment differs from the first embodiment in the order of execution. Hereinafter, with reference to FIG. 7B, a description will be given centering on differences from the first embodiment.
제어부(180)는 복수의 카메라(110a, 110b, 110c, 110d)로부터 각각의 영상을 수신한다(S710). The
제어부(180)는 수신된 복수의 영상 각각에 대해 전처리를 수행한다(S720). The
다음, 제어부(180)는 전처리된 영상을 기초로, 오브젝트 검출을 수행할 수 있다. 한편, 디스플레이 장치(200)를 통해 표시되는 어라운드 뷰 화면은, 복수의 카메라(110a, 110b, 110c, 110d)를 통해 획득된 원 영상의 일부 영역에 해당할 수 있다. 제어부(180)는 디스플레이 장치(200)에 표시되는 영상을 포함하여, 원 영상 전체를 바탕으로, 오브젝트 검출을 수행할 수 있다(S730).Next, the
소정의 오브젝트가 검출되는 경우, 제어부(180)는, 검출된 오브젝트가 2개의 카메라에서 시야에서 오버랩 되는 영역에 위치하는지 판단한다(S740). 오버랩 영역에 오브젝트가 위치하는 경우, 판단부(440)는 2개의 카메라에서 각각 획득한 영상의 가중치를 판단할 수 있다. 판단부(440)는 상기 가중치를 어라운드 뷰 영상에 반영할 수 있다(S750)When a predetermined object is detected, the
이후에, 제어부(180)는 전처리 수행된 복수의 영상을 합성하고(S760), 탑뷰로 전환하여(S770), 어라운드 뷰 영상을 생성한다.Thereafter, the
소정의 오브젝트가 검출되지 않는 경우, 제어부(180)는 전처리 수행된 복수의 영상을 합성하고(S760), 탑뷰로 전환하여(S770), 어라운드 뷰 영상을 생성한다. 오브젝트가 오버랩 영역에 위치하지 않는 경우, 제어부(180)는 전처리 수행된 복수의 영상을 합성하고(S760), 탑뷰로 전환하여(S770), 어라운드 뷰 영상을 생성한다. 실시예에 따라, 제어부(180)는, 전처리 과정을 거치지 않은 복수의 영상을 합성하여, 어라운드 뷰 영상으로 전환할 수도 있다. 예를 들면, 제어부(180)는 룩업테이블(LUT, Look Up Table)을 이용하여 복수의 영상을 합성하여, 어라운드 뷰 영상으로 전환할 수 있다. 룩업테이블은 합성 영상의 한 픽셀이 4개의 원래의 영상의 어떤 픽셀과 대응되는지 관계를 저장한 테이블이다.If a predetermined object is not detected, the
이후에, 제어부(180)는 어라운드 뷰 영상에 가상의 차량 이미지를 생성한다(S760). 구체적으로, 제어부(180)는 어라운드 뷰 영상에 가상의 차량 이미지를 오버레이(overlay)한다.Thereafter, the
다음, 제어부(180)는 압축된 데이터를 디스플레이 장치(200)에 전송하여, 어라운드 뷰 영상을 표시한다(S790).Next, the
한편, 제어부(180)는 검출된 오브젝트에 대응하는 이미지를, 어라운드 뷰 이미지에 오버레이하여 표시할 수 있다. 제어부(180)는 트래킹되는 오브젝트에 대응하는 이미지를 어라운드 뷰 이미지에 오버레이하여 표시할 수 있다. 이때, 오브젝트는, S750단계에서 가중치가 반영된 오브젝트일 수 있다. 실시예에 따라, 가중치 반영 결과, 오브젝트가 존재하지 않는 경우, 제어부(180)는 오브젝트를 어라운드 뷰 이미지에 반영하지 않을 수도 있다.On the other hand, the
도 8은 본 발명의 실시예에 따라, 카메라에 발생하는 외란을 설명하는데 참조되는 도면이다.FIG. 8 is a diagram referred to explain disturbance that occurs in a camera according to an embodiment of the present invention.
도 8을 참조하면, 외란은 광 유입, 배기 가스 발생, 렌즈 오염, 저조도, 영상 포화, 사이드 미러 폴딩 및 트렁크 오픈 중 적어도 어느 하나일 수 있다. 도 8의 (a)에 도시된 바와 같이, 카메라(110a, 110b, 110c, 110d)에 타 차량의 조명 장치에서 발광하는 빛이 조사되는 경우, 정상적이 영상 획득이 어려울 수 있다. 또한, 태양광이 직접적으로 조사되는 경우, 정상적인 영상 획득이 어려울 수 있다. 이외 같이, 카메라(110a, 110b, 110c, 110d)에 직접적인 광유입이 있는 경우, 이러한 광은 영상처리시 노이즈로 작용한다. 이경우, 오브젝트 검출등의 영상 처리에 있어 정확도가 떨어지는 원인이 될 수 있다.Referring to FIG. 8, the disturbance may be at least one of light inflow, exhaust gas generation, lens contamination, low illumination, image saturation, side mirror folding, and trunk open. As shown in FIG. 8 (a), if light emitted from the illumination device of another vehicle is irradiated to the
도 8의 (b)에 도시된 바와 같이, 배기가스가 후방 카메라(110d)의 시야에 들어오는 경우, 정상적인 영상 획득이 어려울 수 있다. 이러한 배기가스는 영상처리시 노이즈로 작용한다. 이경우, 오브젝트 검출등의 영상 처리에 있어 정확도가 떨어지는 원인이 될 수 있다.As shown in Fig. 8 (b), when the exhaust gas enters the field of view of the
도 8의 (c)에 도시된 바와 같이, 소정의 물질에 의해 카메라 렌즈가 오엽되는 경우, 정상적인 영상 획득이 어려울 수 있다. 이러한 물질들은 영상처리시 노이즈로 작용한다. 이경우, 오브젝트 검출등의 영상 처리에 있어 정확도가 떨어지는 원인이 될 수 있다.As shown in Fig. 8 (c), when the camera lens is defective due to a predetermined material, normal image acquisition may be difficult. These materials act as noise in image processing. In this case, the accuracy of the image processing such as object detection may be degraded.
도 8의 (d)에 도시된 바와 같이, 적당량의 조도가 유지되지 않는 경우, 정상적인 영상 획득이 어려울 수 있다. 이경우, 오브젝트 검출등의 영상 처리에 있어 정확도가 떨어지는 원인이 될 수 있다.As shown in (d) of FIG. 8, when an appropriate amount of illumination is not maintained, normal image acquisition may be difficult. In this case, the accuracy of the image processing such as object detection may be degraded.
도 8의 (e)에 도시된 바와 같이, 영상 포화 상태의 경우, 정상적인 영상 획득이 어려울 수 있다. 이경우, 오브젝트 검출등의 영상 처리에 있어 정확도가 떨어지는 원인이 될 수 있다. As shown in FIG. 8 (e), in the case of the image saturation state, normal image acquisition may be difficult. In this case, the accuracy of the image processing such as object detection may be degraded.
도시하지는 않았지만, 제1 및 제3 카메라(110a, 110c)가 양측 사이드 미러에 장착된 상태에서, 사이드 미러가 폴딩되는 경우, 정상적이 영상 획득이 어려울 수 있다. 또한, 제2 카메라(110c)가 트렁크에 장착된 상태에서, 트렁크가 오픈되는 경우, 정상적인 영상 획득이 어려울 수 있다. 이경우, 오브젝트 검출등의 영상 처리에 있어 정확도가 떨어지는 원인이 될 수 있다.Although not shown, when the side mirrors are folded with the first and
도 9 내지 도 12는 본 발명의 실시예에 따라, 오버랩 영역에 오브젝트가 위치하는 경우 가중치를 부여하는 동작을 설명하는데 참조되는 도면이다.FIGS. 9 to 12 are diagrams for explaining an operation of assigning weights when an object is located in an overlap region according to an embodiment of the present invention. FIG.
도 9의 (a)에 도시된 바와 같이, 차량(10)이 정지한 상태에서, 오브젝트(910)가 차량의 우측에서 좌측으로 이동할 수 있다. As shown in Fig. 9 (a), in a state in which the
이경우, 도 9의 (b)에 도시된 바와 같이, 제4 카메라(110d)에서 획득된 제4 영상에서는 오브젝트(910)가 검출될 수 있다. 제3 카메라(110c)에서 획득된 제3 영상에서는 오브젝트(910)가 검출되지 않을 수 있다. 제3 카메라(110c)의 시야각에 오브젝트(910)가 들어오지 않기 때문이다. In this case, as shown in FIG. 9B, the
이경우, 제어부(180)는 스코어 레벨 방식으로 가중치를 설정할 수 있다. 즉, 제어부(180)는 제4 카메라(110d)에서 획득되는 제4 영상 및 제3 카메라(110c)에서 획득되는 제3 영상에서의 오브젝트 검출 유무를 판단할 수 있다. 이후에, 제어부(180)는 AND 조건 또는 OR 조건에 따라, 오브젝트 검출 유무를 확정할 수 있다. 가령, AND 조건에 따라 가중치를 부여하는 경우, 제3 영상에서는 오브젝트가 검출되지 않으므로, 최종적으로 오브젝트가 검출되지 않는 것으로 판단하여, 이후의 동작을 수행할 수 있다. 가령, OR 조건에 따라 가중치를 부여하는 경우, 제4 영상에서는 오브젝트가 검출되었으므로, 최종적으로 오브젝트가 검출되는 것으로 판단하여, 이후의 동작을 수행할 수 있다.In this case, the
도 10의 (a)에 도시된 바와 같이, 차량(10)이 전진하는 상태에서, 오브젝트(910)가 차량의 우측에서 좌측으로 이동할 수 있다. As shown in Fig. 10 (a), in a state in which the
이경우, 도 10의 (b)에 도시된 바와 같이, 제4 카메라(110d)에 외란이 발생하여, 제4 영상에서는 오브젝트(1010)가 검출되지지 않을 수 있다. 제3 카메라(110c)에서 획득된 제3 영상에서는 오브젝트(1010)가 검출될 수 있다.In this case, as shown in FIG. 10B, disturbance may occur in the
이경우, 제어부(180)는 스코어 레벨 방식으로 가중치를 설정할 수 있다. 즉, 제어부(180)는 제4 카메라(110d)에서 획득되는 제4 영상 및 제3 카메라(110c)에서 획득되는 제3 영상에서의 오브젝트 검출 유무를 판단할 수 있다. 이후에, 제어부(180)는 AND 조건 또는 OR 조건에 따라, 오브젝트 검출 유무를 확정할 수 있다. 가령, AND 조건에 따라 가중치를 부여하는 경우, 제4 영상에서는 오브젝트가 검출되지 않으므로, 최종적으로 오브젝트가 검출되지 않는 것으로 판단하여, 이후의 동작을 수행할 수 있다. 가령, OR 조건에 따라 가중치를 부여하는 경우, 제3 영상에서는 오브젝트가 검출되었으므로, 최종적으로 오브젝트가 검출되는 것으로 판단하여, 이후의 동작을 수행할 수 있다. 제4 카메라에 외란이 발생한 경우이므로, OR 조건에 의해 가중치를 부여하는 것이 바람직하다.In this case, the
도 11의 (a)에 도시된 바와 같이, 차량(10)이 전진하는 상태에서, 오브젝트(910)가 차량의 우측에서 좌측으로 이동할 수 있다. As shown in Fig. 11 (a), in a state in which the
이경우, 도 11의 (b)에 도시된 바와 같이, 제4 카메라(110d)에서 획득된 제4 영상에서는 오브젝트(1010)가 검출될 수 있다. 제3 카메라(110c)에서 획득된 제3 영상에서는 오브젝트(1010)가 검출될 수 있다.In this case, as shown in FIG. 11B, the
이경우, 제어부(180)는 피처 레벨 방식으로 가중치를 설정할 수 있다. 예를 들면, 제어부(180)는 오브젝트의 이동 속도, 이동 방향, 크기를 비교하여 기중치를 설정할 수 있다.In this case, the
이동 속도를 기초로 가중치를 판단하는 경우, 도 12의 (a)에 도시된 바와 같이, 제어부(180)는, 제4 영상과 제3 영상을 비교하여, 단위 시간당 픽셀 이동량이 더 큰 영상에 가중치를 더 부여할 수 있다. 제4 영상의 오브젝트(1210)의 단위 시간당 픽셀 이동량이 제3 영상의 오브젝트(1220)의 단위 시간당 픽셀 이동량보다 큰 경우, 제어부(180)는 제4 영상에 더 큰 가중치를 부여할 수 있다.12 (a), the
이동 방향을 기초로 가중치를 판단하는 경우, 도 12의 (b)에 도시된 바와 같이, 제어부(180)는 제4 영상과 제3 영상을 비교하여, 가로 방향 움직임이 더 큰 영상에 가중치를 더 부여할 수 있다. 세로 방향 움직임의 경우, 실제 오브젝트는, 차량(10)으로 접근하는 것으로, 오브젝트의 크기만 커지므로, 오브젝트 검출 및 트래킹을 판단할때 가로 방향 움직임에 비해 불리하다. 제4 영상의 오브젝트(1230)의 가로 방향 움직임이 제3 영상의 오브젝트(1240)의 가로 방향 움직임보다 더 큰 경우, 제어부(180)는 제4 영상에 더 큰 가중치를 부여할 수 있다.12 (b), the
크기를 비교하여 가중치를 판단하는 경우, 도 12의 (c)에 도시된 바와 같이, 제어부(180)는 제4 영상과 제3 영상을 비교하여, 오브젝트를 둘러싼 가상의 사각형 면적이 큰 영상에 가중치를 더 부여할 수 있다. 제4 영상의 오브젝트(1240)를 둘러싼 가상의 사각형 면적이 제3 영상의 오브젝트(1260)를 둘러싼 가상의 사각형 면적보다 큰 경우, 제어부(180)는 제4 영상에 더 큰 가중치를 부여할 수 있다. 12 (c), the
이상에서는 본 발명의 바람직한 실시예에 대하여 도시하고 설명하였지만, 본 발명은 상술한 특정의 실시예에 한정되지 아니하며, 특허청구범위에서 청구하는 본 발명의 요지를 벗어남이 없이 당해 발명이 속하는 기술분야에서 통상의 지식을 가진 자에 의해 다양한 변형실시가 가능한 것은 물론이고, 이러한 변형실시들은 본 발명의 기술적 사상이나 전망으로부터 개별적으로 이해되어서는 안될 것이다.While the present invention has been particularly shown and described with reference to exemplary embodiments thereof, it is to be understood that the invention is not limited to the disclosed exemplary embodiments, but, on the contrary, It should be understood that various modifications may be made by those skilled in the art without departing from the spirit and scope of the present invention.
10 : 차량
110 : 카메라
120 : 제1 입력부
130 : 알람부
140 : 제1 통신부
160 : 제1 메모리
180 : 제어부
200 : 디스플레이 장치
220 : 제2 입력부
240 : 제2 통신부
250: 디스플레이부
255 : 음향 출력부
260 : 제2 메모리
280 : 프로세서10: Vehicle
110: camera
120: first input unit
130:
140: first communication section
160: first memory
180:
200: display device
220: second input section
240: second communication section
250:
255:
260: second memory
280: Processor
Claims (20)
상기 복수의 카메라로부터 수신된 복수의 영상을 합성하고, 상기 합성된 영상을 탑뷰 영상(top view image)으로 전환하여 어라운드 뷰 영상을 생성하고,
상기 복수의 카메라 중 2개의 카메라 시야에서 오버랩 되는 영역에 오브젝트가 위치하는 경우, 상기 2개의 카메라에서 각각 획득한 영상의 가중치를 상기 2개의 카메라에 발생하는 외란을 기준으로 판단하여, 상기 복수의 영상 또는 상기 어라운드 뷰 영상에서 오브젝트를 검출하고,
상기 검출된 오브젝트를 상기 어라운드 뷰 영상에 반영하는 제어부; 및
상기 어라운드 뷰 영상을 표시하는 디스플레이 장치;를 포함하는 차량.A plurality of cameras;
Synthesizing a plurality of images received from the plurality of cameras, converting the synthesized image into a top view image to generate an overview view image,
Wherein when the object is located in an area overlapping two camera viewpoints of the plurality of cameras, a weight of an image obtained by each of the two cameras is determined based on a disturbance generated in the two cameras, Or an object is detected from the surround view image,
A controller for reflecting the detected object on the surround view image; And
And a display device for displaying the surround view image.
상기 제어부는, 상기 2개의 카메라 중에서 하나의 카메라에 외란이 발생하는 경우, 상기 외란이 발생되지 않은 카메라에 100%가중치를 부여하는 차량.The method according to claim 1,
Wherein when the disturbance occurs in one of the two cameras, the control unit gives a 100% weight to the camera in which the disturbance has not occurred.
상기 외란은, 광 유입, 배기 가스 발생, 렌즈 오염, 저조도, 영상 포화, 사이드 미러 폴딩 및 트렁크 오픈 중 적어도 어느 하나인 차량.The method according to claim 1,
Wherein the disturbance is at least one of light inflow, exhaust gas generation, lens contamination, low illumination, image saturation, side mirror folding, and trunk open.
상기 제어부는, 스코어 레벨(score level) 방식 또는 피처 레벨 (feature level)방식을 통해 가중치를 판단하는 차량.The method according to claim 1,
Wherein the control unit determines a weight through a score level method or a feature level method.
상기 제어부는, 스코어 레벨 방식을 통해 가중치를 판단하는 경우, 상기 2개의 카메라에서 획득되는 영상에 AND 조건 또는 OR 조건을 부여하여 가중치를 판단하는 차량.5. The method of claim 4,
Wherein the control unit assigns an AND condition or an OR condition to an image obtained from the two cameras to determine a weight when the weight is determined through a score level method.
상기 제어부는, 피처 레벨 방식을 통해 가중치를 판단하는 경우, 상기 복수의 영상 또는 상기 어라운드 뷰 영상에서 획득되는 상기 오브젝트의 이동 속도, 방향, 크기를 비교하여 가중치를 판단하는 차량.5. The method of claim 4,
And the controller compares the moving speed, the direction, and the size of the object obtained from the plurality of images or the surround view image to determine a weight when the weight is determined based on the feature level method.
상기 제어부는, 상기 이동 속도를 기초로 가중치를 판단하는 경우, 상기 2개의 카메라에서 획득한 영상을 비교하여, 동일 시간에 상기 오브젝트의 픽셀 이동량이 더 큰 영상에 가중치를 더 부여하는 차량.The method according to claim 6,
Wherein the control unit compares the images acquired by the two cameras when the weight is determined based on the moving speed and gives a weight to the image having the larger pixel movement amount of the object at the same time.
상기 제어부는, 상기 방향을 기초로 가중치를 판단하는 경우, 상기 2개의 카메라에서 획득한 영상을 비교하여, 가로방향 움직임이 더 큰 영상에 가중치를 더 부여하는 차량.The method according to claim 6,
Wherein when the weight is determined based on the direction, the control unit compares the images acquired by the two cameras and gives a weight to the image having a larger horizontal motion.
상기 제어부는, 상기 크기를 비교하여 가중치를 판단하는 경우, 2개의 카메라에서 획득한 영상을 비교하여, 상기 오브젝트를 둘러싼 가상의 사각형 면적이 더 큰 영상에 가중치를 더 부여하는 차량.The method according to claim 6,
Wherein the controller compares the images obtained by the two cameras when the sizes are compared and determines the weights, and further adds weights to the images having a larger virtual rectangular area surrounding the objects.
상기 검출된 오브젝트에 기초하여 알람을 출력하는 알람부;를 더 포함하는 차량.The method according to claim 1,
And an alarm unit for outputting an alarm based on the detected object.
상기 합성된 영상을 탑뷰 영상으로 전환하여 어라운드 뷰 영상을 생성하는 단계;
상기 복수의 카메라 중 2개의 카메라 시야에서 오버랩 되는 영역에 오브젝트가 위치하는 경우, 상기 2개의 카메라에서 각각 획득한 영상의 가중치를 상기 2개의 카메라에서 발생하는 외란을 기준으로 판단하는 단계;
상기 복수의 영상 또는 상기 어라운드 뷰 영상에서 오브젝트를 검출하는 단계;
상기 검출된 오브젝트를 상기 어라운드 뷰 영상에 반영하는 단계; 및
상기 어라운드 뷰 영상을 표시하는 단계;를 포함하는 차량의 제어 방법.Synthesizing a plurality of images received from a plurality of cameras;
Converting the synthesized image into a top view image to generate an overview view image;
Determining a weight of an image obtained by the two cameras based on a disturbance generated in the two cameras when an object is located in an overlapping area of two cameras among the plurality of cameras;
Detecting an object in the plurality of images or the surround view image;
Reflecting the detected object on the surround view image; And
And displaying the surround view image.
상기 판단하는 단계는,
상기 2개의 카메라 중에서 하나의 카메라에 외란이 발생하는 경우, 상기 외란이 발생되지 않은 카메라에 100%가중치를 부여하는 차량의 제어 방법.12. The method of claim 11,
Wherein the determining step comprises:
And when a disturbance occurs in one of the two cameras, a 100% weight value is given to the camera in which the disturbance has not occurred.
상기 외란은, 광 유입, 배기 가스 발생, 렌즈 오염, 저조도, 영상 포화, 사이드 미러 폴딩 및 트렁크 오픈 중 적어도 어느 하나인 차량의 제어 방법.12. The method of claim 11,
Wherein the disturbance is at least one of light inflow, exhaust gas generation, lens contamination, low illumination, image saturation, side mirror folding, and trunk open.
상기 판단하는 단계는,
스코어 레벨(score level) 방식 또는 피처 레벨 (feature level)방식을 통해 가중치를 판단하는 차량의 제어 방법.12. The method of claim 11,
Wherein the determining step comprises:
A method of controlling a vehicle in which a weight is determined through a score level method or a feature level method.
상기 판단하는 단계는,
스코어 레벨 방식을 통해 가중치를 판단하는 경우, 상기 2개의 카메라에서 획득되는 영상에 AND 조건 또는 OR 조건을 부여하여 가중치를 판단하는 차량의 제어 방법.15. The method of claim 14,
Wherein the determining step comprises:
And a weight value is determined by applying an AND condition or an OR condition to an image obtained from the two cameras when the weight is determined through a score level method.
상기 판단하는 단계는,
피처 레벨 방식을 통해 가중치를 판단하는 경우, 상기 복수의 영상 또는 상기 어라운드 뷰 영상에서 획득되는 상기 오브젝트의 이동 속도, 방향, 크기를 비교하여 가중치를 판단하는 차량의 제어 방법.15. The method of claim 14,
Wherein the determining step comprises:
A method of controlling a vehicle, comprising: determining a weight by comparing a moving speed, a direction, and a size of the object obtained from the plurality of images or the surround view image when determining a weight through a feature level method.
상기 판단하는 단계는,
상기 이동 속도를 기초로 가중치를 판단하는 경우, 상기 2개의 카메라에서 획득한 영상을 비교하여, 동일 시간에 상기 오브젝트의 픽셀 이동량이 더 큰 영상에 가중치를 더 부여하는 차량의 제어 방법.17. The method of claim 16,
Wherein the determining step comprises:
Comparing the images obtained by the two cameras when the weight is determined based on the moving speed, and adding a weight to the image having the larger pixel movement amount of the object at the same time.
상기 판단하는 단계는,
상기 방향을 기초로 가중치를 판단하는 경우, 상기 2개의 카메라에서 획득한 영상을 비교하여, 가로방향 움직임이 더 큰 영상에 가중치를 더 부여하는 차량의 제어 방법.17. The method of claim 16,
Wherein the determining step comprises:
And comparing the images obtained by the two cameras when the weight is determined based on the direction, thereby giving a weight to the image with a larger horizontal motion.
상기 판단하는 단계는,
상기 크기를 비교하여 가중치를 판단하는 경우, 2개의 카메라에서 획득한 영상을 비교하여, 상기 오브젝트를 둘러싼 가상의 사각형 면적이 더 큰 영상에 가중치를 더 부여하는 차량의 제어 방법.17. The method of claim 16,
Wherein the determining step comprises:
And comparing the images obtained by the two cameras when the sizes are compared to determine a weight, the weighting is further given to the image having a larger virtual rectangular area surrounding the object.
상기 검출된 오브젝트에 기초하여 알람을 출력하는 단계;를 더 포함하는 차량의 제어 방법.
12. The method of claim 11,
And outputting an alarm based on the detected object.
Priority Applications (3)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
KR1020140182932A KR102288952B1 (en) | 2014-12-18 | 2014-12-18 | vehicle and control method thereof |
US14/938,533 US20160159281A1 (en) | 2014-12-04 | 2015-11-11 | Vehicle and control method thereof |
KR1020210098832A KR102304391B1 (en) | 2014-12-18 | 2021-07-27 | vehicle and control method thereof |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
KR1020140182932A KR102288952B1 (en) | 2014-12-18 | 2014-12-18 | vehicle and control method thereof |
Related Child Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
KR1020210098832A Division KR102304391B1 (en) | 2014-12-18 | 2021-07-27 | vehicle and control method thereof |
Publications (2)
Publication Number | Publication Date |
---|---|
KR20160074110A true KR20160074110A (en) | 2016-06-28 |
KR102288952B1 KR102288952B1 (en) | 2021-08-12 |
Family
ID=56366105
Family Applications (2)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
KR1020140182932A KR102288952B1 (en) | 2014-12-04 | 2014-12-18 | vehicle and control method thereof |
KR1020210098832A KR102304391B1 (en) | 2014-12-18 | 2021-07-27 | vehicle and control method thereof |
Family Applications After (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
KR1020210098832A KR102304391B1 (en) | 2014-12-18 | 2021-07-27 | vehicle and control method thereof |
Country Status (1)
Country | Link |
---|---|
KR (2) | KR102288952B1 (en) |
Cited By (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN112440998A (en) * | 2019-08-27 | 2021-03-05 | 现代自动车株式会社 | Controller for queue running, system comprising same and method for queue running control |
Families Citing this family (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
KR102656128B1 (en) | 2022-08-18 | 2024-04-09 | 주식회사 켐트로닉스 | Device and Method for Creating a Rear Panoramic View |
Citations (5)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
KR20100081964A (en) * | 2010-01-26 | 2010-07-15 | 주식회사 이미지넥스트 | Around image generating method and apparatus |
JP2012040883A (en) * | 2008-12-19 | 2012-03-01 | Panasonic Corp | Device for generating image of surroundings of vehicle |
KR20130095525A (en) * | 2012-02-20 | 2013-08-28 | 현대모비스 주식회사 | Around view system considering vehicle's drive direction and method of providing around view |
WO2014083825A1 (en) * | 2012-11-27 | 2014-06-05 | 日産自動車株式会社 | Driving assistance device and driving assistance method |
KR20140080076A (en) * | 2012-12-20 | 2014-06-30 | 현대오트론 주식회사 | Parking assistance apparatus and method thereof |
Family Cites Families (2)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
KR101272257B1 (en) * | 2011-08-30 | 2013-06-19 | 에스엘 주식회사 | Apparatus and method for compensating around image of vehicle |
KR101436445B1 (en) * | 2012-12-28 | 2014-09-01 | 아진산업(주) | Method for displaying image around the vehicle |
-
2014
- 2014-12-18 KR KR1020140182932A patent/KR102288952B1/en active IP Right Grant
-
2021
- 2021-07-27 KR KR1020210098832A patent/KR102304391B1/en active IP Right Grant
Patent Citations (5)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2012040883A (en) * | 2008-12-19 | 2012-03-01 | Panasonic Corp | Device for generating image of surroundings of vehicle |
KR20100081964A (en) * | 2010-01-26 | 2010-07-15 | 주식회사 이미지넥스트 | Around image generating method and apparatus |
KR20130095525A (en) * | 2012-02-20 | 2013-08-28 | 현대모비스 주식회사 | Around view system considering vehicle's drive direction and method of providing around view |
WO2014083825A1 (en) * | 2012-11-27 | 2014-06-05 | 日産自動車株式会社 | Driving assistance device and driving assistance method |
KR20140080076A (en) * | 2012-12-20 | 2014-06-30 | 현대오트론 주식회사 | Parking assistance apparatus and method thereof |
Cited By (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN112440998A (en) * | 2019-08-27 | 2021-03-05 | 现代自动车株式会社 | Controller for queue running, system comprising same and method for queue running control |
Also Published As
Publication number | Publication date |
---|---|
KR102288952B1 (en) | 2021-08-12 |
KR20210097078A (en) | 2021-08-06 |
KR102304391B1 (en) | 2021-09-23 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
CN107264402B (en) | It looks around and equipment and the vehicle including it is provided | |
JP5439890B2 (en) | Image processing method, image processing apparatus, and program | |
US9706175B2 (en) | Image processing device, image processing system, and image processing method | |
JP6148887B2 (en) | Image processing apparatus, image processing method, and image processing system | |
KR102288950B1 (en) | vehicle and control method thereof | |
US20150109444A1 (en) | Vision-based object sensing and highlighting in vehicle image display systems | |
JP5858650B2 (en) | Image generation apparatus, image display system, and image generation method | |
US20140114534A1 (en) | Dynamic rearview mirror display features | |
US20150042799A1 (en) | Object highlighting and sensing in vehicle image display systems | |
US20160159281A1 (en) | Vehicle and control method thereof | |
US10930070B2 (en) | Periphery monitoring device | |
JP2009524171A (en) | How to combine multiple images into a bird's eye view image | |
JP2012105158A (en) | Combination vehicle birds-eye-view display system | |
JP2002019556A (en) | Monitoring system | |
WO2002089485A1 (en) | Method and apparatus for displaying pickup image of camera installed in vehicle | |
JP5495071B2 (en) | Vehicle periphery monitoring device | |
US20170116710A1 (en) | Merging of Partial Images to Form an Image of Surroundings of a Mode of Transport | |
KR102304391B1 (en) | vehicle and control method thereof | |
JP2005191962A (en) | Moving object circumference monitoring apparatus and moving object | |
JP2004356845A (en) | Apparatus for supervising surrounding of vehicle | |
KR20180094717A (en) | Driving assistance apparatus using avm | |
KR102300652B1 (en) | vehicle and control method thereof | |
JP5584561B2 (en) | Image processing apparatus, image display system, and image display method | |
US20190266416A1 (en) | Vehicle image system and method for positioning vehicle using vehicle image | |
CN111669543A (en) | Vehicle imaging system and method for parking solutions |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
A201 | Request for examination | ||
E902 | Notification of reason for refusal | ||
E701 | Decision to grant or registration of patent right |