KR20160089222A - vehicle and control method thereof - Google Patents
vehicle and control method thereof Download PDFInfo
- Publication number
- KR20160089222A KR20160089222A KR1020150008907A KR20150008907A KR20160089222A KR 20160089222 A KR20160089222 A KR 20160089222A KR 1020150008907 A KR1020150008907 A KR 1020150008907A KR 20150008907 A KR20150008907 A KR 20150008907A KR 20160089222 A KR20160089222 A KR 20160089222A
- Authority
- KR
- South Korea
- Prior art keywords
- images
- image
- overlap region
- reliability
- vehicle
- Prior art date
Links
- 238000000034 method Methods 0.000 title claims description 44
- 238000001514 detection method Methods 0.000 claims abstract description 30
- 238000012545 processing Methods 0.000 claims description 38
- 238000002156 mixing Methods 0.000 claims description 5
- 238000004891 communication Methods 0.000 description 23
- 238000010586 diagram Methods 0.000 description 12
- 238000007781 pre-processing Methods 0.000 description 7
- 230000000694 effects Effects 0.000 description 5
- 230000006870 function Effects 0.000 description 5
- 238000013459 approach Methods 0.000 description 4
- 239000000203 mixture Substances 0.000 description 4
- 238000012544 monitoring process Methods 0.000 description 4
- 239000002131 composite material Substances 0.000 description 3
- 230000002194 synthesizing effect Effects 0.000 description 3
- 230000014509 gene expression Effects 0.000 description 2
- 239000007787 solid Substances 0.000 description 2
- 241001300198 Caperonia palustris Species 0.000 description 1
- 235000000384 Veronica chamaedrys Nutrition 0.000 description 1
- 238000002485 combustion reaction Methods 0.000 description 1
- 238000007306 functionalization reaction Methods 0.000 description 1
- 238000012986 modification Methods 0.000 description 1
- 230000004048 modification Effects 0.000 description 1
- 230000001151 other effect Effects 0.000 description 1
- 238000004148 unit process Methods 0.000 description 1
- 238000012795 verification Methods 0.000 description 1
Images
Classifications
-
- B—PERFORMING OPERATIONS; TRANSPORTING
- B60—VEHICLES IN GENERAL
- B60R—VEHICLES, VEHICLE FITTINGS, OR VEHICLE PARTS, NOT OTHERWISE PROVIDED FOR
- B60R1/00—Optical viewing arrangements; Real-time viewing arrangements for drivers or passengers using optical image capturing systems, e.g. cameras or video systems specially adapted for use in or on vehicles
- B60R1/20—Real-time viewing arrangements for drivers or passengers using optical image capturing systems, e.g. cameras or video systems specially adapted for use in or on vehicles
- B60R1/22—Real-time viewing arrangements for drivers or passengers using optical image capturing systems, e.g. cameras or video systems specially adapted for use in or on vehicles for viewing an area outside the vehicle, e.g. the exterior of the vehicle
- B60R1/23—Real-time viewing arrangements for drivers or passengers using optical image capturing systems, e.g. cameras or video systems specially adapted for use in or on vehicles for viewing an area outside the vehicle, e.g. the exterior of the vehicle with a predetermined field of view
- B60R1/27—Real-time viewing arrangements for drivers or passengers using optical image capturing systems, e.g. cameras or video systems specially adapted for use in or on vehicles for viewing an area outside the vehicle, e.g. the exterior of the vehicle with a predetermined field of view providing all-round vision, e.g. using omnidirectional cameras
-
- B—PERFORMING OPERATIONS; TRANSPORTING
- B60—VEHICLES IN GENERAL
- B60R—VEHICLES, VEHICLE FITTINGS, OR VEHICLE PARTS, NOT OTHERWISE PROVIDED FOR
- B60R21/00—Arrangements or fittings on vehicles for protecting or preventing injuries to occupants or pedestrians in case of accidents or other traffic risks
- B60R21/01—Electrical circuits for triggering passive safety arrangements, e.g. airbags, safety belt tighteners, in case of vehicle accidents or impending vehicle accidents
- B60R21/013—Electrical circuits for triggering passive safety arrangements, e.g. airbags, safety belt tighteners, in case of vehicle accidents or impending vehicle accidents including means for detecting collisions, impending collisions or roll-over
- B60R21/0134—Electrical circuits for triggering passive safety arrangements, e.g. airbags, safety belt tighteners, in case of vehicle accidents or impending vehicle accidents including means for detecting collisions, impending collisions or roll-over responsive to imminent contact with an obstacle, e.g. using radar systems
-
- B—PERFORMING OPERATIONS; TRANSPORTING
- B60—VEHICLES IN GENERAL
- B60W—CONJOINT CONTROL OF VEHICLE SUB-UNITS OF DIFFERENT TYPE OR DIFFERENT FUNCTION; CONTROL SYSTEMS SPECIALLY ADAPTED FOR HYBRID VEHICLES; ROAD VEHICLE DRIVE CONTROL SYSTEMS FOR PURPOSES NOT RELATED TO THE CONTROL OF A PARTICULAR SUB-UNIT
- B60W40/00—Estimation or calculation of non-directly measurable driving parameters for road vehicle drive control systems not related to the control of a particular sub unit, e.g. by using mathematical models
- B60W40/02—Estimation or calculation of non-directly measurable driving parameters for road vehicle drive control systems not related to the control of a particular sub unit, e.g. by using mathematical models related to ambient conditions
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T15/00—3D [Three Dimensional] image rendering
- G06T15/50—Lighting effects
- G06T15/506—Illumination models
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N23/00—Cameras or camera modules comprising electronic image sensors; Control thereof
- H04N23/57—Mechanical or electrical details of cameras or camera modules specially adapted for being embedded in other devices
-
- H04N5/225—
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N7/00—Television systems
- H04N7/18—Closed-circuit television [CCTV] systems, i.e. systems in which the video signal is not broadcast
- H04N7/181—Closed-circuit television [CCTV] systems, i.e. systems in which the video signal is not broadcast for receiving images from a plurality of remote sources
-
- B—PERFORMING OPERATIONS; TRANSPORTING
- B60—VEHICLES IN GENERAL
- B60R—VEHICLES, VEHICLE FITTINGS, OR VEHICLE PARTS, NOT OTHERWISE PROVIDED FOR
- B60R1/00—Optical viewing arrangements; Real-time viewing arrangements for drivers or passengers using optical image capturing systems, e.g. cameras or video systems specially adapted for use in or on vehicles
- B60R1/12—Mirror assemblies combined with other articles, e.g. clocks
- B60R2001/1253—Mirror assemblies combined with other articles, e.g. clocks with cameras, video cameras or video screens
-
- B—PERFORMING OPERATIONS; TRANSPORTING
- B60—VEHICLES IN GENERAL
- B60R—VEHICLES, VEHICLE FITTINGS, OR VEHICLE PARTS, NOT OTHERWISE PROVIDED FOR
- B60R2300/00—Details of viewing arrangements using cameras and displays, specially adapted for use in a vehicle
- B60R2300/10—Details of viewing arrangements using cameras and displays, specially adapted for use in a vehicle characterised by the type of camera system used
- B60R2300/105—Details of viewing arrangements using cameras and displays, specially adapted for use in a vehicle characterised by the type of camera system used using multiple cameras
-
- B—PERFORMING OPERATIONS; TRANSPORTING
- B60—VEHICLES IN GENERAL
- B60R—VEHICLES, VEHICLE FITTINGS, OR VEHICLE PARTS, NOT OTHERWISE PROVIDED FOR
- B60R2300/00—Details of viewing arrangements using cameras and displays, specially adapted for use in a vehicle
- B60R2300/30—Details of viewing arrangements using cameras and displays, specially adapted for use in a vehicle characterised by the type of image processing
- B60R2300/303—Details of viewing arrangements using cameras and displays, specially adapted for use in a vehicle characterised by the type of image processing using joined images, e.g. multiple camera images
-
- B—PERFORMING OPERATIONS; TRANSPORTING
- B60—VEHICLES IN GENERAL
- B60R—VEHICLES, VEHICLE FITTINGS, OR VEHICLE PARTS, NOT OTHERWISE PROVIDED FOR
- B60R2300/00—Details of viewing arrangements using cameras and displays, specially adapted for use in a vehicle
- B60R2300/70—Details of viewing arrangements using cameras and displays, specially adapted for use in a vehicle characterised by an event-triggered choice to display a specific image among a selection of captured images
-
- B—PERFORMING OPERATIONS; TRANSPORTING
- B60—VEHICLES IN GENERAL
- B60R—VEHICLES, VEHICLE FITTINGS, OR VEHICLE PARTS, NOT OTHERWISE PROVIDED FOR
- B60R2300/00—Details of viewing arrangements using cameras and displays, specially adapted for use in a vehicle
- B60R2300/80—Details of viewing arrangements using cameras and displays, specially adapted for use in a vehicle characterised by the intended use of the viewing arrangement
- B60R2300/8093—Details of viewing arrangements using cameras and displays, specially adapted for use in a vehicle characterised by the intended use of the viewing arrangement for obstacle warning
-
- B—PERFORMING OPERATIONS; TRANSPORTING
- B60—VEHICLES IN GENERAL
- B60W—CONJOINT CONTROL OF VEHICLE SUB-UNITS OF DIFFERENT TYPE OR DIFFERENT FUNCTION; CONTROL SYSTEMS SPECIALLY ADAPTED FOR HYBRID VEHICLES; ROAD VEHICLE DRIVE CONTROL SYSTEMS FOR PURPOSES NOT RELATED TO THE CONTROL OF A PARTICULAR SUB-UNIT
- B60W2420/00—Indexing codes relating to the type of sensors based on the principle of their operation
- B60W2420/40—Photo, light or radio wave sensitive means, e.g. infrared sensors
- B60W2420/403—Image sensing, e.g. optical camera
-
- B60W2420/42—
-
- B60W2550/10—
-
- B—PERFORMING OPERATIONS; TRANSPORTING
- B60—VEHICLES IN GENERAL
- B60W—CONJOINT CONTROL OF VEHICLE SUB-UNITS OF DIFFERENT TYPE OR DIFFERENT FUNCTION; CONTROL SYSTEMS SPECIALLY ADAPTED FOR HYBRID VEHICLES; ROAD VEHICLE DRIVE CONTROL SYSTEMS FOR PURPOSES NOT RELATED TO THE CONTROL OF A PARTICULAR SUB-UNIT
- B60W2554/00—Input parameters relating to objects
- B60W2554/80—Spatial relation or speed relative to objects
Landscapes
- Engineering & Computer Science (AREA)
- Multimedia (AREA)
- Mechanical Engineering (AREA)
- Physics & Mathematics (AREA)
- Mathematical Physics (AREA)
- Automation & Control Theory (AREA)
- Transportation (AREA)
- Signal Processing (AREA)
- Computer Graphics (AREA)
- General Physics & Mathematics (AREA)
- Theoretical Computer Science (AREA)
- Remote Sensing (AREA)
- Radar, Positioning & Navigation (AREA)
- Closed-Circuit Television Systems (AREA)
- Image Analysis (AREA)
Abstract
Description
본 발명은 차량 주변의 영상을 표시하는 AVM(Around View Monitoring) 장치를 구비하는 차량에 관한 것이다. The present invention relates to a vehicle equipped with an AVM (Around View Monitoring) device for displaying an image around a vehicle.
최근에는 차량의 고급화 및 다기능화에 따라, 차량에 어라운드 뷰 모니터링(이하, AVM, Around View Monitoring) 시스템이 탑재되고 있다.In recent years, an AVM (Around View Monitoring) system is mounted on a vehicle in accordance with the upgrading and multi-functionalization of a vehicle.
AVM 장치는 차량의 사방에 장착된 카메라를 통해 차량 주변의 영상을 획득하고, 차량의 주차시, 운전자가 힘들게 뒤를 돌아보거나 주위를 살피지 않고도 실내에 장착된 표시장치를 통해 차량의 주변을 확인할 수 있는 시스템이다. 또한, 어라운드 뷰 모니터링 시스템은 상기 주변의 영상을 합성하여 마치 차량의 위에서 보는 것과 같은 어라운드 뷰(around view)를 제공하기도 한다. 이러한 어라운드 뷰 모니터링 시스템을 이용하여, 운전자는 차량 주변의 상황을 한 눈에 파악하고 안전하게 주차를 하거나, 좁은 길을 지날 수 있다.The AVM device acquires images of the surroundings of the vehicle through a camera mounted on all sides of the vehicle, and can display the surroundings of the vehicle through a display device installed in the room without the driver looking back or looking around when the vehicle is parked System. In addition, the surround view monitoring system also synthesizes the surrounding images to provide an around view as if viewed from above the vehicle. Using these surround view monitoring systems, the driver can grasp the situation around the vehicle at a glance, park securely, or go a narrow path.
한편, AVM 장치는 주차 보조 장치로 활용되나, 복수의 카메라를 통해 획득되는 영상에 기초하여, 오브젝트 검출 또한 가능하다. AVM 장치에 구비된 복수의 카메라를 통해 오브젝트를 검출하는 동작에 대한 연구가 필요하다.On the other hand, the AVM apparatus is used as a parking assisting apparatus, but it is also possible to detect an object based on an image obtained through a plurality of cameras. It is necessary to study an operation of detecting an object through a plurality of cameras provided in the AVM apparatus.
AVM 시스템에 관한 선행 문헌 : 공개번호 10-2013-0028230Preceding literature on AVM systems: Publication No. 10-2013-0028230
본 발명은 상기한 문제점을 해결하기 위하여, 복수의 카메라로부터 수신된 영상에서 오브젝트 검출을 수행하는 차량을 제공하는데 목적이 있다.SUMMARY OF THE INVENTION The present invention has been made to solve the above problems, and it is an object of the present invention to provide a vehicle that performs object detection on an image received from a plurality of cameras.
본 발명의 과제들은 이상에서 언급한 과제들로 제한되지 않으며, 언급되지 않은 또 다른 과제들은 아래의 기재로부터 당업자에게 명확하게 이해될 수 있을 것이다.The problems of the present invention are not limited to the above-mentioned problems, and other problems not mentioned can be clearly understood by those skilled in the art from the following description.
상기 과제를 달성하기 위하여, 본 발명의 실시예에 따른 차량은, 복수의 카메라 및 상기 복수의 카메라로부터, 차량 주변 관련 복수의 영상을 수신하고, 상기 복수의 영상 중 적어도 하나에 오브젝트가 검출되는지 판단하고, 상기 오브젝트가 상기 복수의 영상의 오버랩 영역중 적어도 어느 하나에 위치하는지 판단하여, 상기 오브젝트가 오버랩 영역에 위치하는 경우, 상기 오브젝트 검출 정보를 기초로 상기 오버랩 영역을 처리하고, 상기 오브젝트가 검출되지 않거나, 상기 오브젝트가 오버랩 영역에 위치하지 않는 경우, 기 설정된 비율에 따라 상기 오버랩 영역을 블렌딩 처리하는 제어부를 포함한다.In order to achieve the above object, a vehicle according to an embodiment of the present invention receives a plurality of images related to a vehicle periphery from a plurality of cameras and the plurality of cameras, determines whether or not an object is detected in at least one of the plurality of images And determines whether the object is located in at least one of the overlap regions of the plurality of images. If the object is located in the overlap region, the overlap region is processed based on the object detection information, And blending the overlap region according to a predetermined ratio when the object is not located in the overlap region.
한편, 상기 복수의 카메라는, 제1 영상을 획득하는 제1 카메라, 제2 영상을 획득하는 제2 카메라, 제3 영상을 획득하는 제3 카메라 및 제4 영상을 획득하는 제4 카메라를 포함한다.The plurality of cameras may include a first camera that acquires a first image, a second camera that acquires a second image, a third camera that acquires a third image, and a fourth camera that acquires a fourth image .
한편, 상기 제어부는, 상기 복수의 영상의 오버랩 영역에서 상기 오브젝트가 검출되는 경우, 상기 복수의 영상에서의 상기 오브젝트의 이동 속도, 이동 방향 또는 크기를 비교하여, 상기 복수의 영상중 어느 영상의 신뢰도가 더 높은지 판단하고, 상기 신뢰도를 기초로 상기 오버랩 영역을 처리한다.Meanwhile, the control unit may compare the moving speed, moving direction, or size of the object in the plurality of images when the object is detected in the overlap region of the plurality of images, Is determined to be higher, and processes the overlap region based on the reliability.
한편, 상기 제어부는, 상기 복수의 영상 중 상기 신뢰도가 더 높은 영상만으로 상기 오버랩 영역을 처리한다.Meanwhile, the control unit processes the overlap region only with the image having the higher reliability among the plurality of images.
한편, 상기 제어부는, 상기 이동 속도를 기초로 신뢰도를 판단하는 경우, 상기 복수의 영상에서, 상기 오브젝트의 단위 시간당 픽셀 이동량이 더 큰 영상에 더 높은 신뢰도를 부여한다.Meanwhile, when the reliability is determined on the basis of the moving speed, the control unit gives higher reliability to the image having a larger pixel shift amount per unit time of the object in the plurality of images.
한편, 상기 제어부는, 상기 이동 방향을 기초로 신뢰도를 판단하는 경우, 상기 복수의 영상에서, 가로방향의 움직임이 더 큰 영상에 더 높은 신뢰도를 부여한다.Meanwhile, when the reliability is determined on the basis of the moving direction, the control unit gives a higher reliability to an image in which motion in the horizontal direction is larger in the plurality of images.
한편, 상기 제어부는, 상기 크기를 기초로 신뢰도를 판단하는 경우, 상기 복수의 영상에서, 상기 오브젝트가 차지하는 픽셀 수가 더 큰 영상에 더 높은 신뢰도를 부여한다.On the other hand, when the reliability is determined based on the size, the control unit gives a higher reliability to an image having a larger number of pixels occupied by the object in the plurality of images.
본 발명의 실시예에 따른 차량의 제어 방법은, 복수의 카메라로부터, 차량 주변 관련 복수의 영상을 각각 수신하는 단계, 상기 복수의 영상 중 적어도 하나에 오브젝트가 검출되는지 판단하는 단계, 상기 오브젝트가 상기 복수의 영상의 오버랩 영역중 적어도 어느 하나에 위치하는지 판단하는 단계, 상기 오브젝트가 오버랩 영역에 위치하는 경우, 상기 오브젝트 검출 정보를 기초로 상기 오버랩 영역을 처리하는 단계 및 상기 오브젝트가 검출되지 않거나, 상기 오브젝트가 오버랩 영역에 위치하지 않는 경우, 기 설정된 비율에 따라 상기 오버랩 영역을 블렌딩 처리하는 단계;를 포함한다.A method of controlling a vehicle according to an embodiment of the present invention includes the steps of: receiving a plurality of images related to a vehicle periphery from a plurality of cameras; determining whether an object is detected in at least one of the plurality of images; The method comprising the steps of: determining whether the object is located in at least one of overlapping regions of a plurality of images; processing the overlapping region based on the object detection information when the object is located in the overlapping region; And blending the overlap region according to a predetermined ratio when the object is not located in the overlap region.
한편, 상기 복수의 카메라는, 제1 영상을 획득하는 제1 카메라, 제2 영상을 획득하는 제2 카메라, 제3 영상을 획득하는 제3 카메라 및 제4 영상을 획득하는 제4 카메라를 포함한다.The plurality of cameras may include a first camera that acquires a first image, a second camera that acquires a second image, a third camera that acquires a third image, and a fourth camera that acquires a fourth image .
한편, 상기 오브젝트 검출 정보를 기초로 상기 오버랩 영역을 처리하는 단계는, 상기 복수의 영상의 오버랩 영역에서 상기 오브젝트가 검출되는 경우, 상기 복수의 영상에서의 상기 오브젝트의 이동 속도, 이동 방향 또는 크기를 비교하여, 상기 복수의 영상중 어느 영상의 신뢰도가 더 높은지 판단하고, 상기 신뢰도를 기초로 상기 오버랩 영역을 처리한다.The step of processing the overlap area based on the object detection information may include a step of detecting a moving speed, a moving direction or a size of the object in the plurality of images when the object is detected in the overlap area of the plurality of images Determines which of the plurality of images has higher reliability, and processes the overlap region based on the reliability.
한편, 상기 오브젝트 검출 정보를 기초로 상기 오버랩 영역을 처리하는 단계는, 상기 복수의 영상 중 상기 신뢰도가 더 높은 영상만으로 상기 오버랩 영역을 처리한다.On the other hand, the step of processing the overlap region based on the object detection information may process the overlap region only with the image having the higher reliability among the plurality of images.
한편, 상기 오브젝트 검출 정보를 기초로 상기 오버랩 영역을 처리하는 단계는, 상기 이동 속도를 기초로 신뢰도를 판단하는 경우, 상기 복수의 영상에서, 상기 오브젝트의 단위 시간당 픽셀 이동량이 더 큰 영상에 더 높은 신뢰도를 부여한다.Meanwhile, the step of processing the overlap area based on the object detection information may include a step of, when the reliability is determined on the basis of the moving speed, determining whether the pixel shift amount per unit time of the object in the plurality of images is higher Thereby giving credibility.
한편, 상기 오브젝트 검출 정보를 기초로 상기 오버랩 영역을 처리하는 단계는, 상기 이동 방향을 기초로 신뢰도를 판단하는 경우, 상기 복수의 영상에서, 가로방향의 움직임이 더 큰 영상에 더 높은 신뢰도를 부여한다.The step of processing the overlap area based on the object detection information may further include the step of, when the reliability is determined based on the moving direction, giving a higher reliability to the image in which the motion in the horizontal direction is larger in the plurality of images do.
한편, 상기 오브젝트 검출 정보를 기초로 상기 오버랩 영역을 처리하는 단계는, 상기 크기를 기초로 신뢰도를 판단하는 경우, 상기 복수의 영상에서, 상기 오브젝트가 차지하는 픽셀 수가 더 큰 영상에 더 높은 신뢰도를 부여한다.The step of processing the overlap region based on the object detection information may further include the step of, when the reliability is determined on the basis of the size, giving a higher reliability to an image having a larger number of pixels occupied by the object in the plurality of images do.
기타 실시예들의 구체적인 사항들은 상세한 설명 및 도면들에 포함되어 있다.The details of other embodiments are included in the detailed description and drawings.
본 발명의 실시예에 따르면 다음과 같은 효과가 하나 혹은 그 이상 있다.According to an embodiment of the present invention, there is one or more of the following effects.
본 발명의 실시예에 따른 차량은, 획득되는 영상에서, 오브젝트를 검출하고, 검출되는 오브젝트를 추적하여, 사고를 미연에 방지할 수 있는 효과가 있다.The vehicle according to the embodiment of the present invention has an effect of detecting an object in an acquired image and tracking the detected object to prevent an accident in advance.
본 발명의 실시예에 따른 차량은, 오버랩 영역에 오브젝트가 위치하는 경우에도 오브젝트 검출 정보를 기초로 오버랩 영역을 처리함으로써, 자연스러운 AVM 화면을 제공하는 효과가 있다.The vehicle according to the embodiment of the present invention has an effect of providing a natural AVM screen by processing the overlap area based on the object detection information even when the object is located in the overlap area.
본 발명의 효과들은 이상에서 언급한 효과들로 제한되지 않으며, 언급되지 않은 또 다른 효과들은 청구범위의 기재로부터 당업자에게 명확하게 이해될 수 있을 것이다.The effects of the present invention are not limited to the effects mentioned above, and other effects not mentioned can be clearly understood by those skilled in the art from the description of the claims.
도 1은 본 발명의 일 실시예에 따른 복수의 카메라를 구비하는 차량의 외관을 도시한 도면이다.
도 2는 도 1의 차량에 부착되는 복수의 카메라의 위치를 개략적으로 도시한 도면이다.
도 3a는 도 2의 복수의 카메라에 촬영된 이미지에 기반한 어라운드 뷰 이미지를 예시한다
도 3b는 본 발명의 실시예에 따라 오버랩 영역을 설명하는데 참조되는 도면이다.
도 4는 본 발명의 실시예에 따른 차량의 블럭도이다.
도 5는 본 발명의 실시예에 따른 디스플레이 장치의 블럭도이다.
도 6은 본 발명의 실시예에 따른 제어부의 상세 블럭도이다.
도 7은 본 발명의 실시예에 따른 차량의 동작을 설명하는 플로우차트이다.
도 8은 본 발명의 실시예에 따라, 오버랩 영역에서 오브젝트가 검출되는 경우, 신뢰도를 부여하는 동작을 설명하는데 참조되는 도면이다.
도 9 내지 도 11은 본 발명의 실시예에 따라, 복수의 영상을 합성하여 어라운드 뷰 영상을 생성하는 동작을 설명하는데 참조되는 도면이다.BRIEF DESCRIPTION OF THE DRAWINGS FIG. 1 is a view showing the appearance of a vehicle having a plurality of cameras according to an embodiment of the present invention; FIG.
Fig. 2 is a view schematically showing positions of a plurality of cameras attached to the vehicle of Fig. 1. Fig.
Figure 3A illustrates an example of an ambient view image based on images photographed by the plurality of cameras of Figure 2
FIG. 3B is a diagram referred to explain overlap regions according to an embodiment of the present invention. FIG.
4 is a block diagram of a vehicle according to an embodiment of the present invention.
5 is a block diagram of a display device according to an embodiment of the present invention.
6 is a detailed block diagram of a control unit according to an embodiment of the present invention.
7 is a flowchart illustrating the operation of the vehicle according to the embodiment of the present invention.
Fig. 8 is a diagram referred to explain an operation of giving reliability when an object is detected in an overlap region, according to an embodiment of the present invention. Fig.
Figs. 9 to 11 are diagrams referred to in describing an operation of composing a plurality of images to generate an ambient view image, according to an embodiment of the present invention.
이하, 첨부된 도면을 참조하여 본 명세서에 개시된 실시 예를 상세히 설명하되, 도면 부호에 관계없이 동일하거나 유사한 구성요소는 동일한 참조 번호를 부여하고 이에 대한 중복되는 설명은 생략하기로 한다. 이하의 설명에서 사용되는 구성요소에 대한 접미사 "모듈" 및 "부"는 명세서 작성의 용이함만이 고려되어 부여되거나 혼용되는 것으로서, 그 자체로 서로 구별되는 의미 또는 역할을 갖는 것은 아니다. 또한, 본 명세서에 개시된 실시 예를 설명함에 있어서 관련된 공지 기술에 대한 구체적인 설명이 본 명세서에 개시된 실시 예의 요지를 흐릴 수 있다고 판단되는 경우 그 상세한 설명을 생략한다. 또한, 첨부된 도면은 본 명세서에 개시된 실시 예를 쉽게 이해할 수 있도록 하기 위한 것일 뿐, 첨부된 도면에 의해 본 명세서에 개시된 기술적 사상이 제한되지 않으며, 본 발명의 사상 및 기술 범위에 포함되는 모든 변경, 균등물 내지 대체물을 포함하는 것으로 이해되어야 한다.Hereinafter, embodiments of the present invention will be described in detail with reference to the accompanying drawings, wherein like reference numerals are used to designate identical or similar elements, and redundant description thereof will be omitted. The suffix "module" and " part "for the components used in the following description are given or mixed in consideration of ease of specification, and do not have their own meaning or role. In the following description of the embodiments of the present invention, a detailed description of related arts will be omitted when it is determined that the gist of the embodiments disclosed herein may be blurred. It is to be understood that both the foregoing general description and the following detailed description are exemplary and explanatory and are intended to provide further explanation of the invention as claimed. , ≪ / RTI > equivalents, and alternatives.
제1, 제2 등과 같이 서수를 포함하는 용어는 다양한 구성요소들을 설명하는데 사용될 수 있지만, 상기 구성요소들은 상기 용어들에 의해 한정되지는 않는다. 상기 용어들은 하나의 구성요소를 다른 구성요소로부터 구별하는 목적으로만 사용된다.Terms including ordinals, such as first, second, etc., may be used to describe various elements, but the elements are not limited to these terms. The terms are used only for the purpose of distinguishing one component from another.
어떤 구성요소가 다른 구성요소에 "연결되어" 있다거나 "접속되어" 있다고 언급된 때에는, 그 다른 구성요소에 직접적으로 연결되어 있거나 또는 접속되어 있을 수도 있지만, 중간에 다른 구성요소가 존재할 수도 있다고 이해되어야 할 것이다. 반면에, 어떤 구성요소가 다른 구성요소에 "직접 연결되어" 있다거나 "직접 접속되어" 있다고 언급된 때에는, 중간에 다른 구성요소가 존재하지 않는 것으로 이해되어야 할 것이다.It is to be understood that when an element is referred to as being "connected" or "connected" to another element, it may be directly connected or connected to the other element, . On the other hand, when an element is referred to as being "directly connected" or "directly connected" to another element, it should be understood that there are no other elements in between.
단수의 표현은 문맥상 명백하게 다르게 뜻하지 않는 한, 복수의 표현을 포함한다. The singular expressions include plural expressions unless the context clearly dictates otherwise.
본 출원에서, "포함한다" 또는 "가지다" 등의 용어는 명세서상에 기재된 특징, 숫자, 단계, 동작, 구성요소, 부품 또는 이들을 조합한 것이 존재함을 지정하려는 것이지, 하나 또는 그 이상의 다른 특징들이나 숫자, 단계, 동작, 구성요소, 부품 또는 이들을 조합한 것들의 존재 또는 부가 가능성을 미리 배제하지 않는 것으로 이해되어야 한다.In the present application, the terms "comprises", "having", and the like are used to specify that a feature, a number, a step, an operation, an element, a component, But do not preclude the presence or addition of one or more other features, integers, steps, operations, elements, components, or combinations thereof.
본 명세서에서 기술되는 차량은, 동력원으로서 엔진을 구비하는 내연기관 차량, 동력원으로서 엔진과 전기 모터를 구비하는 하이브리드 차량, 동력원으로서 전기 모터를 구비하는 전기 차량 등을 모두 포함하는 개념일 수 있다. The vehicle described in the present specification may be a concept including both an internal combustion engine vehicle having an engine as a power source, a hybrid vehicle having an engine and an electric motor as a power source, and an electric vehicle having an electric motor as a power source.
이하의 설명에서 차량의 좌측은 차량의 주행 방향의 좌측, 즉, 운전석측을 의미하고, 차량의 우측은 차량의 주행 방향의 우측, 즉, 보조석측을 의미한다.In the following description, the left side of the vehicle means the left side in the running direction of the vehicle, that is, the driver's seat side, and the right side of the vehicle means the right side in the running direction of the vehicle, that is, the assistant's seat side.
한편, 본 명세서에서 기술되는 AVM 장치는, 복수의 카메라를 구비하고, 복수의 카메라에서 촬영된 복수의 이미지를 조합하여, 어라운드 뷰 이미지를 제공하는 장치일 수 있다. 특히, 차량을 기준으로 한 탑 뷰(top view) 또는 버드 아이 뷰(bird eye view)를 제공하는 장치일 수 있다. 이하에서는 본 발명의 다양한 실시예에 따른 차량의 AVM 장치 및 이를 구비하는 차량에 대해 기술한다.On the other hand, the AVM apparatus described in the present specification may be an apparatus provided with a plurality of cameras and combining a plurality of images photographed by a plurality of cameras to provide an overview image. In particular, it may be a device that provides a top view or a bird eye view based on a vehicle. DETAILED DESCRIPTION OF THE PREFERRED EMBODIMENTS Hereinafter, an AVM apparatus and a vehicle including the AVM apparatus according to various embodiments of the present invention will be described.
한편, 본 명세서에서, 데이터의 교환은 차량 통신 망을 통해 이루어질 수 있다. 여기서, 차량 통신 망은 CAN이 바람직하다. 실시예에 따라, 차량 통신 망은 이더넷 프로토콜을 이용하여 구축될 수 있다.On the other hand, in the present specification, the exchange of data can be performed through the vehicle communication network. Here, the vehicle communication network is preferably CAN. According to an embodiment, the vehicle communication network may be constructed using an Ethernet protocol.
도 1은 본 발명의 일 실시예에 따른 복수의 카메라를 구비하는 차량의 외관을 도시한 도면이다.BRIEF DESCRIPTION OF THE DRAWINGS FIG. 1 is a view showing the appearance of a vehicle having a plurality of cameras according to an embodiment of the present invention; FIG.
도 1을 참조하면, 차량(10)은, 동력원에 의해 회전하는 바퀴(20FR,20FL,20RL,..), 차량(10)의 진행 방향을 조절하기 위한 스티어링 휠(30), 및 차량(10)에 장착되는 복수의 카메라(110a,110b,110c,110d)를 구비할 수 있다. 한편, 도면에서는, 편의상 좌측 카메라(110a)와, 전방 카메라(110d)만 도시된다. 1, the
복수의 카메라(110a,110b,110c,110d)는, 차량의 속도가 소정 속도 이하인 경우, 또는 차량이 추진하는 경우, 활성화되어, 각각 촬영 이미지를 획득할 수 있다. 복수의 카메라에 의해 획득되는, 이미지는, 제어부(도 4의 180) 또는 프로세서(도 5의 280) 내에서 신호 처리될 수 있다.The plurality of
도 2는 도 1의 차량에 부착되는 복수의 카메라의 위치를 개략적으로 도시한 도면이고, 도 3a는 도 2의 복수의 카메라에 촬영된 이미지에 기반한 어라운드 뷰 이미지를 예시한다.Fig. 2 is a view schematically showing the positions of a plurality of cameras attached to the vehicle of Fig. 1, and Fig. 3a illustrates an example of an around view image based on images photographed by the plurality of cameras of Fig.
먼저, 도 2를 참조하면, 복수의 카메라(110a,110b,110c,110d)는, 각각 차량의 좌측, 후방, 우측, 및 전방에 배치될 수 있다.2, a plurality of
특히, 좌측 카메라(110a)와 우측 카메라(110c)는, 각각 좌측 사이드 미러를 둘러싸는 케이스와 우측 사이드 미러를 둘러싸는 케이스 내에 배치될 수 있다.In particular, the
한편, 후방 카메라(110b)와 전방 카메라(110d)는, 각각 트렁크 스위치 부근 및 앰블럼 또는 앰블럼 부근에 배치될 수 있다.On the other hand, the
복수의 카메라(110a,110b,110c,110d)에서 촬영된 각각의 복수의 이미지는, 차량(10) 내의 제어부(도 4의 180) 등에 전달되고, 제어부(도 4의 180)는, 복수의 이미지를 조합하여, 어라운드 뷰 이미지를 생성한다.Each of the plurality of images photographed by the plurality of
도 3a는 어라운드뷰 이미지(810)의 일예를 예시한다. 어라운드뷰 이미지(810)는, 좌측 카메라로부터(110a)의 제1 이미지 영역(110ai), 후방 카메라(110b)로부터의 제2 이미지 영역(110bi), 우측 카메라(110c)로부터의 제3 이미지 영역(110ci), 전방 카메라(110d)로부터의 제4 이미지 영역(110di)를 포함할 수 있다.FIG. 3A illustrates an example of an
한편, 복수의 카메라로부터, 어라운드 뷰 이미지 생성시, 각 이미지 영역 사이의 경계 부분이 발생한다. 이러한 경계 부분은 이미지 블렌딩(blending) 처리하여 자연스럽게 표시될 수 있도록한다.On the other hand, when a surround view image is generated from a plurality of cameras, a boundary portion between each image area occurs. Such boundary portions can be blended with the image so that they can be displayed naturally.
한편, 복수의 영상 각각의 경계에는 경계선(111a, 111b, 111c, 111d)이 표시될 수 있다. On the other hand, the
도 3b는 본 발명의 실시예에 따라 오버랩 영역을 설명하는데 참조되는 도면이다.FIG. 3B is a diagram referred to explain overlap regions according to an embodiment of the present invention. FIG.
도 3b를 참조하면, 복수의 카메라는 광각 렌즈를 사용할 수 있다. 그로 인해, 복수의 카메라에서 획득되는 영상에 오버랩(overlap)영역이 발생할 수 있다. 예를 들어, 제1 카메라(110a)에서 획득되는 제1 영상과 제2 카메라(110b)에서 획득되는 제2 영상에는 제1 오버랩영역(112a)이 발생될 수 있다. 또한, 제2 카메라(110b)에서 획득되는 제2 영상과 제3 카메라(110c)에서 획득되는 제3 영상에는 제2 오버랩 영역(112b)이 발생될 수 있다. 또한, 제3 카메라(110c)에서 획득되는 제3 영상과 제4 카메라(110d)에서 획득되는 제4 영상에는 제3 오버랩 영역(112c)이 발생될 수 있다. 또한, 제4 카메라(110d)에서 획득되는 제4 영상과 제1 카메라(110a)에서 획득되는 제1 영상에는 제4 오버랩 영역(112d)이 발생될 수 있다.Referring to FIG. 3B, a plurality of cameras can use a wide-angle lens. Thereby, an overlap region may occur in an image obtained from a plurality of cameras. For example, a
한편, 상기 제1 내지 제4 오버랩 영역(112a, 112b, 112c, 112d)에 오브젝트가 위치하는 경우, 어라운드 뷰 영상으로 변환시, 오브젝트가 2개로 보이거나, 사라지는 현상이 발생될 수 있다. 이러한 경우, 오브젝트 검출에 문제가 발생될 수 있고, 탑승자에게 정확한 정보를 전달할 수 없는 문제가 발생될 수 있다.On the other hand, when the object is located in the first to
도 4는 본 발명의 실시예에 따른 차량의 블럭도이다.4 is a block diagram of a vehicle according to an embodiment of the present invention.
도 4를 참조하면, 차량(10)은 복수의 카메라(110a, 110b, 110c, 110d), 제1 입력부(120), 알람부(130), 제1 통신부(140), 디스플레이 장치(200), 제1 메모리(160) 및 제어부(180)를 포함할 수 있다.4, the
복수의 카메라는 제1 내지 제4 카메라(110a, 110b, 110c, 110d)를 포함할 수 있다. 제1 카메라(110a)는 차량 좌측방 주변 영상을 획득한다. 제2 카메라(110b)는 차량 후방 주변 영상을 획득한다. 제3 카메라(110c)는 차량 우측방 주변 영상을 획득한다. 제4 카메라(110d)는 차량 전방 주변 영상을 획득한다.The plurality of cameras may include first to
제1 내지 제4 카메라(110a, 110b, 110c, 110d)에서 각각 획득한 복수의 영상들은 제어부(180)에 전달된다.The plurality of images acquired by the first to
한편, 제1 내지 제4 카메라(110a, 110b, 110c, 110d)는 각각 렌즈 및 이미지 센서(예를 들면, CCD 또는 CMOS)를 포함한다. 여기서, 상기 렌즈는, 광각이 180°이상인 어안 렌즈인 것이 바람직하다.Meanwhile, the first to
제1 입력부(120)는 사용자 입력을 수신할 수 있다. 제1 입력부(120)는 터치 패드, 물리적 버튼, 다이얼, 슬라이더 스위치, 클릭 휠 등, 외부로부터 입력을 받아들일 수 있는 수단을 포함할 수 있다. 제1 입력부(120)를 통해 수신되는 사용자 입력은 제어부(180)로 전달된다.The
알람부(130)는 제어부(180)에서 처리된 정보에 따라 알람을 출력한다. 알람부(130)는 음향 출력부 및 디스플레이를 포함할 수 있다. 음향 출력부는 제어부(180)의 제어에 따라, 오디오 데이터를 출력할 수 있다. 이러한 음향 출력부에는 리시버(receiver), 스피커(speaker), 버저(buzzer) 등이 포함될 수 있다. 디스플레이는 제어부(180)의 제어에 따라, 알람 정보를 화면으로 표시한다. The
한편, 알람부(130)는 검출된 오브젝트의 위치에 기초하여, 알람을 출력할 수 있다. 한편, 알람부(130)에 포함되는 디스플레이는, 차량 내부 전면의 클러스터(cluster) 또는 HUD(Head Up Display)를 포함하는 개념일 수 있다. On the other hand, the
제1 통신부(140)는 외부 전자기기와 통신을 수행한다. 제1 통신부(140)는 외부 서버, 주변 차량, 외부 기지국 등과 데이터를 교환할 수 있다. 제1 통신부(140)는 외부 전자기기와 통신을 가능하게 하는 통신 모듈을 포함할 수 있으며, 여기서, 통신 모듈은 공지의 기술을 이용할 수 있다.The
한편, 제1 통신부(140)는 근거리 통신 모듈을 포함할 수 있으며, 근거리 통신 모듈을 통해, 탑승자의 휴대 단말기 등과 데이터를 교환할 수도 있다. 제1 통신부(140)는 어라운드 뷰 화면을 탑승자의 휴대 단말기에 전송할 수 있다. 또한, 제1 통신부(140)는 휴대 단말기로부터 수신되는 제어 명령을 제어부(180)에 전달 할 수 있다. 한편, 제1 통신부(140)는 오브젝트 검출에 따른 정보를 휴대 단말기로 전송할 수도 있다. 이경우, 휴대 단말기는 진동, 음향 출력등을 통해, 오브젝트 검출을 알리는 알람을 출력할 수 있다.Meanwhile, the
디스플레이 장치(200)는 압축된 영상을 해제하여 어라운드 뷰 이미지를 표시한다. 디스플레이 장치(200)는 AVN(Audio Video Navigation)일 수 있다. 디스플레이 장치(200)에 대한 구성은 도 5를 참조하여 상세하게 설명한다.The
제1 메모리(160)는 차량(10)의 다양한 기능을 지원하는 데이터를 저장한다. 제1 메모리(160)는 차량(10)에서 구동되는 다수의 응용 프로그램, 차량(10)의 동작을 위한 데이터들, 명령어들을 저장할 수 있다.The
제1 메모리(160)는 고속 랜덤 액세스 메모리를 포함할 수 있다. 제1 메모리(160)는 하나 이상의 자기 디스크 저장 장치, 플래시 메모리 장치, 또는 기타 비휘발성 고상 메모리 장치 등의 비휘발성 메모리도 포함할 수 있으나, 이에 한정하지 아니하고, 판독 가능한 저장매체를 포함할 수 있다. The
예를 들어, 제1 메모리(160)는 EEP-ROM(Electronically Erasable and Programmable Read Only Memory)을 포함할 수 있으나, 이에 한정하지 아니한다. EEP-ROM 은 제어부(180)의 동작 중, 제어부(180)에 의해 정보의 기입 및 소거가 행해질 수 있다. EEP-ROM은 제어장치의 전원이 오프되어 전력 공급이 정지되어도, 내부에 기억되어 있는 정보가 소거되지 않고 유지되는 기억 디바이스일 수 있다.For example, the
한편, 제1 메모리(160)는 복수의 카메라(110a, 110b, 110c, 110d)로부터 획득되는 영상을 저장할 수 있다. 예를 들어, 차량(10)의 충돌이 감지되는 경우, 복수의 카메라(110a, 110b, 110c, 110d)로부터 획득되는 영상을 저장할 수 있다. Meanwhile, the
제어부(180)는, 차량(10) 내의 각 유닛의 전반적인 동작을 제어한다. 제어부(180)는 차량(10) 제어를 위해 다양한 기능들을 수행하고, 데이터를 처리하기 위해 제1 메모리(160) 내에 저장된 다양한 소프트웨어 프로그램들 및/또는 명령어들의 집합들을 실행 또는 수행할 수 있다. 제어부(180)는 제1 메모리(160)에 저장된 정보에 기반하여 신호를 처리할 수 있다.The
제어부(180)는, 복수의 카메라(110a, 110b, 110c, 110d)로부터 수신되는 영상에 전처리를 수행한다. 제어부(180)는 각종 필터 또는 히스토그램 이쿼라이제이션(Histogram Equalization) 등을 이용하여 영상의 노이즈를 제거한다. 한편, 이러한 영상의 전처리는 반드시 필요한 절차는 아니며, 영상의 상태나 영상 처리 목적에 따라 생략될 수도 있다.The
제어부(180)는, 전처리된 영상을 기초로, 오브젝트를 검출할 수 있다. 여기서, 오브젝트는, 보행자, 장애물, 주변 차량 등을 포함하는 개념일 수 있다. 한편, 디스플레이 장치(200)를 통해 표시되는 어라운드 뷰 화면은, 복수의 카메라(110a, 110b, 110c, 110d)를 통해 획득된 원 영상의 일부 영역에 해당할 수 있다. 제어부(180)는 디스플레이 장치(200)에 표시되는 영상을 포함하여, 원 영상 전체를 바탕으로, 오브젝트 검출을 수행할 수 있다.The
제어부(180)는, 검출된 오브젝트와 제1 메모리(160)에 저장된 오브젝트를 비교하여, 오브젝트를 분류하고, 확인한다.The
제어부(180)는, 검출된 오브젝트를 트래킹한다. 예를 들어, 오브젝트 트래킹부(430)는, 순차적으로, 획득되는 이미지들에 내의, 오브젝트를 확인하고, 확인된 오브젝트의 움직임 또는 움직임 벡터를 연산하며, 연산된 움직임 또는 움직임 벡터에 기초하여, 해당 오브젝트의 이동 등을 트래킹할 수 있다.The
제어부(180)는, 오브젝트 검출 정보를 기초로 오버랩 영역을 처리하여 영상을 합성한다.The
복수의 영상의 오버랩 영역에서, 오브젝트가 검출되는 경우, 제어부(180)는 복수의 영상에서의 상기 오브젝트의 이동 속도, 이동 방향 또는 크기를 비교한다. 제어부(180)는 비교 결과를 기초로 복수의 영상 중 어느 영상의 신뢰도가 더 높은지 판단한다. 제어부(180)는 신뢰도를 기초로 오버랩 영역을 처리한다. 제어부(180)는 복수의 영상 중 신뢰도가 더 높은 영상만으로 오버랩 영역을 처리한다. 예를 들면, 제1 및 제2 영상의 오버랩 영역에서, 오브젝트가 검출되는 경우, 제어부(180)는 제1 및 제2 영상에서의 오브젝트의 이동 속도, 이동 방향 또는 크기를 비교한다. 제어부(180)는 비교 결과를 기초로 제1 및 제2 영상 중 어느 영상의 신뢰도가 더 높은지 판단한다. 제어부(180)는 신뢰도를 기초로 오버랩 영역을 처리한다. 제어부(180)는 제1 및 제2 영상 중 신뢰도가 더 높은 영상만으로 오버랩 영역을 처리한다.When an object is detected in an overlap area of a plurality of images, the
만약, 오브젝트의 이동 속도를 기초로 신뢰도를 판단하는 경우, 제어부(180)는 복수의 영상에서, 오브젝트의 단위 시간당 픽셀의 이동량이 더 큰 영상에 더 높은 신뢰도를 부여할 수 있다. 예를 들면, 제1 및 제2 영상의 오버랩 영역에서, 오브젝트가 검출되는 경우, 제어부(180)는 제1 및 제2 영상에서의 오브젝트의 단위 시간당 픽셀의 이동량이 더 큰 영상에 더 높은 신뢰도를 부여할 수 있다.If the reliability is determined on the basis of the moving speed of the object, the
만약, 오브젝트의 이동 방향을 기초로 신뢰도를 판단하는 경우, 제어부(180)는 복수의 영상에서, 오브젝트의 가로방향의 움직임이 더 큰 영상에 더 높은 신뢰도를 부여할 수 있다. 세로 방향 움직임의 경우, 실제 오브젝트는, 차량으로 접근하는 것으로, 오브젝트의 크기만 커지므로, 오브젝트 검출 및 트래킹을 판단할때 가로 방향 움직임에 비해 불리하다. 예를 들면, 제1 및 제2 영상의 오버랩 영역에서, 오브젝트가 검출되는 경우, 제어부(180)는 제1 및 제2 영상에서의 오브젝트의 가로방향의 움직임이 더 큰 영상에 더 높은 신뢰도를 부여할 수 있다.If the reliability is determined on the basis of the moving direction of the object, the
만약, 오브젝트의 크기를 기초로 신뢰도를 판단하는 경우, 제어부(180)는 복수의 영상에서, 오브젝트가 차지하는 픽셀의 수가 더 큰 영상에 더 높은 신뢰도를 부여할 수 있다. 또는, 제어부(180)는 복수의 영상에서, 오브젝트를 둘러싼 가상의 사각형 면적이 큰 영상에 가중치를 더 부여할 수 있다. 예를 들면, 제1 및 제2 영상의 오버랩 영역에서, 오브젝트가 검출되는 경우, 제어부(180)는 제1 및 제2 영상에서의 오브젝트가 차지하는 픽셀의 수가 더 큰 영상에 더 높은 신뢰도를 부여할 수 있다.If the reliability is determined on the basis of the size of the object, the
한편, 오브젝트가 검출되지 않거나, 오브젝트가 오버랩 영역에 위치하지 않는 경우, 제어부(180)는 기 설정된 비율에 따라, 오버랩 영역을 블렌딩 처리하여, 영상을 합성한다.On the other hand, when the object is not detected or the object is not located in the overlap region, the
제어부(180)는, 합성된 영상을 기초로 어라운드 뷰 영상을 생성한다.The
여기서, 어라운드 뷰 영상은, 차량 주변 영상을 촬영하는 복수의 카메라(110a, 110b, 110c, 110d)로부터 수신된 영상을 합성하여, 탑뷰 영상으로 전환시킨 영상일 수 있다.Here, the surround view image may be an image obtained by synthesizing the images received from the plurality of
예를 들면, 제어부(180)는 룩업테이블(LUT, Look Up Table)을 이용하여 복수의 영상을 합성하고, 어라운드 뷰 영상으로 전환할 수 있다. 룩업테이블은 합성 영상의 한 픽셀이 4개의 원래의 영상의 어떤 픽셀과 대응되는지 관계를 저장한 테이블이다.For example, the
이후에, 제어부(180)는 어라운드 뷰 영상에 가상의 차량 이미지를 생성한다. 구체적으로, 제어부(180)는 어라운드 뷰 영상에 가상의 차량 이미지를 오버레이(overlay)한다.Thereafter, the
다음, 제어부(180)는 압축된 데이터를 디스플레이 장치(200)에 전송하여, 어라운드 뷰 영상을 표시한다.Next, the
한편, 제어부(180)는 S730 단계에서 검출된 오브젝트에 대응하는 이미지를, 어라운드 뷰 이미지에 오버레이하여 표시할 수 있다. 제어부(180)는 트래킹되는 오브젝트에 대응하는 이미지를 어라운드 뷰 이미지에 오버레이하여 표시할 수 있다.On the other hand, the
도 5는 본 발명의 실시예에 따른 디스플레이 장치의 블럭도이다.5 is a block diagram of a display device according to an embodiment of the present invention.
도 5를 참조하면, 디스플레이 장치(200)는 제2 입력부(220), 제2 통신부(240), 디스플레이부(250), 음향 출력부(255), 제2 메모리(260) 및 프로세서(280)를 포함할 수 있다.5, the
제2 입력부(220)는, 사용자 입력을 수신할 수 있다. 제2 입력부(220)는 터치 패드, 물리적 버튼, 다이얼, 슬라이더 스위치, 클릭 휠 등, 외부로부터 입력을 받아들일 수 있는 수단을 포함할 수 있다. 제1 입력부(220)를 통해 수신되는 사용자 입력은 제어부(180)로 전달된다.The
제2 통신부(240)는, 외부 전자기기와 통신 연결되어, 데이터를 교환할 수 있다. 예를 들면, 제2 통신부(240)는 방송사 서버와 연결되어, 방송 컨텐츠를 수신할 수 있다. 예를 들면, 제2 통신부(240)는 교통 정보 제공 서버와 연결되어 TPEG(Transport Protocol Experts Group) 정보를 수신할 수 있다.The
디스플레이부(250)는, 프로세서(270)에서 처리되는 정보를 표시한다. 예를 들어, 디스플레이부(250)는 프로세서(270)에서 구동되는 응용 프로그램의 실행화면 정보, 또는 이러한 실행화면 정보에 따른 UI(User Interface), GUI(Graphic User Interface) 정보를 표시할 수 있다.The display unit 250 displays information processed by the processor 270. [ For example, the display unit 250 may display execution screen information of an application program driven by the processor 270 or UI (User Interface) and GUI (Graphic User Interface) information according to the execution screen information.
한편, 터치 패드가 디스플레이부(250)와 상호 레이어 구조를 이룰 경우, 이를 터치스크린(touch screen)이라 부를 수 있다. 터치스크린은 제2 입력부(220)로서의 기능을 수행할 수 있다.Meanwhile, when the touch pad has a mutual layer structure with the display unit 250, it can be called a touch screen. The touch screen may function as the
음향 출력부(255)는, 오디오 데이터를 출력할 수 있다. 이러한 음향 출력부(152)에는 리시버(receiver), 스피커(speaker), 버저(buzzer) 등이 포함될 수 있다.The
제2 메모리(260)는, 디스플레이 장치(200)의 다양한 기능을 지원하는 데이터를 저장한다. 제2 메모리(260)는 디스플레이 장치(200)에서 구동되는 다수의 응용 프로그램, 디스플레이 장치(200)의 동작을 위한 데이터들, 명령어들을 저장할 수 있다.The
제2 메모리(260)는 고속 랜덤 액세스 메모리를 포함할 수 있다. 제2 메모리(260)는 하나 이상의 자기 디스크 저장 장치, 플래시 메모리 장치, 또는 기타 비휘발성 고상 메모리 장치 등의 비휘발성 메모리도 포함할 수 있으나, 이에 한정하지 아니하고, 판독 가능한 저장매체를 포함할 수 있다. The
예를 들어, 제2 메모리(260)는 EEP-ROM(Electronically Erasable and Programmable Read Only Memory)을 포함할 수 있으나, 이에 한정하지 아니한다. EEP-ROM 은 프로세서(280)의 동작 중, 프로세서(280)에 의해 정보의 기입 및 소거가 행해질 수 있다. EEP-ROM은 제어장치의 전원이 오프되어 전력 공급이 정지되어도, 내부에 기억되어 있는 정보가 소거되지 않고 유지되는 기억 디바이스일 수 있다.For example, the
프로세서(280)는, 디스플레이 장치(200) 내의 각 유닛의 전반적인 동작을 제어한다. 프로세서(280)는 디스플레이 장치(20) 제어를 위해 다양한 기능들을 수행하고, 데이터를 처리하기 위해 제2 메모리(260) 내에 저장된 다양한 소프트웨어 프로그램들 및/또는 명령어들의 집합들을 실행 또는 수행할 수 있다. 프로세서(280)는 제2 메모리(260)에 저장된 정보에 기반하여 신호를 처리할 수 있다.The
프로세서(280)는 어라운드 뷰 영상을 표시한다.The
도 6은 본 발명의 실시예에 따른 제어부의 상세 블럭도이다.6 is a detailed block diagram of a control unit according to an embodiment of the present invention.
도 6을 참조하면, 제어부(180)는, 전처리부(610), 오브젝트 검출부(620), 오브젝트 확인부(630), 오브젝트 트래킹부(640), 오버랩 영역 처리부(650) 및 어라운드 뷰 영상 생성부(660)를 포함할 수 있다.6, the
전처리부(610)는, 복수의 카메라(110a, 110b, 110c, 110d)로부터 수신되는 영상에 전처리를 수행한다. 전처리부(610)는 각종 필터 또는 히스토그램 이쿼라이제이션(Histogram Equalization) 등을 이용하여 영상의 노이즈를 제거한다. 한편, 이러한 영상의 전처리는 반드시 필요한 절차는 아니며, 영상의 상태나 영상 처리 목적에 따라 생략될 수도 있다.The
오브젝트 검출부(620)는, 전처리된 영상을 기초로, 오브젝트를 검출할 수 있다. 여기서, 오브젝트는, 보행자, 장애물, 주변 차량 등을 포함하는 개념일 수 있다. 한편, 디스플레이 장치(200)를 통해 표시되는 어라운드 뷰 화면은, 복수의 카메라(110a, 110b, 110c, 110d)를 통해 획득된 원 영상의 일부 영역에 해당할 수 있다. 오브젝트 검출부(620)는 디스플레이 장치(200)에 표시되는 영상을 포함하여, 원 영상 전체를 바탕으로, 오브젝트 검출을 수행할 수 있다.The object detecting unit 620 can detect an object based on the preprocessed image. Here, the object may be a concept including a pedestrian, an obstacle, a nearby vehicle, and the like. Meanwhile, the surrounding view screen displayed through the
오브젝트 확인부(630)는, 검출된 오브젝트와 제1 메모리(160)에 저장된 오브젝트를 비교하여, 오브젝트를 분류하고, 확인한다.The object verification unit 630 compares the detected object with the object stored in the
오브젝트 트래킹부(640)는, 검출된 오브젝트를 트래킹한다. 예를 들어, 오브젝트 트래킹부(430)는, 순차적으로, 획득되는 이미지들에 내의, 오브젝트를 확인하고, 확인된 오브젝트의 움직임 또는 움직임 벡터를 연산하며, 연산된 움직임 또는 움직임 벡터에 기초하여, 해당 오브젝트의 이동 등을 트래킹할 수 있다.The object tracking unit 640 tracks the detected object. For example, the object tracking unit 430 sequentially identifies an object in the acquired images, calculates a motion or a motion vector of the identified object, Movement of an object, and the like can be tracked.
오버랩 영역 처리부(650)는, 오브젝트 검출 정보를 기초로 오버랩 영역을 처리하여 영상을 합성한다.The overlap area processing unit 650 processes the overlap area based on the object detection information to synthesize the images.
복수의 영상의 오버랩 영역에서, 오브젝트가 검출되는 경우, 오버랩 영역 처리부(650)는 복수의 영상에서의 상기 오브젝트의 이동 속도, 이동 방향 또는 크기를 비교한다. 오버랩 영역 처리부(650)는 비교 결과를 기초로 복수의 영상 중 어느 영상의 신뢰도가 더 높은지 판단한다. 오버랩 영역 처리부(650)는 신뢰도를 기초로 오버랩 영역을 처리한다. 오버랩 영역 처리부(650)는 복수의 영상 중 신뢰도가 더 높은 영상만으로 오버랩 영역을 처리한다. 예를 들면, 제1 및 제2 영상의 오버랩 영역에서, 오브젝트가 검출되는 경우, 오버랩 영역 처리부(650)는 제1 및 제2 영상에서의 오브젝트의 이동 속도, 이동 방향 또는 크기를 비교한다. 오버랩 영역 처리부(650)는 비교 결과를 기초로 제1 및 제2 영상 중 어느 영상의 신뢰도가 더 높은지 판단한다. 오버랩 영역 처리부(650)는 신뢰도를 기초로 오버랩 영역을 처리한다. 오버랩 영역 처리부(650)는 제1 및 제2 영상 중 신뢰도가 더 높은 영상만으로 오버랩 영역을 처리한다.When an object is detected in the overlap region of a plurality of images, the overlap region processing unit 650 compares the movement speed, the movement direction, or the size of the object in the plurality of images. The overlap area processing unit 650 determines which of the plurality of images has higher reliability based on the comparison result. The overlap area processing unit 650 processes the overlap area based on the reliability. The overlap area processing unit 650 processes the overlap area with only images having higher reliability among a plurality of images. For example, when an object is detected in the overlap area of the first and second images, the overlap area processing unit 650 compares the movement speed, the movement direction, or the size of the object in the first and second images. The overlap area processor 650 determines which one of the first and second images is more reliable based on the comparison result. The overlap area processing unit 650 processes the overlap area based on the reliability. The overlap region processing unit 650 processes the overlap region only with the images having higher reliability among the first and second images.
만약, 오브젝트의 이동 속도를 기초로 신뢰도를 판단하는 경우, 오버랩 영역 처리부(650)는 복수의 영상에서, 오브젝트의 단위 시간당 픽셀의 이동량이 더 큰 영상에 더 높은 신뢰도를 부여할 수 있다. 예를 들면, 제1 및 제2 영상의 오버랩 영역에서, 오브젝트가 검출되는 경우, 오버랩 영역 처리부(650)는 제1 및 제2 영상에서의 오브젝트의 단위 시간당 픽셀의 이동량이 더 큰 영상에 더 높은 신뢰도를 부여할 수 있다.If the reliability is determined on the basis of the moving speed of the object, the overlap area processing unit 650 can give a higher reliability to the image having the larger moving amount of pixels per unit time of the object in a plurality of images. For example, when an object is detected in the overlap area of the first and second images, the overlap area processing unit 650 may detect that the moving amount of the pixel per unit time of the object in the first and second images is higher Reliability can be given.
만약, 오브젝트의 이동 방향을 기초로 신뢰도를 판단하는 경우, 오버랩 영역 처리부(650)는 복수의 영상에서, 오브젝트의 가로방향의 움직임이 더 큰 영상에 더 높은 신뢰도를 부여할 수 있다. 세로 방향 움직임의 경우, 실제 오브젝트는, 차량으로 접근하는 것으로, 오브젝트의 크기만 커지므로, 오브젝트 검출 및 트래킹을 판단할때 가로 방향 움직임에 비해 불리하다. 예를 들면, 제1 및 제2 영상의 오버랩 영역에서, 오브젝트가 검출되는 경우, 오버랩 영역 처리부(650)는 제1 및 제2 영상에서의 오브젝트의 가로방향의 움직임이 더 큰 영상에 더 높은 신뢰도를 부여할 수 있다.If reliability is determined on the basis of the moving direction of the object, the overlap area processing unit 650 can give a higher reliability to an image in which the motion of the object in the horizontal direction is larger in a plurality of images. In the case of the longitudinal direction movement, the actual object approaches the vehicle, which is disadvantageous compared with the lateral direction motion when judging object detection and tracking because the size of the object is increased. For example, when an object is detected in the overlap region of the first and second images, the overlap region processing unit 650 may determine that the motion of the object in the first and second images in the horizontal direction has a higher reliability Can be given.
만약, 오브젝트의 크기를 기초로 신뢰도를 판단하는 경우, 오버랩 영역 처리부(650)는 복수의 영상에서, 오브젝트가 차지하는 픽셀의 수가 더 큰 영상에 더 높은 신뢰도를 부여할 수 있다. 또는, 오버랩 영역 처리부(650)는 복수의 영상에서, 오브젝트를 둘러싼 가상의 사각형 면적이 큰 영상에 가중치를 더 부여할 수 있다. 예를 들면, 제1 및 제2 영상의 오버랩 영역에서, 오브젝트가 검출되는 경우, 오버랩 영역 처리부(650)는 제1 및 제2 영상에서의 오브젝트가 차지하는 픽셀의 수가 더 큰 영상에 더 높은 신뢰도를 부여할 수 있다.If the reliability is determined based on the size of the object, the overlap area processing unit 650 can give a higher reliability to an image having a larger number of pixels occupied by the object in a plurality of images. Alternatively, the overlap area processing unit 650 can give a weight to an image having a large virtual rectangular area surrounding the object in a plurality of images. For example, when an object is detected in the overlap area of the first and second images, the overlap area processing unit 650 sets the reliability of the image in which the number of pixels occupied by the object in the first and second images is larger .
한편, 오브젝트가 검출되지 않거나, 오브젝트가 오버랩 영역에 위치하지 않는 경우, 오버랩 영역 처리부(650)는 기 설정된 비율에 따라, 오버랩 영역을 블렌딩 처리하여, 영상을 합성한다.On the other hand, when the object is not detected or the object is not located in the overlap region, the overlap region processing section 650 blends the overlap region according to a predetermined ratio to synthesize the image.
어라운드 뷰 영상 생성부(660)는, 합성된 영상을 기초로 어라운드 뷰 영상을 생성한다.The surround view image generation unit 660 generates an ambient view image based on the synthesized image.
여기서, 어라운드 뷰 영상은, 차량 주변 영상을 촬영하는 복수의 카메라(110a, 110b, 110c, 110d)로부터 수신된 영상을 합성하여, 탑뷰 영상으로 전환시킨 영상일 수 있다.Here, the surround view image may be an image obtained by synthesizing the images received from the plurality of
예를 들면, 어라운드 뷰 영상 생성부(660)는 룩업테이블(LUT, Look Up Table)을 이용하여 복수의 영상을 합성하고, 어라운드 뷰 영상으로 전환할 수 있다. 룩업테이블은 합성 영상의 한 픽셀이 4개의 원래의 영상의 어떤 픽셀과 대응되는지 관계를 저장한 테이블이다.For example, the surround view image generating unit 660 can synthesize a plurality of images using a lookup table (LUT), and switch to an ambient view image. The look-up table is a table that stores the relationship between one pixel of the composite image and which pixel of the four original images.
이후에, 어라운드 뷰 영상 생성부(660)는 어라운드 뷰 영상에 가상의 차량 이미지를 생성한다. 구체적으로, 어라운드 뷰 영상 생성부(660)는 어라운드 뷰 영상에 가상의 차량 이미지를 오버레이(overlay)한다.Subsequently, the surround view image generating unit 660 generates a virtual vehicle image on the surrounding view image. Specifically, the surround view image generator 660 overlaid a virtual vehicle image on the surround view image.
다음, 어라운드 뷰 영상 생성부(660)는 압축된 데이터를 디스플레이 장치(200)에 전송하여, 어라운드 뷰 영상을 표시한다.Next, the surround view image generator 660 transmits the compressed data to the
한편, 어라운드 뷰 영상 생성부(660)는 S730 단계에서 검출된 오브젝트에 대응하는 이미지를, 어라운드 뷰 이미지에 오버레이하여 표시할 수 있다. 어라운드 뷰 영상 생성부(660)는 트래킹되는 오브젝트에 대응하는 이미지를 어라운드 뷰 이미지에 오버레이하여 표시할 수 있다.On the other hand, the surround view image generator 660 can overlay the image corresponding to the object detected in step S730 on the surround view image. The surround view image generator 660 may overlay the image corresponding to the object to be tracked on the surround view image.
도 7은 본 발명의 실시예에 따른 차량의 동작을 설명하는 플로우차트이다.7 is a flowchart illustrating the operation of the vehicle according to the embodiment of the present invention.
도 7을 참조하면, 제어부(180)는 복수의 카메라(110a, 110b, 110c, 110d)로부터 제1 내지 제4의 영상을 수신한다(S710). Referring to FIG. 7, the
제어부(180)는 수신된 복수의 영상 각각에 대해 전처리를 수행한다(S720). 제어부(180)는 각종 필터 또는 히스토그램 이쿼라이제이션(Histogram Equalization) 등을 이용하여 영상의 노이즈를 제거한다. 한편, 이러한 영상의 전처리는 반드시 필요한 절차는 아니며, 영상의 상태나 영상 처리 목적에 따라 생략될 수도 있다.The
제어부(180)는 수신된 제1 내지 제4 영상 또는 전처리된 영상을 기초로 오브젝트가 검출되는지 판단한다(S730). 여기서, 오브젝트는, 보행자, 장애물, 주변 차량 등을 포함하는 개념일 수 있다. The
오브젝트가 검출되는 경우, 제어부(180)는 오브젝트가 오버랩 영역에 위치하는지 판단한다(S740). 구체적으로, 제어부(180)는 오브젝트가, 도 3b를 참조하여 설명한, 제1 내지 제4 오버랩 영역(112a, 112b, 112c, 112d)중 어느 하나에 위치하는지 판단한다.When the object is detected, the
오브젝트가 오버랩(112a, 112b, 112c, 112d) 영역에 위치하는 경우, 제어부(180)는 오브젝트 검출 정보를 기초로 오버랩 영역을 처리하여 영상을 합성한다(S750).When the object is located in the
복수의 영상의 오버랩 영역에서, 오브젝트가 검출되는 경우, 제어부(180)는 복수의 영상에서의 상기 오브젝트의 이동 속도, 이동 방향 또는 크기를 비교한다. 제어부(180)는 비교 결과를 기초로 복수의 영상 중 어느 영상의 신뢰도가 더 높은지 판단한다. 제어부(180)는 신뢰도를 기초로 오버랩 영역을 처리한다. 제어부(180)는 복수의 영상 중 신뢰도가 더 높은 영상만으로 오버랩 영역을 처리한다. 예를 들면, 제1 및 제2 영상의 오버랩 영역에서, 오브젝트가 검출되는 경우, 제어부(180)는 제1 및 제2 영상에서의 오브젝트의 이동 속도, 이동 방향 또는 크기를 비교한다. 제어부(180)는 비교 결과를 기초로 제1 및 제2 영상 중 어느 영상의 신뢰도가 더 높은지 판단한다. 제어부(180)는 신뢰도를 기초로 오버랩 영역을 처리한다. 제어부(180)는 제1 및 제2 영상 중 신뢰도가 더 높은 영상만으로 오버랩 영역을 처리한다.When an object is detected in an overlap area of a plurality of images, the
만약, 오브젝트의 이동 속도를 기초로 신뢰도를 판단하는 경우, 제어부(180)는 복수의 영상에서, 오브젝트의 단위 시간당 픽셀의 이동량이 더 큰 영상에 더 높은 신뢰도를 부여할 수 있다. 예를 들면, 제1 및 제2 영상의 오버랩 영역에서, 오브젝트가 검출되는 경우, 제어부(180)는 제1 및 제2 영상에서의 오브젝트의 단위 시간당 픽셀의 이동량이 더 큰 영상에 더 높은 신뢰도를 부여할 수 있다.If the reliability is determined on the basis of the moving speed of the object, the
만약, 오브젝트의 이동 방향을 기초로 신뢰도를 판단하는 경우, 제어부(180)는 복수의 영상에서, 오브젝트의 가로방향의 움직임이 더 큰 영상에 더 높은 신뢰도를 부여할 수 있다. 세로 방향 움직임의 경우, 실제 오브젝트는, 차량으로 접근하는 것으로, 오브젝트의 크기만 커지므로, 오브젝트 검출 및 트래킹을 판단할때 가로 방향 움직임에 비해 불리하다. 예를 들면, 제1 및 제2 영상의 오버랩 영역에서, 오브젝트가 검출되는 경우, 제어부(180)는 제1 및 제2 영상에서의 오브젝트의 가로방향의 움직임이 더 큰 영상에 더 높은 신뢰도를 부여할 수 있다.If the reliability is determined on the basis of the moving direction of the object, the
만약, 오브젝트의 크기를 기초로 신뢰도를 판단하는 경우, 제어부(180)는 복수의 영상에서, 오브젝트가 차지하는 픽셀의 수가 더 큰 영상에 더 높은 신뢰도를 부여할 수 있다. 또는, 제어부(180)는 복수의 영상에서, 오브젝트를 둘러싼 가상의 사각형 면적이 큰 영상에 가중치를 더 부여할 수 있다. 예를 들면, 제1 및 제2 영상의 오버랩 영역에서, 오브젝트가 검출되는 경우, 제어부(180)는 제1 및 제2 영상에서의 오브젝트가 차지하는 픽셀의 수가 더 큰 영상에 더 높은 신뢰도를 부여할 수 있다.If the reliability is determined on the basis of the size of the object, the
다음, 제어부(180)는 합성된 영상을 기초로 어라운드 뷰 영상을 생성한다(S760). 여기서, 어라운드 뷰 영상은, 차량 주변 영상을 촬영하는 복수의 카메라(110a, 110b, 110c, 110d)로부터 수신된 영상을 합성하여, 탑뷰 영상으로 전환시킨 영상일 수 있다.Next, the
예를 들면, 제어부(180)는 룩업테이블(LUT, Look Up Table)을 이용하여 복수의 영상을 합성하고, 어라운드 뷰 영상으로 전환할 수 있다. 룩업테이블은 합성 영상의 한 픽셀이 4개의 원래의 영상의 어떤 픽셀과 대응되는지 관계를 저장한 테이블이다.For example, the
이후에, 제어부(180)는 어라운드 뷰 영상에 가상의 차량 이미지를 생성한다(S770). 구체적으로, 제어부(180)는 어라운드 뷰 영상에 가상의 차량 이미지를 오버레이(overlay)한다.Thereafter, the
다음, 제어부(180)는 압축된 데이터를 디스플레이 장치(200)에 전송하여, 어라운드 뷰 영상을 표시한다(S780).Next, the
한편, 제어부(180)는 S730 단계에서 검출된 오브젝트에 대응하는 이미지를, 어라운드 뷰 이미지에 오버레이하여 표시할 수 있다. 제어부(180)는 트래킹되는 오브젝트에 대응하는 이미지를 어라운드 뷰 이미지에 오버레이하여 표시할 수 있다. On the other hand, the
한편, S730단계에서 오브젝트가 검출되지 않거나, S740단계에서 오브젝트가 오버랩 영역에 위치하지 않는 경우, 제어부(180)는 기 설정된 비율에 따라, 오버랩 영역을 블렌딩 처리하여, 영상을 합성한다(S790). If the object is not detected in step S730, or if the object is not located in the overlap area in step S740, the
도 8 내지 도 11은 본 발명의 실시예에 따라, 복수의 영상을 합성하여 어라운드 뷰 영상을 생성하는 동작을 설명하는데 참조되는 도면이다.FIGS. 8 to 11 are diagrams for explaining an operation of composing a plurality of images to generate an overview image according to an embodiment of the present invention.
도 8는 본 발명의 실시예에 따라, 복수의 영상에서, 오브젝트가 감지되지 않는 경우를 도시한다. Fig. 8 shows a case where an object is not detected in a plurality of images, according to an embodiment of the present invention.
도 8를 참조하면, 복수의 카메라가 4개로 구성되는 경우, 4개의 오버랩영역(810, 820, 830, 840) 이 발생한다. 만약, 복수의 영상에서, 오브젝트가 감지되지 않는 경우, 제어부(180)는 각 오버랩 영역(810, 820, 830, 840)을 모두 블렌딩 처리하여 합성한다. 오버랩 영역(810, 820, 830, 840)을 블렌딩 처리하여 복수의 영상을 합성함으로써, 자연스러운 영상을 차량 탑승자에게 제공할 수 있다.Referring to FIG. 8, when a plurality of cameras are configured with four cameras, four overlap
도 9는 본 발명의 실시예에 따라, 오버랩 영역이 아닌 영역에서, 오브젝트가 감지되는 경우를 도시한다. 9 shows a case where an object is detected in an area other than an overlap area according to an embodiment of the present invention.
도 9를 참조하면, 오버랩 영역(910, 920, 930, 940)이 아닌 영역(950, 960, 970, 980)에서 오브젝트가 감지되는 경우, 제어부(180)는 오버랩 영역(910, 920, 930, 940)을 블렌딩 처리하여 합성한다.9, when an object is detected in
도10은 본 발명의 실시예에 따라, 오버랩 영역에서, 오브젝트가 감지되는 경우를 도시한다.10 shows a case where an object is detected in an overlap area according to an embodiment of the present invention.
도 10을 참조하면, 오버랩 영역(1010, 1020, 1030, 1040)에서 오브젝트(1050)가 감지되는 경우, 제어부(180)는 오브젝트 검출 정보를 기초로 오버랩 영역을 처리하여 영상을 합성한다. 구체적으로, 복수의 영상의 오버랩 영역에서, 오브젝트가 검출되는 경우, 제어부(180)는 복수의 영상에서의 상기 오브젝트의 이동 속도, 이동 방향 또는 크기를 비교한다. 이후에, 제어부(180)는 비교 결과를 기초로 복수의 영상 중 어느 영상의 신뢰도가 더 높은지 판단한다. 제어부(180)는 신뢰도를 기초로 오버랩 영역을 처리한다. 예를 들면, 제어부(180)는 복수의 영상 중 신뢰도가 더 높은 영상만으로 오버랩 영역을 처리한다.Referring to FIG. 10, when an
도 11은 본 발명의 실시예에 따라, 오버랩 영역에서 오브젝트가 검출되는 경우, 신뢰도를 부여하는 동작을 설명하는데 참조되는 도면이다.Fig. 11 is a diagram referred to explain an operation of assigning reliability when an object is detected in an overlap region, according to an embodiment of the present invention. Fig.
도 11을 참조하면, 제1 및 제2 영상의 오버랩 영역에서, 오브젝트가 검출되는 경우, 제어부(180)는 제1 및 제2 영상에서의 오브젝트의 이동 속도, 이동 방향 또는 크기를 비교한다. 제어부(180)는 비교 결과를 기초로 제1 및 제2 영상 중 어느 영상의 신뢰도가 더 높은지 판단한다. 제어부(180)는 신뢰도를 기초로 오버랩 영역을 처리한다. 제어부(180)는 제1 및 제2 영상 중 신뢰도가 더 높은 영상만으로 오버랩 영역을 처리한다.Referring to FIG. 11, when an object is detected in the overlap region of the first and second images, the
제1 영상 및 제2 영상의 오버랩 영역에서, 오브젝트(1110, 1120)가 검출된 경우, 제어부(180)는 오브젝트(1110, 1120)의 이동 속도를 기초로 신뢰도를 판단할 수 있다. 도 11의 (a)에 도시된 바와 같이, 제1 영상에서의 오브젝트(1110) 이동 속도가 제2 영상에서의 오브젝트(1120) 이동 속도보다 큰 경우, 제어부(180)는 제1 영상만으로 오버랩 영역을 처리할 수 있다. 여기서, 이동 속도는 영상에서의 오브젝트의 단위 시간당 픽셀의 이동량으로 판단될 수 있다.When the
제1 영상 및 제2 영상의 오버랩 영역에서, 오브젝트(1130, 1140)가 검출된 경우, 제어부(180)는 오브젝트(1130, 1140)의 이동 방향을 기초로 신뢰도를 판단할 수 있다. 도 11의 (b)에 도시된 바와 같이, 제1 영상에서 오브젝트(1130)는 가로 방향으로 이동하고, 제2 영상에서 오브젝트(1140)는 세로 방향으로 이동하는 경우, 제어부(180)는 제1 영상만으로 오버랩 영역을 처리할 수 있다. 세로 방향 움직임의 경우, 실제 오브젝트는, 차량으로 접근하는 것으로, 오브젝트의 크기만 커지므로, 오브젝트 검출 및 트래킹을 판단할때 가로 방향 움직임에 비해 불리하기 때문이다.When the
제1 영상 및 제2 영상의 오버랩 영역에서, 오브젝트(1150, 1160)가 검출되는 경우, 제어부(180)는 오브젝트(1150, 1160)의 크기를 기초로 신뢰도를 판단할 수 있다. 도 11의 (c)에 도시된 바와 같이, 제1 영상에서의 오브젝트(1150)의 크기가 제2 영상에서의 오브젝트(1160) 크기보다 큰 경우, 제어부(180)는 제1 영상만으로 오버랩 영역을 처리할 수 있다. 오브젝트의 크기는 영상에서 오브젝트가 찾하는 픽셀의 수를 기초로 판단할 수 있다. 또는, 오브젝트의 크기는 오브젝트를 둘러싼 사각형의 크기를 기초로 판단할 수 있다.When the
이상에서는 본 발명의 바람직한 실시예에 대하여 도시하고 설명하였지만, 본 발명은 상술한 특정의 실시예에 한정되지 아니하며, 특허청구범위에서 청구하는 본 발명의 요지를 벗어남이 없이 당해 발명이 속하는 기술분야에서 통상의 지식을 가진 자에 의해 다양한 변형실시가 가능한 것은 물론이고, 이러한 변형실시들은 본 발명의 기술적 사상이나 전망으로부터 개별적으로 이해되어서는 안될 것이다.While the present invention has been particularly shown and described with reference to exemplary embodiments thereof, it is to be understood that the invention is not limited to the disclosed exemplary embodiments, but, on the contrary, It should be understood that various modifications may be made by those skilled in the art without departing from the spirit and scope of the present invention.
10 : 차량
110 : 카메라
120 : 제1 입력부
130 : 알람부
140 : 제1 통신부
160 : 제1 메모리
180 : 제어부
200 : 디스플레이 장치
220 : 제2 입력부
240 : 제2 통신부
250: 디스플레이부
255 : 음향 출력부
260 : 제2 메모리
280 : 프로세서10: Vehicle
110: camera
120: first input unit
130:
140: first communication section
160: first memory
180:
200: display device
220: second input section
240: second communication section
250:
255:
260: second memory
280: Processor
Claims (14)
상기 복수의 카메라로부터, 차량 주변 관련 복수의 영상을 수신하고, 상기 복수의 영상 중 적어도 하나에 오브젝트가 검출되는지 판단하고, 상기 오브젝트가 상기 복수의 영상의 오버랩 영역중 적어도 어느 하나에 위치하는지 판단하여,
상기 오브젝트가 오버랩 영역에 위치하는 경우, 상기 오브젝트 검출 정보를 기초로 상기 오버랩 영역을 처리하고,
상기 오브젝트가 검출되지 않거나, 상기 오브젝트가 오버랩 영역에 위치하지 않는 경우, 기 설정된 비율에 따라 상기 오버랩 영역을 블렌딩 처리하는 제어부;를 포함하는 차량.A plurality of cameras; And
A plurality of images related to the surroundings of the vehicle are received from the plurality of cameras, and it is determined whether or not an object is detected in at least one of the plurality of images, and it is determined whether the object is located in at least one of overlapping regions of the plurality of images ,
Processing the overlap area based on the object detection information when the object is located in the overlap area,
And a controller for blending the overlap region according to a predetermined ratio when the object is not detected or the object is not located in the overlap region.
상기 복수의 카메라는, 제1 영상을 획득하는 제1 카메라, 제2 영상을 획득하는 제2 카메라, 제3 영상을 획득하는 제3 카메라 및 제4 영상을 획득하는 제4 카메라를 포함하는 차량.The method according to claim 1,
The plurality of cameras include a first camera for acquiring a first image, a second camera for acquiring a second image, a third camera acquiring a third image, and a fourth camera acquiring a fourth image.
상기 제어부는,
상기 복수의 영상의 오버랩 영역에서 상기 오브젝트가 검출되는 경우, 상기 복수의 영상에서의 상기 오브젝트의 이동 속도, 이동 방향 또는 크기를 비교하여, 상기 복수의 영상중 어느 영상의 신뢰도가 더 높은지 판단하고, 상기 신뢰도를 기초로 상기 오버랩 영역을 처리하는 차량.3. The method of claim 2,
Wherein,
Comparing the moving speed, the moving direction, or the size of the object in the plurality of images when the object is detected in the overlap region of the plurality of images, determining which one of the plurality of images is more reliable, And processing the overlap region based on the reliability.
상기 제어부는,
상기 복수의 영상 중 상기 신뢰도가 더 높은 영상만으로 상기 오버랩 영역을 처리하는 차량.The method of claim 3,
Wherein,
And processes the overlap region with only the image having the higher reliability among the plurality of images.
상기 제어부는,
상기 이동 속도를 기초로 신뢰도를 판단하는 경우, 상기 복수의 영상에서, 상기 오브젝트의 단위 시간당 픽셀 이동량이 더 큰 영상에 더 높은 신뢰도를 부여하는 차량.5. The method of claim 4,
Wherein,
And when the reliability is determined on the basis of the moving speed, a higher reliability is given to the image in which the pixel shift amount per unit time of the object is larger in the plurality of images.
상기 제어부는,
상기 이동 방향을 기초로 신뢰도를 판단하는 경우, 상기 복수의 영상에서, 가로방향의 움직임이 더 큰 영상에 더 높은 신뢰도를 부여하는 차량.5. The method of claim 4,
Wherein,
And when the reliability is determined based on the moving direction, a higher reliability is given to the image in which the motion in the horizontal direction is larger in the plurality of images.
상기 제어부는,
상기 크기를 기초로 신뢰도를 판단하는 경우, 상기 복수의 영상에서, 상기 오브젝트가 차지하는 픽셀 수가 더 많은 영상에 더 높은 신뢰도를 부여하는 차량.5. The method of claim 4,
Wherein,
And when reliability is judged on the basis of the size, a higher reliability is given to an image in which the number of pixels occupied by the object is larger in the plurality of images.
상기 복수의 영상 중 적어도 하나에 오브젝트가 검출되는지 판단하는 단계;
상기 오브젝트가 상기 복수의 영상의 오버랩 영역중 적어도 어느 하나에 위치하는지 판단하는 단계;
상기 오브젝트가 오버랩 영역에 위치하는 경우, 상기 오브젝트 검출 정보를 기초로 상기 오버랩 영역을 처리하는 단계; 및
상기 오브젝트가 검출되지 않거나, 상기 오브젝트가 오버랩 영역에 위치하지 않는 경우, 기 설정된 비율에 따라 상기 오버랩 영역을 블렌딩 처리하는 단계;를 포함하는 차량의 제어 방법.Receiving a plurality of images related to the surroundings of the vehicle from a plurality of cameras, respectively;
Determining whether an object is detected in at least one of the plurality of images;
Determining whether the object is located in at least one of overlapping regions of the plurality of images;
Processing the overlap region based on the object detection information when the object is located in the overlap region; And
And blending the overlap region according to a predetermined ratio when the object is not detected or the object is not located in the overlap region.
상기 복수의 카메라는, 제1 영상을 획득하는 제1 카메라, 제2 영상을 획득하는 제2 카메라, 제3 영상을 획득하는 제3 카메라 및 제4 영상을 획득하는 제4 카메라를 포함하는 차량의 제어 방법.9. The method of claim 8,
The plurality of cameras include a first camera for acquiring a first image, a second camera for acquiring a second image, a third camera for acquiring a third image, and a fourth camera for acquiring a fourth image Control method.
상기 오브젝트 검출 정보를 기초로 상기 오버랩 영역을 처리하는 단계는,
상기 복수의 영상의 오버랩 영역에서 상기 오브젝트가 검출되는 경우, 상기 복수의 영상에서의 상기 오브젝트의 이동 속도, 이동 방향 또는 크기를 비교하여, 상기 복수의 영상중 어느 영상의 신뢰도가 더 높은지 판단하고, 상기 신뢰도를 기초로 상기 오버랩 영역을 처리하는 차량의 제어 방법.10. The method of claim 9,
Wherein the step of processing the overlap region based on the object detection information comprises:
Comparing the moving speed, moving direction, or size of the object in the plurality of images when the object is detected in the overlap region of the plurality of images to determine which one of the plurality of images has higher reliability, And processing the overlap region based on the reliability.
상기 오브젝트 검출 정보를 기초로 상기 오버랩 영역을 처리하는 단계는,
상기 복수의 영상 중 상기 신뢰도가 더 높은 영상만으로 상기 오버랩 영역을 처리하는 차량의 제어 방법.11. The method of claim 10,
Wherein the step of processing the overlap region based on the object detection information comprises:
And processing the overlap region only with the image having the higher reliability among the plurality of images.
상기 오브젝트 검출 정보를 기초로 상기 오버랩 영역을 처리하는 단계는,
상기 이동 속도를 기초로 신뢰도를 판단하는 경우, 상기 복수의 영상에서, 상기 오브젝트의 단위 시간당 픽셀 이동량이 더 큰 영상에 더 높은 신뢰도를 부여하는 차량의 제어 방법.12. The method of claim 11,
Wherein the step of processing the overlap region based on the object detection information comprises:
Wherein when reliability is determined based on the moving speed, a higher reliability is given to an image having a larger pixel shift amount per unit time of the object in the plurality of images.
상기 오브젝트 검출 정보를 기초로 상기 오버랩 영역을 처리하는 단계는,
상기 이동 방향을 기초로 신뢰도를 판단하는 경우, 상기 복수의 영상에서, 가로방향의 움직임이 더 큰 영상에 더 높은 신뢰도를 부여하는 차량의 제어 방법.12. The method of claim 11,
Wherein the step of processing the overlap region based on the object detection information comprises:
Wherein when the reliability is determined based on the moving direction, a higher reliability is given to an image in which motion in the horizontal direction is larger in the plurality of images.
상기 오브젝트 검출 정보를 기초로 상기 오버랩 영역을 처리하는 단계는,
상기 크기를 기초로 신뢰도를 판단하는 경우, 상기 복수의 영상에서, 상기 오브젝트가 차지하는 픽셀 수가 더 많은 영상에 더 높은 신뢰도를 부여하는 차량의 제어 방법.12. The method of claim 11,
Wherein the step of processing the overlap region based on the object detection information comprises:
Wherein when the reliability is determined based on the size, a higher reliability is given to an image having a larger number of pixels occupied by the object in the plurality of images.
Priority Applications (2)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
KR1020150008907A KR102300652B1 (en) | 2015-01-19 | 2015-01-19 | vehicle and control method thereof |
US14/938,533 US20160159281A1 (en) | 2014-12-04 | 2015-11-11 | Vehicle and control method thereof |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
KR1020150008907A KR102300652B1 (en) | 2015-01-19 | 2015-01-19 | vehicle and control method thereof |
Publications (2)
Publication Number | Publication Date |
---|---|
KR20160089222A true KR20160089222A (en) | 2016-07-27 |
KR102300652B1 KR102300652B1 (en) | 2021-09-10 |
Family
ID=56617112
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
KR1020150008907A KR102300652B1 (en) | 2014-12-04 | 2015-01-19 | vehicle and control method thereof |
Country Status (1)
Country | Link |
---|---|
KR (1) | KR102300652B1 (en) |
Cited By (2)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
WO2018131949A1 (en) * | 2017-01-13 | 2018-07-19 | 엘지이노텍 주식회사 | Apparatus for providing around view |
US20230215126A1 (en) * | 2018-08-08 | 2023-07-06 | Google Llc | Multi-Angle Object Recognition |
Citations (4)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2002019556A (en) * | 2000-07-04 | 2002-01-23 | Matsushita Electric Ind Co Ltd | Monitoring system |
JP2007038749A (en) * | 2005-08-01 | 2007-02-15 | Nissan Motor Co Ltd | Vehicle periphery monitoring device and vehicle periphery monitoring method |
JP2007235529A (en) * | 2006-03-01 | 2007-09-13 | Nissan Motor Co Ltd | Vehicle surroundings monitoring system and image display method |
JP2009100095A (en) * | 2007-10-15 | 2009-05-07 | Alpine Electronics Inc | Image processing apparatus and image processing method |
-
2015
- 2015-01-19 KR KR1020150008907A patent/KR102300652B1/en active IP Right Grant
Patent Citations (4)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2002019556A (en) * | 2000-07-04 | 2002-01-23 | Matsushita Electric Ind Co Ltd | Monitoring system |
JP2007038749A (en) * | 2005-08-01 | 2007-02-15 | Nissan Motor Co Ltd | Vehicle periphery monitoring device and vehicle periphery monitoring method |
JP2007235529A (en) * | 2006-03-01 | 2007-09-13 | Nissan Motor Co Ltd | Vehicle surroundings monitoring system and image display method |
JP2009100095A (en) * | 2007-10-15 | 2009-05-07 | Alpine Electronics Inc | Image processing apparatus and image processing method |
Cited By (6)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
WO2018131949A1 (en) * | 2017-01-13 | 2018-07-19 | 엘지이노텍 주식회사 | Apparatus for providing around view |
KR20180083762A (en) * | 2017-01-13 | 2018-07-23 | 엘지이노텍 주식회사 | Apparatus of providing an around view, method thereof and vehicle having the same |
US11084423B2 (en) | 2017-01-13 | 2021-08-10 | Lg Innotek Co., Ltd. | Apparatus for providing around view |
US11661005B2 (en) | 2017-01-13 | 2023-05-30 | Lg Innotek Co., Ltd. | Apparatus for providing around view |
US20230215126A1 (en) * | 2018-08-08 | 2023-07-06 | Google Llc | Multi-Angle Object Recognition |
US11961271B2 (en) * | 2018-08-08 | 2024-04-16 | Google Llc | Multi-angle object recognition |
Also Published As
Publication number | Publication date |
---|---|
KR102300652B1 (en) | 2021-09-10 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
JP7245295B2 (en) | METHOD AND DEVICE FOR DISPLAYING SURROUNDING SCENE OF VEHICLE-TOUCHED VEHICLE COMBINATION | |
KR102288950B1 (en) | vehicle and control method thereof | |
JP5858650B2 (en) | Image generation apparatus, image display system, and image generation method | |
US20160159281A1 (en) | Vehicle and control method thereof | |
US11087438B2 (en) | Merging of partial images to form an image of surroundings of a mode of transport | |
JP5300443B2 (en) | Image processing device | |
US20140114534A1 (en) | Dynamic rearview mirror display features | |
WO2011078201A1 (en) | Image processing device, image processing system, and image processing method | |
US10930070B2 (en) | Periphery monitoring device | |
JP2009524171A (en) | How to combine multiple images into a bird's eye view image | |
JP5914114B2 (en) | Parking assistance device and parking assistance method | |
WO2003107273A1 (en) | Drive assisting system | |
JP2012105158A (en) | Combination vehicle birds-eye-view display system | |
JP2006253872A (en) | Apparatus and method for displaying vehicle perimeter image | |
JP2019156298A (en) | Vehicle remote control device and vehicle remote control method | |
JP2020537216A (en) | Image processing method and equipment | |
KR102304391B1 (en) | vehicle and control method thereof | |
JP2004356845A (en) | Apparatus for supervising surrounding of vehicle | |
CN111669543A (en) | Vehicle imaging system and method for parking solutions | |
JP7051369B2 (en) | Image processing device and image processing method | |
KR20160089222A (en) | vehicle and control method thereof | |
JP2019145951A (en) | Vehicle remote control device, vehicle remote control system and vehicle remote control method | |
JP2007025739A (en) | Image display device for vehicle | |
JP5584561B2 (en) | Image processing apparatus, image display system, and image display method | |
KR20180094717A (en) | Driving assistance apparatus using avm |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
A201 | Request for examination | ||
E902 | Notification of reason for refusal | ||
E701 | Decision to grant or registration of patent right |