KR102288950B1 - 차량 및 그 제어 방법 - Google Patents

차량 및 그 제어 방법 Download PDF

Info

Publication number
KR102288950B1
KR102288950B1 KR1020140182929A KR20140182929A KR102288950B1 KR 102288950 B1 KR102288950 B1 KR 102288950B1 KR 1020140182929 A KR1020140182929 A KR 1020140182929A KR 20140182929 A KR20140182929 A KR 20140182929A KR 102288950 B1 KR102288950 B1 KR 102288950B1
Authority
KR
South Korea
Prior art keywords
image
around
controller
images
cameras
Prior art date
Application number
KR1020140182929A
Other languages
English (en)
Other versions
KR20160074107A (ko
Inventor
장민수
이성주
허세영
Original Assignee
현대모비스 주식회사
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by 현대모비스 주식회사 filed Critical 현대모비스 주식회사
Priority to KR1020140182929A priority Critical patent/KR102288950B1/ko
Priority to US14/938,533 priority patent/US20160159281A1/en
Publication of KR20160074107A publication Critical patent/KR20160074107A/ko
Application granted granted Critical
Publication of KR102288950B1 publication Critical patent/KR102288950B1/ko

Links

Images

Classifications

    • B—PERFORMING OPERATIONS; TRANSPORTING
    • B60—VEHICLES IN GENERAL
    • B60W—CONJOINT CONTROL OF VEHICLE SUB-UNITS OF DIFFERENT TYPE OR DIFFERENT FUNCTION; CONTROL SYSTEMS SPECIALLY ADAPTED FOR HYBRID VEHICLES; ROAD VEHICLE DRIVE CONTROL SYSTEMS FOR PURPOSES NOT RELATED TO THE CONTROL OF A PARTICULAR SUB-UNIT
    • B60W50/00—Details of control systems for road vehicle drive control not related to the control of a particular sub-unit, e.g. process diagnostic or vehicle driver interfaces
    • B60W50/08—Interaction between the driver and the control system
    • B60W50/14—Means for informing the driver, warning the driver or prompting a driver intervention
    • B—PERFORMING OPERATIONS; TRANSPORTING
    • B60—VEHICLES IN GENERAL
    • B60W—CONJOINT CONTROL OF VEHICLE SUB-UNITS OF DIFFERENT TYPE OR DIFFERENT FUNCTION; CONTROL SYSTEMS SPECIALLY ADAPTED FOR HYBRID VEHICLES; ROAD VEHICLE DRIVE CONTROL SYSTEMS FOR PURPOSES NOT RELATED TO THE CONTROL OF A PARTICULAR SUB-UNIT
    • B60W40/00—Estimation or calculation of non-directly measurable driving parameters for road vehicle drive control systems not related to the control of a particular sub unit, e.g. by using mathematical models
    • B60W40/02—Estimation or calculation of non-directly measurable driving parameters for road vehicle drive control systems not related to the control of a particular sub unit, e.g. by using mathematical models related to ambient conditions
    • B—PERFORMING OPERATIONS; TRANSPORTING
    • B60—VEHICLES IN GENERAL
    • B60W—CONJOINT CONTROL OF VEHICLE SUB-UNITS OF DIFFERENT TYPE OR DIFFERENT FUNCTION; CONTROL SYSTEMS SPECIALLY ADAPTED FOR HYBRID VEHICLES; ROAD VEHICLE DRIVE CONTROL SYSTEMS FOR PURPOSES NOT RELATED TO THE CONTROL OF A PARTICULAR SUB-UNIT
    • B60W50/00—Details of control systems for road vehicle drive control not related to the control of a particular sub-unit, e.g. process diagnostic or vehicle driver interfaces
    • B60W50/08—Interaction between the driver and the control system
    • B60W50/14—Means for informing the driver, warning the driver or prompting a driver intervention
    • B60W2050/143—Alarm means

Abstract

본 발명은 복수의 카메라, 상기 복수의 카메라로부터 수신된 복수의 영상을 합성하고, 상기 합성된 영상을 탑뷰 영상(top view image)으로 전환하여 어라운드 뷰 영상을 제공하고, 상기 복수의 영상 또는 상기 어라운드 뷰 영상에서 오브젝트를 검출하는 제어부, 상기 검출된 오브젝트의 위치에 기초하여, 단계별 알람을 출력하는 알람부 및 상기 어라운드 뷰 영상을 표시하는 디스플레이 장치;를 포함하는 차량에관한 것이다.

Description

차량 및 그 제어 방법{vehicle and control method thereof}
본 발명은 차량 주변의 영상을 표시하는 AVM(Around View Monitoring) 장치를 구비하는 차량에 관한 것이다.
최근에는 차량의 고급화 및 다기능화에 따라, 차량에 어라운드 뷰 모니터링(이하, AVM, Around View Monitoring) 시스템이 탑재되고 있다.
AVM 장치는 차량의 사방에 장착된 카메라를 통해 차량 주변의 영상을 획득하고, 차량의 주차시, 운전자가 힘들게 뒤를 돌아보거나 주위를 살피지 않고도 실내에 장착된 표시장치를 통해 차량의 주변을 확인할 수 있는 시스템이다. 또한, 어라운드 뷰 모니터링 시스템은 상기 주변의 영상을 합성하여 마치 차량의 위에서 보는 것과 같은 어라운드 뷰(around view)를 제공하기도 한다. 이러한 어라운드 뷰 모니터링 시스템을 이용하여, 운전자는 차량 주변의 상황을 한 눈에 파악하고 안전하게 주차를 하거나, 좁은 길을 지날 수 있다.
한편, AVM 장치는 주차 보조 장치로 활용되나, 복수의 카메라를 통해 획득되는 영상에 기초하여, 오브젝트 검출 또한 가능하다. AVM 장치에 구비된 복수의 카메라를 통해 오브젝트를 검출하는 동작에 대한 연구가 필요하다.
AVM 시스템에 관한 선행 문헌 : 공개번호 10-2013-0028230
본 발명은 상기한 문제점을 해결하기 위하여, 복수의 카메라로부터 수신된 영상에서 오브젝트 검출을 수행하는 차량을 제공하는데 목적이 있다.
본 발명의 과제들은 이상에서 언급한 과제들로 제한되지 않으며, 언급되지 않은 또 다른 과제들은 아래의 기재로부터 당업자에게 명확하게 이해될 수 있을 것이다.
상기 과제를 달성하기 위하여, 본 발명의 실시예에 따른 차량은, 복수의 카메라, 상기 복수의 카메라로부터 수신된 복수의 영상을 합성하고, 상기 합성된 영상을 탑뷰 영상(top view image)으로 전환하여 어라운드 뷰 영상을 제공하고, 상기 복수의 영상 또는 상기 어라운드 뷰 영상에서 오브젝트를 검출하는 제어부 및 상기 검출된 오브젝트의 위치에 기초하여, 단계별 알람을 출력하는 알람부 및 상기 어라운드 뷰 영상을 표시하는 디스플레이 장치를 포함한다.
한편, 본 발명의 실시예에 따른 차량에 포함되는 상기 제어부는, 상기 복수의 영상 또는 상기 어라운드 뷰 영상을 복수의 영역으로 나누고, 상기 알람부는, 상기 복수의 영역에서, 상기 검출된 오브젝트가 어느 영역에 위치하는지에 기초하여, 단계별 알람을 출력할 수 있다.
한편, 본 발명의 실시예에 따른 차량에 포함되는 상기 제어부는, 상기 검출된 오브젝트를 트래킹할 수 있다.
한편, 본 발명의 실시예에 따른 차량에 포함되는 상기 복수의 카메라는 제1 및 제2 카메라를 포함하고, 상기 제1 카메라를 통해 획득된 제1 영상에 대응되는 영역에서, 상기 제2 카메라를 통해 획득된 제2 영상에 대응되는 영역으로 상기 검출된 오브젝트의 이동이 감지되는 경우, 상기 제어부는, 상기 제2 영상에서 상기 오브젝트를 검출하기 위한 관심 영역을 설정할 수 있다.
한편, 본 발명의 실시예에 따른 차량에 포함되는 상기 제어부는, 상기 설정된 관심 영역에서 오브젝트 검출을 최우선으로 수행할 수 있다.
한편, 본 발명의 실시예에 따른 차량에 포함되는 상기 제어부는, 상기 검출된 오브젝트에 대응하는 이미지를, 상기 디스플레이 장치에 표시할 수 있다.
한편, 본 발명의 실시예에 따른 차량에 포함되는 상기 제어부는, 상기 표시된 오브젝트에 대한 터치 입력을 수신하는 경우, 상기 복수의 카메라 중에서 오브젝트를 검출한 카메라에서 획득한 원 영상을 상기 디스플레이 장치에 표시할 수 있다.
한편, 본 발명의 실시예에 따른 차량에 포함되는 상기 제어부는, 상기 트래킹되는 오브젝트에 대응하는 이미지를, 상기 디스플레이 장치에 표시할 수 있다.
기타 실시예들의 구체적인 사항들은 상세한 설명 및 도면들에 포함되어 있다.
본 발명의 실시예에 따르면 다음과 같은 효과가 하나 혹은 그 이상 있다.
본 발명의 실시예에 따른 차량은, 획득되는 영상에서, 오브젝트를 검출하고, 검출되는 오브젝트를 추적하여, 사고를 미연에 방지할 수 있는 효과가 있다.
단계별, 알람을 출력하여, 탑승자가 현재 처한 상황이 어느 정도인지 인지할 수 있도록 하는 효과가 있다.
본 발명의 효과들은 이상에서 언급한 효과들로 제한되지 않으며, 언급되지 않은 또 다른 효과들은 청구범위의 기재로부터 당업자에게 명확하게 이해될 수 있을 것이다.
도 1은 본 발명의 일 실시예에 따른 복수의 카메라를 구비하는 차량의 외관을 도시한 도면이다.
도 2는 도 1의 차량에 부착되는 복수의 카메라의 위치를 개략적으로 도시한 도면이다.
도 3은 도 2의 복수의 카메라에 촬영된 이미지에 기반한 어라운드 뷰 이미지를 예시한다.
도 4는 본 발명의 실시예에 따른 차량의 블럭도이다.
도 5는 본 발명의 실시예에 따른 디스플레이 장치의 블럭도이다.
도 6a는 본 발명의 제1 실시예에 따른 제어부의 상세 블럭도이다.
도 6b는 본 발명의 제1 실시예에 따른 차량의 동작을 설명하는 플로우차트이다.
도 7a는 본 발명의 제2 실시예에 따른 제어부 및 프로세서의 상세 블럭도이다.
도 7b는 본 발명의 제2 실시예에 따른 차량의 동작을 설명하는 플로우차트이다.
도 8 은 본 발명의 실시예에 따라, 영상을 복수의 영역으로 구분하고, 복수의 영역에서 검출되는 오브젝트를 설명하는데 참조되는 개념도이다.
도 9는 본 발명의 실시예에 따라, 오브젝트 트래킹에 따른 동작을 설명하는데 참조되는 개념도이다.
도 10은 본 발명의 실시예에 따라 디스플레이 장치에 표시된 어라운드 뷰 이미지를 설명하는데 참조되는 예시도이다.
이하, 첨부된 도면을 참조하여 본 명세서에 개시된 실시 예를 상세히 설명하되, 도면 부호에 관계없이 동일하거나 유사한 구성요소는 동일한 참조 번호를 부여하고 이에 대한 중복되는 설명은 생략하기로 한다. 이하의 설명에서 사용되는 구성요소에 대한 접미사 "모듈" 및 "부"는 명세서 작성의 용이함만이 고려되어 부여되거나 혼용되는 것으로서, 그 자체로 서로 구별되는 의미 또는 역할을 갖는 것은 아니다. 또한, 본 명세서에 개시된 실시 예를 설명함에 있어서 관련된 공지 기술에 대한 구체적인 설명이 본 명세서에 개시된 실시 예의 요지를 흐릴 수 있다고 판단되는 경우 그 상세한 설명을 생략한다. 또한, 첨부된 도면은 본 명세서에 개시된 실시 예를 쉽게 이해할 수 있도록 하기 위한 것일 뿐, 첨부된 도면에 의해 본 명세서에 개시된 기술적 사상이 제한되지 않으며, 본 발명의 사상 및 기술 범위에 포함되는 모든 변경, 균등물 내지 대체물을 포함하는 것으로 이해되어야 한다.
제1, 제2 등과 같이 서수를 포함하는 용어는 다양한 구성요소들을 설명하는데 사용될 수 있지만, 상기 구성요소들은 상기 용어들에 의해 한정되지는 않는다. 상기 용어들은 하나의 구성요소를 다른 구성요소로부터 구별하는 목적으로만 사용된다.
어떤 구성요소가 다른 구성요소에 "연결되어" 있다거나 "접속되어" 있다고 언급된 때에는, 그 다른 구성요소에 직접적으로 연결되어 있거나 또는 접속되어 있을 수도 있지만, 중간에 다른 구성요소가 존재할 수도 있다고 이해되어야 할 것이다. 반면에, 어떤 구성요소가 다른 구성요소에 "직접 연결되어" 있다거나 "직접 접속되어" 있다고 언급된 때에는, 중간에 다른 구성요소가 존재하지 않는 것으로 이해되어야 할 것이다.
단수의 표현은 문맥상 명백하게 다르게 뜻하지 않는 한, 복수의 표현을 포함한다.
본 출원에서, "포함한다" 또는 "가지다" 등의 용어는 명세서상에 기재된 특징, 숫자, 단계, 동작, 구성요소, 부품 또는 이들을 조합한 것이 존재함을 지정하려는 것이지, 하나 또는 그 이상의 다른 특징들이나 숫자, 단계, 동작, 구성요소, 부품 또는 이들을 조합한 것들의 존재 또는 부가 가능성을 미리 배제하지 않는 것으로 이해되어야 한다.
본 명세서에서 기술되는 차량은, 동력원으로서 엔진을 구비하는 내연기관 차량, 동력원으로서 엔진과 전기 모터를 구비하는 하이브리드 차량, 동력원으로서 전기 모터를 구비하는 전기 차량 등을 모두 포함하는 개념일 수 있다.
이하의 설명에서 차량의 좌측은 차량의 주행 방향의 좌측, 즉, 운전석측을 의미하고, 차량의 우측은 차량의 주행 방향의 우측, 즉, 보조석측을 의미한다.
한편, 본 명세서에서 기술되는 AVM 장치는, 복수의 카메라를 구비하고, 복수의 카메라에서 촬영된 복수의 이미지를 조합하여, 어라운드 뷰 이미지를 제공하는 장치일 수 있다. 특히, 차량을 기준으로 한 탑 뷰(top view) 또는 버드 아이 뷰(bird eye view)를 제공하는 장치일 수 있다. 이하에서는 본 발명의 다양한 실시예에 따른 차량의 AVM 장치 및 이를 구비하는 차량에 대해 기술한다.
한편, 본 명세서에서, 데이터의 교환은 차량 통신 망을 통해 이루어질 수 있다. 여기서, 차량 통신 망은 CAN이 바람직하다. 실시예에 따라, 차량 통신 망은 이더넷 프로토콜을 이용하여 구축될 수 있다.
도 1은 본 발명의 일 실시예에 따른 복수의 카메라를 구비하는 차량의 외관을 도시한 도면이다.
도 1을 참조하면, 차량(10)은, 동력원에 의해 회전하는 바퀴(20FR,20FL,20RL,..), 차량(10)의 진행 방향을 조절하기 위한 스티어링 휠(30), 및 차량(10)에 장착되는 복수의 카메라(110a,110b,110c,110d)를 구비할 수 있다. 한편, 도면에서는, 편의상 좌측 카메라(110a)와, 전방 카메라(110d)만 도시된다.
복수의 카메라(110a,110b,110c,110d)는, 차량의 속도가 소정 속도 이하인 경우, 또는 차량이 추진하는 경우, 활성화되어, 각각 촬영 이미지를 획득할 수 있다. 복수의 카메라에 의해 획득되는, 이미지는, 제어부(도 4의 180) 또는 프로세서(도 5의 280) 내에서 신호 처리될 수 있다.
도 2는 도 1의 차량에 부착되는 복수의 카메라의 위치를 개략적으로 도시한 도면이고, 도 3은 도 2의 복수의 카메라에 촬영된 이미지에 기반한 어라운드 뷰 이미지를 예시한다.
도 3는 도 2의 복수의 카메라에 촬영된 이미지에 기반한 어라운드 뷰 이미지를 예시한다.
먼저, 도 2를 참조하면, 복수의 카메라(110a,110b,110c,110d)는, 각각 차량의 좌측, 후방, 우측, 및 전방에 배치될 수 있다.
특히, 좌측 카메라(110a)와 우측 카메라(110c)는, 각각 좌측 사이드 미러를 둘러싸는 케이스와 우측 사이드 미러를 둘러싸는 케이스 내에 배치될 수 있다.
한편, 후방 카메라(110b)와 전방 카메라(110d)는, 각각 트렁크 스위치 부근 및 앰블럼 또는 앰블럼 부근에 배치될 수 있다.
복수의 카메라(110a,110b,110c,110d)에서 촬영된 각각의 복수의 이미지는, 차량(10) 내의 제어부(도 4의 180) 등에 전달되고, 제어부(도 4의 180)는, 복수의 이미지를 조합하여, 어라운드 뷰 이미지를 생성한다.
도 3은 어라운드뷰 이미지(810)의 일예를 예시한다. 어라운드뷰 이미지(810)는, 좌측 카메라로부터(110a)의 제1 이미지 영역(110ai), 후방 카메라(110b)로부터의 제2 이미지 영역(110bi), 우측 카메라(110c)로부터의 제3 이미지 영역(110ci), 전방 카메라(110d)로부터의 제4 이미지 영역(110di)를 포함할 수 있다.
한편, 복수의 카메라로부터, 어라운드 뷰 이미지 생성시, 각 이미지 영역 사이의 경계 부분이 발생한다. 이러한 경계 부분은 이미지 블렌딩(blending) 처리하여 자연스럽게 표시될 수 있도록한다.
한편, 복수의 영상 각각의 경계에는 경계선(111a, 111b, 111c, 111d)이 표시될 수 있다.
도 4는 본 발명의 실시예에 따른 차량의 블럭도이다.
도 4를 참조하면, 차량(10)은 복수의 카메라(110a, 110b, 110c, 110d), 제1 입력부(120), 알람부(130), 제1 통신부(140), 디스플레이 장치(200), 제1 메모리(160) 및 제어부(180)를 포함할 수 있다.
복수의 카메라는 제1 내지 제4 카메라(110a, 110b, 110c, 110d)를 포함할 수 있다. 제1 카메라(110a)는 차량 좌측방 주변 영상을 획득한다. 제2 카메라(110b)는 차량 후방 주변 영상을 획득한다. 제3 카메라(110c)는 차량 우측방 주변 영상을 획득한다. 제4 카메라(110d)는 차량 전방 주변 영상을 획득한다.
제1 내지 제4 카메라(110a, 110b, 110c, 110d)에서 각각 획득한 복수의 영상들은 제어부(180)에 전달된다.
한편, 제1 내지 제4 카메라(110a, 110b, 110c, 110d)는 각각 렌즈 및 이미지 센서(예를 들면, CCD 또는 CMOS)를 포함한다. 여기서, 상기 렌즈는, 광각이 180°이상인 어안 렌즈인 것이 바람직하다.
제1 입력부(120)는 사용자 입력을 수신할 수 있다. 제1 입력부(120)는 터치 패드, 물리적 버튼, 다이얼, 슬라이더 스위치, 클릭 휠 등, 외부로부터 입력을 받아들일 수 있는 수단을 포함할 수 있다. 제1 입력부(120)를 통해 수신되는 사용자 입력은 제어부(180)로 전달된다.
알람부(130)는 제어부(180)에서 처리된 정보에 따라 알람을 출력한다. 알람부(130)는 음향 출력부 및 디스플레이를 포함할 수 있다. 음향 출력부는 제어부(180)의 제어에 따라, 오디오 데이터를 출력할 수 있다. 이러한 음향 출력부에는 리시버(receiver), 스피커(speaker), 버저(buzzer) 등이 포함될 수 있다. 디스플레이는 제어부(180)의 제어에 따라, 알람 정보를 화면으로 표시한다.
한편, 알람부(130)는 검출된 오브젝트의 위치에 기초하여, 단계별 알람을 출력할 수 있다. 예를 들면, 제1 영역에 오브젝트가 위치하는 경우, 알람부(130)는 제1 음향을 출력할 수 있다. 또한, 제2 영역에 오브젝트가 위치하는 경우, 알람부(130)는 제2 음향을 출력할 수 있다. 또한, 제3 영역에 오브젝트가 위치하는 경우, 알람부(130)는 제3 음향을 출력할 수 있다.
한편, 알람부(130)에 포함되는 디스플레이는, 차량 내부 전면의 클러스터(cluster) 또는 HUD(Head Up Display)를 포함하는 개념일 수 있다.
제1 통신부(140)는 외부 전자기기와 통신을 수행한다. 제1 통신부(140)는 외부 서버, 주변 차량, 외부 기지국 등과 데이터를 교환할 수 있다. 제1 통신부(140)는 외부 전자기기와 통신을 가능하게 하는 통신 모듈을 포함할 수 있으며, 여기서, 통신 모듈은 공지의 기술을 이용할 수 있다.
한편, 제1 통신부(140)는 근거리 통신 모듈을 포함할 수 있으며, 근거리 통신 모듈을 통해, 탑승자의 휴대 단말기 등과 데이터를 교환할 수도 있다. 제1 통신부(140)는 어라운드 뷰 화면을 탑승자의 휴대 단말기에 전송할 수 있다. 또한, 제1 통신부(140)는 휴대 단말기로부터 수신되는 제어 명령을 제어부(180)에 전달 할 수 있다. 한편, 제1 통신부(140)는 오브젝트 검출에 따른 정보를 휴대 단말기로 전송할 수도 있다. 이경우, 휴대 단말기는 진동, 음향 출력등을 통해, 오브젝트 검출을 알리는 알람을 출력할 수 있다.
디스플레이 장치(200)는 압축된 영상을 해제하여 어라운드 뷰 이미지를 표시한다. 디스플레이 장치(200)는 AVN(Audio Video Navigation)일 수 있다. 디스플레이 장치(200)에 대한 구성은 도 5를 참조하여 상세하게 설명한다.
제1 메모리(160)는 차량(10)의 다양한 기능을 지원하는 데이터를 저장한다. 제1 메모리(160)는 차량(10)에서 구동되는 다수의 응용 프로그램, 차량(10)의 동작을 위한 데이터들, 명령어들을 저장할 수 있다.
제1 메모리(160)는 고속 랜덤 액세스 메모리를 포함할 수 있다. 제1 메모리(160)는 하나 이상의 자기 디스크 저장 장치, 플래시 메모리 장치, 또는 기타 비휘발성 고상 메모리 장치 등의 비휘발성 메모리도 포함할 수 있으나, 이에 한정하지 아니하고, 판독 가능한 저장매체를 포함할 수 있다.
예를 들어, 제1 메모리(160)는 EEP-ROM(Electronically Erasable and Programmable Read Only Memory)을 포함할 수 있으나, 이에 한정하지 아니한다. EEP-ROM 은 제어부(180)의 동작 중, 제어부(180)에 의해 정보의 기입 및 소거가 행해질 수 있다. EEP-ROM은 제어장치의 전원이 오프되어 전력 공급이 정지되어도, 내부에 기억되어 있는 정보가 소거되지 않고 유지되는 기억 디바이스일 수 있다.
한편, 제1 메모리(160)는 복수의 카메라(110a, 110b, 110c, 110d)로부터 획득되는 영상을 저장할 수 있다. 예를 들어, 차량(10)의 충돌이 감지되는 경우, 복수의 카메라(110a, 110b, 110c, 110d)로부터 획득되는 영상을 저장할 수 있다.
제어부(180)는, 차량(10) 내의 각 유닛의 전반적인 동작을 제어한다. 제어부(180)는 차량(10) 제어를 위해 다양한 기능들을 수행하고, 데이터를 처리하기 위해 제1 메모리(160) 내에 저장된 다양한 소프트웨어 프로그램들 및/또는 명령어들의 집합들을 실행 또는 수행할 수 있다. 제어부(180)는 제1 메모리(160)에 저장된 정보에 기반하여 신호를 처리할 수 있다.
제어부(180)는 복수의 카메라(110a, 110b, 110c, 110d)로부터 수신되는 영상에 전처리를 수행한다. 제어부(180)는 각종 필터 또는 히스토그램 이쿼라이제이션(Histogram Equalization) 등을 이용하여 영상의 노이즈를 제거한다. 한편, 이러한 영상의 전처리는 반드시 필요한 절차는 아니며, 영상의 상태나 영상 처리 목적에 따라 생략될 수도 있다.
제어부(180)는, 전처리된 복수의 영상을 기초로 어라운드 뷰 영상을 생성한다. 여기서, 어라운드 뷰 영상은 탑뷰 영상일 수 있다. 제어부(180)에서 전처리된 복수의 영상을 합성하여, 어라운드 뷰 영상으로 전환한다. 실시예에 따라, 제어부(180)는, 전처리 과정을 거치지 않은 복수의 영상을 합성하여, 어라운드 뷰 영상으로 전환할 수도 있다. 예를 들면, 제어부(180)는 룩업테이블(LUT, Look Up Table)을 이용하여 복수의 영상을 합성하여, 어라운드 뷰 영상으로 전환할 수 있다. 룩업테이블은 합성 영상의 한 픽셀이 4개의 원래의 영상의 어떤 픽셀과 대응되는지 관계를 저장한 테이블이다.
예를 들면, 제어부(180)는, 좌측 카메라로부터(110a)의 제1 이미지, 후방 카메라(110b)로부터의 제2 이미지, 우측 카메라(110c)로부터의 제3 이미지, 전방 카메라(110d)로부터의 제4 이미지를 기초로 어라운드 뷰 영상을 생성한다. 이때, 제어부(180)는 제1 이미지와 제2 이미지 사이에 중복되는 영역, 제2 이미지와 제3 이미지 사이에 중복되는 영역, 제3 이미지와 제4 이미지 사이에 중복되는 영역, 제4 이미지와 제1 이미지 사이에 중복되는 영역을 각각 블렌딩 처리할 수 있다. 제어부(180)는 제1 이미지와 제2이미지 사이의 경계, 제2 이미지와 제3 이미지 사이의 경계, 제3 이미지와 제4 이미지 사이의 경계, 제4 이미지와 제1 이미지 사이의 경계 각각에 경계선을 생성할 수 있다.
제어부(180)는, 어라운드 뷰 영상에 가상의 차량 이미지를 오버레이(overlay)한다. 즉, 어라운드 뷰 영상은 차량(10)에 장착된 복수의 카메라를 통해, 획득된 차량 주변 영상에 기초하여 생성되었기 때문에, 차량(10)이미지를 포함하지는 않는다. 제어부(180)를 통해, 가상의 차량 이미지를 제공함으로써, 탑승자가 어라운드 뷰 영상을 직관적으로 인지할 수 있게 한다.
제어부(180)는, 어라운드 뷰 영상을 기초로, 오브젝트를 검출할 수 있다. 여기서 오브젝트는, 보행자, 장애물, 주변 차량 등을 포함하는 개념일 수 있다. 제어부(180)는 디스플레이 장치(200)에 표시되는 영상을 포함하여, 원 영상 전체를 바탕으로, 오브젝트 검출을 수행할 수 있다.
제어부(180)는, 검출된 오브젝트와 제1 메모리(160)에 저장된 오브젝트를 비교하여, 오브젝트를 분류하고, 확인한다.
제어부(180)는 검출된 오브젝트를 트래킹한다. 예를 들어, 제어부(180)는, 순차적으로, 획득되는 이미지들에 내의, 오브젝트를 확인하고, 확인된 오브젝트의 움직임 또는 움직임 벡터를 연산하며, 연산된 움직임 또는 움직임 벡터에 기초하여, 해당 오브젝트의 이동 등을 트래킹할 수 있다.
제어부(180)는, 어라운드 뷰 이미지 기초로, 각종 어플리케이션을 수행한다. 예를 들면, 제어부(180)는 어라운드 뷰 이미지 기초로, 오브젝트를 검출할 수 있다. 또는, 제어부(180)는 어라운드 뷰 이미지에 가상의 주차선을 생성할 수 있다. 또는 제어부(180)는 어라운드 뷰 이미지를 기초로, 차량의 예측 경로를 제공할 수 있다. 한편, 이러한 어플리케이션 수행은 반드시 필요한 절차는 아니며, 영상의 상태나 영상 처리 목적에 따라 생략될 수도 있다.
제어부(180)는 오브젝트 검출 또는 오브젝트 트래킹에 대응하는 응용 동작을 수행할 수 있다. 예를 들면, 제어부(180)는 복수의 카메라(110a, 110b, 110c, 110d)로부터 수신되는 복수의 영상 또는 어라운드 뷰 영상을 복수의 영역으로 나누고, 오브젝트가 상기 복수의 영상 중 어느 영역에 위치하는지 판단할 수 있다. 예를 들면, 제어부(180)는, 제1 카메라(110a)를 통해 획득된 제1 영상에 대응되는 영역에서, 제2 카메라(110b)를 통해 획득된 제2 영상에 대응되는 영역으로 검출된 오브젝트의 이동이 감지되는 경우, 제2 영상에서 오브젝트를 검출하기 위한 관심 영역을 설정할 수 있다. 여기서, 제어부(180)는 관심 영역에서 오브젝트의 검출을 최우선으로 수행할 수 있다.
한편, 제어부(180)는 검출된 오브젝트에 대응하는 이미지를, 어라운드 뷰 이미지에 오버레이하여 표시할 수 있다. 제어부(180)는 트래킹되는 오브젝트에 대응하는 이미지를 어라운드 뷰 이미지에 오버레이하여 표시할 수 있다.
도 5는 본 발명의 실시예에 따른 디스플레이 장치의 블럭도이다.
도 5를 참조하면, 디스플레이 장치(200)는 제2 입력부(220), 제2 통신부(240), 디스플레이부(250), 음향 출력부(255), 제2 메모리(260) 및 프로세서(280)를 포함할 수 있다.
제2 입력부(220)는, 사용자 입력을 수신할 수 있다. 제2 입력부(220)는 터치 패드, 물리적 버튼, 다이얼, 슬라이더 스위치, 클릭 휠 등, 외부로부터 입력을 받아들일 수 있는 수단을 포함할 수 있다. 제1 입력부(220)를 통해 수신되는 사용자 입력은 제어부(180)로 전달된다.
제2 통신부(240)는, 외부 전자기기와 통신 연결되어, 데이터를 교환할 수 있다. 예를 들면, 제2 통신부(240)는 방송사 서버와 연결되어, 방송 컨텐츠를 수신할 수 있다. 예를 들면, 제2 통신부(240)는 교통 정보 제공 서버와 연결되어 TPEG(Transport Protocol Experts Group) 정보를 수신할 수 있다.
디스플레이부(250)는, 프로세서(270)에서 처리되는 정보를 표시한다. 예를 들어, 디스플레이부(250)는 프로세서(270)에서 구동되는 응용 프로그램의 실행화면 정보, 또는 이러한 실행화면 정보에 따른 UI(User Interface), GUI(Graphic User Interface) 정보를 표시할 수 있다.
한편, 터치 패드가 디스플레이부(250)와 상호 레이어 구조를 이룰 경우, 이를 터치스크린(touch screen)이라 부를 수 있다. 터치스크린은 제2 입력부(220)로서의 기능을 수행할 수 있다.
음향 출력부(255)는, 오디오 데이터를 출력할 수 있다. 이러한 음향 출력부(152)에는 리시버(receiver), 스피커(speaker), 버저(buzzer) 등이 포함될 수 있다.
제2 메모리(260)는, 디스플레이 장치(200)의 다양한 기능을 지원하는 데이터를 저장한다. 제2 메모리(260)는 디스플레이 장치(200)에서 구동되는 다수의 응용 프로그램, 디스플레이 장치(200)의 동작을 위한 데이터들, 명령어들을 저장할 수 있다.
제2 메모리(260)는 고속 랜덤 액세스 메모리를 포함할 수 있다. 제2 메모리(260)는 하나 이상의 자기 디스크 저장 장치, 플래시 메모리 장치, 또는 기타 비휘발성 고상 메모리 장치 등의 비휘발성 메모리도 포함할 수 있으나, 이에 한정하지 아니하고, 판독 가능한 저장매체를 포함할 수 있다.
예를 들어, 제2 메모리(260)는 EEP-ROM(Electronically Erasable and Programmable Read Only Memory)을 포함할 수 있으나, 이에 한정하지 아니한다. EEP-ROM 은 프로세서(280)의 동작 중, 프로세서(280)에 의해 정보의 기입 및 소거가 행해질 수 있다. EEP-ROM은 제어장치의 전원이 오프되어 전력 공급이 정지되어도, 내부에 기억되어 있는 정보가 소거되지 않고 유지되는 기억 디바이스일 수 있다.
프로세서(280)는, 디스플레이 장치(200) 내의 각 유닛의 전반적인 동작을 제어한다. 프로세서(280)는 디스플레이 장치(20) 제어를 위해 다양한 기능들을 수행하고, 데이터를 처리하기 위해 제2 메모리(260) 내에 저장된 다양한 소프트웨어 프로그램들 및/또는 명령어들의 집합들을 실행 또는 수행할 수 있다. 프로세서(280)는 제2 메모리(260)에 저장된 정보에 기반하여 신호를 처리할 수 있다.
프로세서(280)는 어라운드 뷰 영상을 표시한다.
도 6a는 본 발명의 제1 실시예에 따른 제어부의 상세 블럭도이다.
도 6a를 참조하면, 제어부(180)는 전처리부(310), 어라운드 뷰 영상 생성부(320), 차량 이미지 생성부(340), 어플리케이션부(350), 오브젝트 검출부(410), 오브젝트 확인부(420) 및 오브젝트 트래킹부(430)를 포함할 수 있다.
전처리부(310)는 복수의 카메라(110a, 110b, 110c, 110d)로부터 수신되는 영상에 전처리를 수행한다. 전처리부(310)는 각종 필터 또는 히스토그램 이쿼라이제이션(Histogram Equalization) 등을 이용하여 영상의 노이즈를 제거한다. 한편, 이러한 영상의 전처리는 반드시 필요한 절차는 아니며, 영상의 상태나 영상 처리 목적에 따라 생략될 수도 있다.
어라운드 뷰 영상 생성부(320)는, 전처리된 복수의 영상을 기초로 어라운드 뷰 영상을 생성한다. 여기서, 어라운드 뷰 영상은 탑뷰 영상일 수 있다. 전처리부(310)에서 전처리된 복수의 영상을 합성하여, 어라운드 뷰 영상으로 전환한다. 실시예에 따라, 어라운드 뷰 영상 생성부(320)는, 전처리 과정을 거치지 않은 복수의 영상을 합성하여, 어라운드 뷰 영상으로 전환할 수도 있다. 예를 들면, 어라운드 뷰 영상 생성부(320)는 룩업테이블(LUT, Look Up Table)을 이용하여 복수의 영상을 합성하여, 어라운드 뷰 영상으로 전환할 수 있다. 룩업테이블은 합성 영상의 한 픽셀이 4개의 원래의 영상의 어떤 픽셀과 대응되는지 관계를 저장한 테이블이다.
예를 들면, 어라운드 뷰 영상 생성부(320)는, 좌측 카메라로부터(110a)의 제1 이미지, 후방 카메라(110b)로부터의 제2 이미지, 우측 카메라(110c)로부터의 제3 이미지, 전방 카메라(110d)로부터의 제4 이미지를 기초로 어라운드 뷰 영상을 생성한다. 이때, 어라운드 뷰 영상 생성부(320)는 제1 이미지와 제2 이미지 사이에 중복되는 영역, 제2 이미지와 제3 이미지 사이에 중복되는 영역, 제3 이미지와 제4 이미지 사이에 중복되는 영역, 제4 이미지와 제1 이미지 사이에 중복되는 영역을 각각 블렌딩 처리할 수 있다. 어라운드 뷰 영상 생성부(320)는 제1 이미지와 제2이미지 사이의 경계, 제2 이미지와 제3 이미지 사이의 경계, 제3 이미지와 제4 이미지 사이의 경계, 제4 이미지와 제1 이미지 사이의 경계 각각에 경계선을 생성할 수 있다.
차량 이미지 생성부(340)는, 어라운드 뷰 영상에 가상의 차량 이미지를 오버레이(overlay)한다. 즉, 어라운드 뷰 영상은 차량(10)에 장착된 복수의 카메라를 통해, 획득된 차량 주변 영상에 기초하여 생성되었기 때문에, 차량(10)이미지를 포함하지는 않는다. 차량 이미지 생성부(340)를 통해, 가상의 차량 이미지를 제공함으로써, 탑승자가 어라운드 뷰 영상을 직관적으로 인지할 수 있게 한다.
오브젝트 검출부(410)는, 어라운드 뷰 영상을 기초로, 오브젝트를 검출할 수 있다. 여기서 오브젝트는, 보행자, 장애물, 주변 차량 등을 포함하는 개념일 수 있다. 한편, 디스플레이 장치(200)를 통해 표시되는 어라운드 뷰 화면은, 복수의 카메라(110a, 110b, 110c, 110d)를 통해 획득된 원 영상의 일부 영역에 해당할 수 있다. 오브젝트 검출부(410)는 디스플레이 장치(200)에 표시되는 영상을 포함하여, 원 영상 전체를 바탕으로, 오브젝트 검출을 수행할 수 있다.
오브젝트 확인부(420)는, 검출된 오브젝트와 제1 메모리(160)에 저장된 오브젝트를 비교하여, 오브젝트를 분류하고, 확인한다.
오브젝트 트래킹부(430)는 검출된 오브젝트를 트래킹한다. 예를 들어, 오브젝트 트래킹부(430)는, 순차적으로, 획득되는 이미지들에 내의, 오브젝트를 확인하고, 확인된 오브젝트의 움직임 또는 움직임 벡터를 연산하며, 연산된 움직임 또는 움직임 벡터에 기초하여, 해당 오브젝트의 이동 등을 트래킹할 수 있다.
어플리케이션부(350)는, 어라운드 뷰 이미지 기초로, 각종 어플리케이션을 수행한다. 예를 들면, 어플리케이션부(350)는 어라운드 뷰 이미지 기초로, 오브젝트를 검출할 수 있다. 또는, 어플리케이션부(350)는 어라운드 뷰 이미지에 가상의 주차선을 생성할 수 있다. 또는 어플리케이션부(350)는 어라운드 뷰 이미지를 기초로, 차량의 예측 경로를 제공할 수 있다. 한편, 이러한 어플리케이션 수행은 반드시 필요한 절차는 아니며, 영상의 상태나 영상 처리 목적에 따라 생략될 수도 있다.
어플리케이션부(350)는 오브젝트 검출 또는 오브젝트 트래킹에 대응하는 응용 동작을 수행할 수 있다. 예를 들면, 어플리케이션부(350)는 복수의 카메라(110a, 110b, 110c, 110d)로부터 수신되는 복수의 영상 또는 어라운드 뷰 영상을 복수의 영역으로 나누고, 오브젝트가 상기 복수의 영상 중 어느 영역에 위치하는지 판단할 수 있다. 예를 들면, 어플리케이션부(350)는, 제1 카메라(110a)를 통해 획득된 제1 영상에 대응되는 영역에서, 제2 카메라(110b)를 통해 획득된 제2 영상에 대응되는 영역으로 검출된 오브젝트의 이동이 감지되는 경우, 제2 영상에서 오브젝트를 검출하기 위한 관심 영역을 설정할 수 있다. 여기서, 어플리케이션부(350)는 관심 영역에서 오브젝트의 검출을 최우선으로 수행할 수 있다.
한편, 어플리케이션부(350)는 검출된 오브젝트에 대응하는 이미지를, 어라운드 뷰 이미지에 오버레이하여 표시할 수 있다. 어플리케이션부(350)는 트래킹되는 오브젝트에 대응하는 이미지를 어라운드 뷰 이미지에 오버레이하여 표시할 수 있다.
도 6b는 본 발명의 제1 실시예에 따른 차량의 동작을 설명하는 플로우차트이다.
도 6b를 참조하면, 제어부(180)는 복수의 카메라(110a, 110b, 110c, 110d)로부터 각각의 영상을 수신한다(S610).
제어부(180)는 수신된 복수의 영상 각각에 대해 전처리를 수행한다(S620). 다음, 제어부(180)는 전처리 수행된 복수의 영상을 합성하고(S630), 탑뷰로 전환하여(S640), 어라운드 뷰 영상을 생성한다. 실시예에 따라, 제어부(180)는, 전처리 과정을 거치지 않은 복수의 영상을 합성하여, 어라운드 뷰 영상으로 전환할 수도 있다. 예를 들면, 제어부(180)는 룩업테이블(LUT, Look Up Table)을 이용하여 복수의 영상을 합성하여, 어라운드 뷰 영상으로 전환할 수 있다. 룩업테이블은 합성 영상의 한 픽셀이 4개의 원래의 영상의 어떤 픽셀과 대응되는지 관계를 저장한 테이블이다.
어라운드 뷰 영상이 생성된 상태에서, 제어부(180)는 어라운드 뷰 영상을 기초로, 오브젝트 검출을 수행할 수 있다. 한편, 디스플레이 장치(200)를 통해 표시되는 어라운드 뷰 화면은, 복수의 카메라(110a, 110b, 110c, 110d)를 통해 획득된 원 영상의 일부 영역에 해당할 수 있다. 제어부(180)는 디스플레이 장치(200)에 표시되는 영상을 포함하여, 원 영상 전체를 바탕으로, 오브젝트 검출을 수행할 수 있다(S650).
소정의 오브젝트가 검출되는 경우, 제어부(180)는 검출된 오브젝트의 위치에 기초하여, 알람부(130)를 통해, 단계별 알람을 출력한다(S670). 예를 들면, 제어부(180)는 복수의 카메라(110a, 110b, 110c, 110d)로부터 수신되는 복수의 영상 또는 어라운드 뷰 영상을 복수의 영역으로 나누고, 오브젝트가 상기 복수의 영상 중 어느 영역에 위치하는지 판단할 수 있다. 예를 들면, 제1 영역에 오브젝트가 위치하는 경우, 제어부(180)는 제1 음향을 출력하도록 제어할 수 있다. 또한, 제2 영역에 오브젝트가 위치하는 경우, 제어부(180)는 제2 음향을 출력하도록 제어할 수 있다. 또한, 제3 영역에 오브젝트가 위치하는 경우, 제어부(180)는 제3 음향을 출력하도록 제어할 수 있다.
소정의 오브젝트가 검출되지 않는 경우, 제어부(180)는 어라운드 뷰 영상에 가상의 차량 이미지를 생성한다(S660). 구체적으로, 제어부(180)는 어라운드 뷰 영상에 가상의 차량 이미지를 오버레이(overlay)한다.
다음, 제어부(180)는 압축된 데이터를 디스플레이 장치(200)에 전송하여, 어라운드 뷰 영상을 표시한다(S690).
한편, 제어부(180)는 검출된 오브젝트에 대응하는 이미지를, 어라운드 뷰 이미지에 오버레이하여 표시할 수 있다. 제어부(180)는 트래킹되는 오브젝트에 대응하는 이미지를 어라운드 뷰 이미지에 오버레이하여 표시할 수 있다.
도 7a는 본 발명의 제2 실시예에 따른 제어부 및 프로세서의 상세 블럭도이다.
제2 실시예는 제1 실시예와, 수행 순서에 차이가 있다. 이하, 도 7a를 참조하여, 제1 실시예와의 차이점을 중심으로, 설명한다.
전처리부(310)는 복수의 카메라(110a, 110b, 110c, 110d)로부터 수신되는 영상에 전처리를 수행한다. 이후에, 어라운드 뷰 영상 생성부(320)는, 전처리된 복수의 영상을 기초로 어라운드 뷰 영상을 생성한다. 차량 이미지 생성부(340)는, 어라운드 뷰 영상에 가상의 차량 이미지를 오버레이(overlay)한다.
한편, 오브젝트 검출부(410)는, 전처리 영상을 기초로, 오브젝트를 검출할 수 있다. 오브젝트 확인부(420)는, 검출된 오브젝트와 제1 메모리(160)에 저장된 오브젝트를 비교하여, 오브젝트를 분류하고, 확인한다. 오브젝트 트래킹부(430)는 검출된 오브젝트를 트래킹한다. 어플리케이션부(350)는, 어라운드 뷰 이미지 기초로, 각종 어플리케이션을 수행한다. 또한, 어플리케이션부(350)는 검출되고, 확인되며, 트래킹된 오브젝트를 기초로, 각종 어플리케이션을 수행한다.
도 7b는 본 발명의 제2 실시예에 따른 차량의 동작을 설명하는 플로우차트이다.
제2 실시예는 제1 실시예와, 수행 순서에 차이가 있다. 이하, 도 7b를 참조하여, 제1 실시예와의 차이점을 중심으로, 설명한다.
제어부(180)는 복수의 카메라(110a, 110b, 110c, 110d)로부터 각각의 영상을 수신한다(S710).
제어부(180)는 수신된 복수의 영상 각각에 대해 전처리를 수행한다(S720).
다음, 제어부(180)는 전처리된 영상을 기초로, 오브젝트 검출을 수행할 수 있다(S730). 한편, 디스플레이 장치(200)를 통해 표시되는 어라운드 뷰 화면은, 복수의 카메라(110a, 110b, 110c, 110d)를 통해 획득된 원 영상의 일부 영역에 해당할 수 있다. 제어부(180)는 디스플레이 장치(200)에 표시되는 영상을 포함하여, 원 영상 전체를 바탕으로, 오브젝트 검출을 수행할 수 있다.
소정의 오브젝트가 검출되는 경우, 제어부(180)는 검출된 오브젝트의 위치에 기초하여, 알람부(130)를 통해, 단계별 알람을 출력한다(S770). 이후에, 제어부(180)는 전처리 수행된 복수의 영상을 합성하고(S740), 탑뷰로 전환하여(S750), 어라운드 뷰 영상을 생성한다.
만약, 소정의 오브젝트가 검출되지 않는 경우, 제어부(180)는 전처리 수행된 복수의 영상을 합성하고(S740), 탑뷰로 전환하여(S750), 어라운드 뷰 영상을 생성한다. 실시예에 따라, 제어부(180)는, 전처리 과정을 거치지 않은 복수의 영상을 합성하여, 어라운드 뷰 영상으로 전환할 수도 있다. 예를 들면, 제어부(180)는 룩업테이블(LUT, Look Up Table)을 이용하여 복수의 영상을 합성하여, 어라운드 뷰 영상으로 전환할 수 있다. 룩업테이블은 합성 영상의 한 픽셀이 4개의 원래의 영상의 어떤 픽셀과 대응되는지 관계를 저장한 테이블이다.
소정의 오브젝트가 검출되지 않는 경우, 제어부(180)는 어라운드 뷰 영상에 가상의 차량 이미지를 생성한다(S760). 구체적으로, 제어부(180)는 어라운드 뷰 영상에 가상의 차량 이미지를 오버레이(overlay)한다.
다음, 제어부(180)는 압축된 데이터를 디스플레이 장치(200)에 전송하여, 어라운드 뷰 영상을 표시한다(S790).
한편, 제어부(180)는 검출된 오브젝트에 대응하는 이미지를, 어라운드 뷰 이미지에 오버레이하여 표시할 수 있다. 제어부(180)는 트래킹되는 오브젝트에 대응하는 이미지를 어라운드 뷰 이미지에 오버레이하여 표시할 수 있다.
도 8 은 본 발명의 실시예에 따라, 영상을 복수의 영역으로 구분하고, 복수의 영역에서 검출되는 오브젝트를 설명하는데 참조되는 개념도이다.
도 8을 참조하면, 제어부(180)는 제1 카메라(110a)로부터 수신되는 제1 영상, 제2 카메라(110b)로부터 수신되는 제2 영상, 제3 카메라(110c)로부터 수신되는 제3 영상, 제4 카메라(110d)로부터 수신되는 제4 영상을 기초로 오브젝트를 검출한다. 이때, 제어부(180)는 차량(10)을 기준으로 제1 거리(d1)에서 제2 거리(d2) 사이이의 영역을 제1 영역(810)으로 설정할 수 있다. 제어부(180)는 차량(10)을 기준으로 제2 거리(d2)에서 제3 거리(d3) 사이의 영역을 제2 영역(820)으로 설정할 수 있다. 제어부(180)는 차량(10)을 기준으로 제3 거리(d3) 내의 영역을 제3 영역(830)으로 설정할 수 있다.
만약, 오브젝트(811)가 제1 영역(810)에 위치하는 것으로 판단되는 경우, 제어부(180)는 제1 신호를 알람부(130)로 전송하여, 제1 알람이 출력되도록 제어할 수 있다. 또한, 오브젝트(821)가 제2 영역(820)에 위치하는 것으로 판단되는 경우, 제어부(180)는 제2 신호를 알람부(130)로 전송하여, 제2 알람이 출력되도록 제어할 수 있다. 또한, 제어부(180)는 오브젝트(831)가 제3 영역(820)에 위치하는 것으로 판단되는 경우, 제어부(180)는 제3 신호를 알람부(130)로 전송하여, 제3 알람이 출력되도록 제어할 수 있다. 이와 같이, 제어부(180)는 오브젝트의 위치에 기초하여, 단계별 알람이 출력되도록 제어할 수 있다.
한편, 영상을 통해 오브젝트와의 거리를 검출하는 방법은 공지의 기술을 이용할 수 있다.
도 9는 본 발명의 실시예에 따라, 오브젝트 트래킹에 따른 동작을 설명하는데 참조되는 개념도이다.
도 9를 참조하면, 오브젝트(910)가 제1 영역에서, 제2 영역으로 이동할 수 있다. 이때, 제1 영역은 제1 카메라(110a)를 통해 획득되는 제1 영상에 대응되는 영역일 수 있다. 제2 영역은 제2 카메라(110b)를 통해 획득되는 제2 영상에 대응되는 영역일 수 있다. 즉, 오브젝트(910)는 제1 카메라(110a) FOV(field of view)에서 제2 카메라(110b) FOV(field of view)로 이동한다.
오브젝트(910)가 차량(10) 좌측방에 위치할 때, 제어부(180)는 제1 영상에서 오브젝트(910)를 검출하고, 확인하며, 트래킹할 수 있다. 오브텍트(910)가 차량(10) 후방으로 이동하는 경우, 제어부(180)는 오브젝트(910)의 이동을 트래킹한다. 제어부(180)는 오브젝트(910) 트래킹을 통해, 오브젝트(910)의 예상 이동 경로를 예측할 수 있다. 제어부(180)는 예측된 이동 경로를 통해, 제2 영상에서 오브젝트를 검출하기 위한 관심 영역(920)을 설정할 수 있다. 제어부(180)는 관심 영역(920)에서 오브젝트의 검출을 최우선으로 수행할 수 있다. 이와 같이, 관심 영역(920)을 설정함으로써, 제2 카메라를 통해 오브젝트(920)를 검출할 때, 검출의 정확도 및 검출 속도의 향상의 효과를 얻을 수 있다.
도 10은 본 발명의 실시예에 따라 디스플레이 장치에 표시된 어라운드 뷰 이미지를 설명하는데 참조되는 예시도이다.
도 10의 (a)에 도시된 바와 같이, 제어부(180)는 디스플레이 장치(200)에 포함된 디스플레이부(250)를 통해, 어라운드 뷰 영상(1010)을 표시할 수 있다. 제어부(180)는 검출된 오브젝트에 대응하는 이미지(1020)를, 어라운드 뷰 이미지에 오버레이하여 표시할 수 있다. 제어부(180)는 트래킹되는 오브젝트에 대응하는 이미지(1020)를 어라운드 뷰 이미지에 오버레이하여 표시할 수 있다.
오브젝트에 대응하는 이미지(1020)가 표시된 영역에 터치 입력이 수신되는 경우, 도 10의 (b)에 도시된 바와 같이, 제어부(180)는 오브젝트 검출의 기초가 되는 영상을 디스플레이부(250)에 표시할 수 있다. 예를 들어, 제어부(180)는 어라운드 뷰 이미지를 축소하여, 디스플레이부(25) 제1 영역에 표시하고, 오브젝트 검출의 기초가 되는 영상을 디스플레이부(250)의 제2 영역에 표시할 수 있다. 즉, 제어부(180)는 오브젝트가 검출되는 제3 카메라(110c)로부터 수신되는 제3 영상을 수신한 영상 그대로 디스플레이부(250)에 표시할 수 있다.
이상에서는 본 발명의 바람직한 실시예에 대하여 도시하고 설명하였지만, 본 발명은 상술한 특정의 실시예에 한정되지 아니하며, 특허청구범위에서 청구하는 본 발명의 요지를 벗어남이 없이 당해 발명이 속하는 기술분야에서 통상의 지식을 가진 자에 의해 다양한 변형실시가 가능한 것은 물론이고, 이러한 변형실시들은 본 발명의 기술적 사상이나 전망으로부터 개별적으로 이해되어서는 안될 것이다.
10 : 차량
110 : 카메라
120 : 제1 입력부
130 : 알람부
140 : 제1 통신부
160 : 제1 메모리
180 : 제어부
200 : 디스플레이 장치
220 : 제2 입력부
240 : 제2 통신부
250: 디스플레이부
255 : 음향 출력부
260 : 제2 메모리
280 : 프로세서

Claims (16)

  1. 복수의 카메라;
    상기 복수의 카메라로부터 수신된 복수의 영상을 합성하고, 상기 합성된 영상을 탑뷰 영상(top view image)으로 전환하여 어라운드 뷰 영상을 제공하고,
    상기 복수의 영상 또는 상기 어라운드 뷰 영상에서 오브젝트를 검출 및 트래킹하는 제어부;
    상기 검출된 오브젝트의 위치에 기초하여, 단계별 알람을 출력하는 알람부; 및
    상기 어라운드 뷰 영상을 표시하는 디스플레이 장치;를 포함하고,
    상기 복수의 카메라는 제1 및 제2 카메라를 포함하고,
    상기 제1 카메라를 통해 획득된 제1 영상에 대응되는 영역에서, 상기 제2 카메라를 통해 획득된 제2 영상에 대응되는 영역으로 상기 검출된 오브젝트의 이동이 감지되는 경우, 상기 제어부는, 상기 제2 영상에서 상기 오브젝트를 검출하기 위한 관심 영역을 설정하는 차량.
  2. 제 1항에 있어서,
    상기 제어부는, 상기 복수의 영상 또는 상기 어라운드 뷰 영상을 복수의 영역으로 나누고,
    상기 알람부는, 상기 복수의 영역에서, 상기 검출된 오브젝트가 어느 영역에 위치하는지에 기초하여, 단계별 알람을 출력하는 차량.
  3. 삭제
  4. 삭제
  5. 제 1항에 있어서,
    상기 제어부는, 상기 설정된 관심 영역에서 오브젝트 검출을 최우선으로 수행하는 차량.
  6. 제 1항에 있어서,
    상기 제어부는, 상기 검출된 오브젝트에 대응하는 이미지를, 상기 디스플레이 장치에 표시하는 차량.
  7. 제 6항에 있어서,
    상기 제어부는, 상기 표시된 오브젝트에 대한 터치 입력을 수신하는 경우, 상기 복수의 카메라 중에서 오브젝트를 검출한 카메라에서 획득한 원 영상을 상기 디스플레이 장치에 표시하는 차량.
  8. 제 1항에 있어서,
    상기 제어부는, 상기 트래킹되는 오브젝트에 대응하는 이미지를, 상기 디스플레이 장치에 표시하는 차량.
  9. 복수의 카메라로부터 수신되는 복수의 영상을 합성하는 단계;
    상기 합성된 영상을 탑뷰 영상으로 전환하여 어라운드 뷰 영상을 제공하는 단계;
    상기 복수의 영상 또는 어라운드 뷰 영상을 기초로 오브젝트를 검출 및 트래킹하는 단계; 및
    상기 검출된 오브젝트의 위치에 기초하여, 단계별 알람을 출력하는 단계;를 포함하고,
    상기 복수의 카메라는 제1 및 제2 카메라를 포함하고,
    상기 제1 카메라를 통해 획득된 제1 영상에 대응되는 영역에서, 상기 제2 카메라를 통해 획득된 제2 영상에 대응되는 영역으로 상기 검출된 오브젝트의 이동이 감지되는 경우,
    상기 트래킹하는 단계는, 상기 제2 영상에서 상기 오브젝트를 검출하기 위한 관심 영역을 설정하는 단계;를 포함하는 차량의 제어 방법.
  10. 제 9항에 있어서,
    상기 검출하는 단계는,
    상기 복수의 영상 또는 어라운드 뷰 영상을 복수의 영역으로 나누는 단계; 및
    상기 복수의 영역에서, 상기 검출된 오브젝트가 어느 영역에 위치하는지에 기초하여, 단계별 알람을 출력하는 단계;를 포함하는 차량의 제어 방법.
  11. 삭제
  12. 삭제
  13. 제 9항에 있어서,
    상기 트래킹하는 단계는,
    상기 설정된 관심 영역에서 오브젝트 검출을 최우선으로 수행하는 차량의 제어 방법.
  14. 제 9항에 있어서,
    상기 검출된 오브젝트에 대응하는 이미지를 디스플레이 장치에 표시하는 단계;를 더 포함하는 차량의 제어 방법.
  15. 제 14항에 있어서,
    상기 표시된 이미지에 대한 터치 입력을 수신하는 경우, 상기 복수의 카메라 중에서 오브젝트를 검출한 카메라에서 획득한 원 영상을 상기 디스플레이에 표시하는 차량의 제어 방법.
  16. 제 9항에 있어서,
    상기 트래킹되는 오브젝트에 대응하는 이미지를 디스플레이 장치에 표시하는 단계;를 더 포함하는 차량의 제어 방법.


KR1020140182929A 2014-12-04 2014-12-18 차량 및 그 제어 방법 KR102288950B1 (ko)

Priority Applications (2)

Application Number Priority Date Filing Date Title
KR1020140182929A KR102288950B1 (ko) 2014-12-18 2014-12-18 차량 및 그 제어 방법
US14/938,533 US20160159281A1 (en) 2014-12-04 2015-11-11 Vehicle and control method thereof

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
KR1020140182929A KR102288950B1 (ko) 2014-12-18 2014-12-18 차량 및 그 제어 방법

Publications (2)

Publication Number Publication Date
KR20160074107A KR20160074107A (ko) 2016-06-28
KR102288950B1 true KR102288950B1 (ko) 2021-08-12

Family

ID=56366102

Family Applications (1)

Application Number Title Priority Date Filing Date
KR1020140182929A KR102288950B1 (ko) 2014-12-04 2014-12-18 차량 및 그 제어 방법

Country Status (1)

Country Link
KR (1) KR102288950B1 (ko)

Families Citing this family (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
KR102632361B1 (ko) * 2016-12-23 2024-02-02 삼성전기주식회사 어라운드 뷰 영상 제공 시스템
KR102481289B1 (ko) * 2020-08-24 2022-12-27 오토아이티(주) 접근 객체 충돌 방지용 차량 어라운드 뷰 영상 제공 장치
KR102497614B1 (ko) * 2022-06-15 2023-02-09 장승환 적응형 범용 감시 시스템 및 그 구동방법
KR102606126B1 (ko) * 2023-08-16 2023-11-24 오토아이티(주) 영상 왜곡 영역과 카메라간 상관성을 고려한 객체 검출동작을 수행하는 어라운드 뷰 모니터 영상 처리 장치 및 방법
KR102616565B1 (ko) * 2023-08-16 2023-12-21 오토아이티(주) 컴팩트 어라운드 뷰 모니터 영상 처리 장치 및 방법
KR102643152B1 (ko) * 2023-08-16 2024-03-05 오토아이티(주) 스마트 어라운드 뷰 모니터 영상 처리 장치

Citations (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
KR101413231B1 (ko) * 2013-02-18 2014-06-30 인하대학교 산학협력단 증강현실 기반 차량 주변 모니터링 장치 및 방법, 그리고 차량

Family Cites Families (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
KR101239718B1 (ko) * 2010-12-14 2013-03-06 주식회사 이미지넥스트 차량 주변 물체 검출 시스템 및 방법
KR20120130456A (ko) * 2011-05-23 2012-12-03 아진산업(주) 차량의 어라운드 뷰 제공 방법
KR20130024066A (ko) * 2011-08-30 2013-03-08 에스엘 주식회사 차량의 주차 보조 장치 및 그 동작 방법
KR101978119B1 (ko) * 2012-07-02 2019-05-14 현대모비스 주식회사 차량용 어라운드 뷰 시스템, 이를 포함하는 차량 및 차량용 어라운드 뷰 생성 방법

Patent Citations (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
KR101413231B1 (ko) * 2013-02-18 2014-06-30 인하대학교 산학협력단 증강현실 기반 차량 주변 모니터링 장치 및 방법, 그리고 차량

Also Published As

Publication number Publication date
KR20160074107A (ko) 2016-06-28

Similar Documents

Publication Publication Date Title
JP7342197B2 (ja) 撮像装置及び撮像装置の制御方法
KR102288950B1 (ko) 차량 및 그 제어 방법
KR101741433B1 (ko) 운전자 보조 장치 및 그 제어방법
US9706175B2 (en) Image processing device, image processing system, and image processing method
EP3093192B1 (en) Rear combination lamp for vehicle comprising a display
EP3100913A2 (en) Vehicle display apparatus and vehicle including the same
KR102117598B1 (ko) 차량 운전 보조 장치 및 차량
US20160159281A1 (en) Vehicle and control method thereof
US20120287282A1 (en) Image processing apparatus, image processing system, and image processing method
US20120249796A1 (en) Image processing device, image processing system, and image processing method
US10930070B2 (en) Periphery monitoring device
WO2002089485A1 (fr) Procede et dispositif pour la presentation d'une image de camera embarquee a bord d'un vehicule
JP5914114B2 (ja) 駐車支援装置、及び駐車支援方法
JP2012025327A (ja) 画像表示システム、画像処理装置及び画像表示方法
CN108569298B (zh) 用于增强俯视图图像的方法和装置
JP2019156298A (ja) 車両遠隔操作装置及び車両遠隔操作方法
US10248132B2 (en) Method and apparatus for visualization of an environment of a motor vehicle
KR102304391B1 (ko) 차량 및 그 제어 방법
KR101822896B1 (ko) 운전자 보조 장치 및 그 제어방법
JP2007025739A (ja) 車両用画像表示装置
KR20180094717A (ko) Avm을 이용한 운전 지원 장치 및 시스템
KR102300652B1 (ko) 차량 및 그 제어 방법
WO2021131481A1 (ja) 表示装置、表示方法及び表示プログラム
US20120086798A1 (en) System and method for automatic dynamic guidelines
KR102288951B1 (ko) 차량 및 그 제어 방법

Legal Events

Date Code Title Description
A201 Request for examination
E902 Notification of reason for refusal
E701 Decision to grant or registration of patent right