KR101714185B1 - 차량 운전 보조장치 및 이를 포함하는 차량 - Google Patents

차량 운전 보조장치 및 이를 포함하는 차량 Download PDF

Info

Publication number
KR101714185B1
KR101714185B1 KR1020150110780A KR20150110780A KR101714185B1 KR 101714185 B1 KR101714185 B1 KR 101714185B1 KR 1020150110780 A KR1020150110780 A KR 1020150110780A KR 20150110780 A KR20150110780 A KR 20150110780A KR 101714185 B1 KR101714185 B1 KR 101714185B1
Authority
KR
South Korea
Prior art keywords
vehicle
information
lane
processor
virtual lane
Prior art date
Application number
KR1020150110780A
Other languages
English (en)
Other versions
KR20170017203A (ko
Inventor
박상하
Original Assignee
엘지전자 주식회사
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by 엘지전자 주식회사 filed Critical 엘지전자 주식회사
Priority to KR1020150110780A priority Critical patent/KR101714185B1/ko
Priority to US14/973,821 priority patent/US10127820B2/en
Priority to EP16000009.7A priority patent/EP3127771B1/en
Priority to CN201610286055.2A priority patent/CN106448260B/zh
Publication of KR20170017203A publication Critical patent/KR20170017203A/ko
Application granted granted Critical
Publication of KR101714185B1 publication Critical patent/KR101714185B1/ko

Links

Images

Classifications

    • B—PERFORMING OPERATIONS; TRANSPORTING
    • B60—VEHICLES IN GENERAL
    • B60W—CONJOINT CONTROL OF VEHICLE SUB-UNITS OF DIFFERENT TYPE OR DIFFERENT FUNCTION; CONTROL SYSTEMS SPECIALLY ADAPTED FOR HYBRID VEHICLES; ROAD VEHICLE DRIVE CONTROL SYSTEMS FOR PURPOSES NOT RELATED TO THE CONTROL OF A PARTICULAR SUB-UNIT
    • B60W30/00—Purposes of road vehicle drive control systems not related to the control of a particular sub-unit, e.g. of systems using conjoint control of vehicle sub-units, or advanced driver assistance systems for ensuring comfort, stability and safety or drive control systems for propelling or retarding the vehicle
    • B60W30/10—Path keeping
    • B60W30/12—Lane keeping
    • G—PHYSICS
    • G08—SIGNALLING
    • G08G—TRAFFIC CONTROL SYSTEMS
    • G08G1/00—Traffic control systems for road vehicles
    • G08G1/16—Anti-collision systems
    • G08G1/166—Anti-collision systems for active traffic, e.g. moving vehicles, pedestrians, bikes
    • B—PERFORMING OPERATIONS; TRANSPORTING
    • B60—VEHICLES IN GENERAL
    • B60K—ARRANGEMENT OR MOUNTING OF PROPULSION UNITS OR OF TRANSMISSIONS IN VEHICLES; ARRANGEMENT OR MOUNTING OF PLURAL DIVERSE PRIME-MOVERS IN VEHICLES; AUXILIARY DRIVES FOR VEHICLES; INSTRUMENTATION OR DASHBOARDS FOR VEHICLES; ARRANGEMENTS IN CONNECTION WITH COOLING, AIR INTAKE, GAS EXHAUST OR FUEL SUPPLY OF PROPULSION UNITS IN VEHICLES
    • B60K35/00—Arrangement of adaptations of instruments
    • B60K35/23—
    • B60K35/28—
    • B60K35/29—
    • B60K35/60—
    • B—PERFORMING OPERATIONS; TRANSPORTING
    • B60—VEHICLES IN GENERAL
    • B60Q—ARRANGEMENT OF SIGNALLING OR LIGHTING DEVICES, THE MOUNTING OR SUPPORTING THEREOF OR CIRCUITS THEREFOR, FOR VEHICLES IN GENERAL
    • B60Q5/00—Arrangement or adaptation of acoustic signal devices
    • B—PERFORMING OPERATIONS; TRANSPORTING
    • B60—VEHICLES IN GENERAL
    • B60R—VEHICLES, VEHICLE FITTINGS, OR VEHICLE PARTS, NOT OTHERWISE PROVIDED FOR
    • B60R1/00—Optical viewing arrangements; Real-time viewing arrangements for drivers or passengers using optical image capturing systems, e.g. cameras or video systems specially adapted for use in or on vehicles
    • B60R1/20—Real-time viewing arrangements for drivers or passengers using optical image capturing systems, e.g. cameras or video systems specially adapted for use in or on vehicles
    • B60R1/22—Real-time viewing arrangements for drivers or passengers using optical image capturing systems, e.g. cameras or video systems specially adapted for use in or on vehicles for viewing an area outside the vehicle, e.g. the exterior of the vehicle
    • B60R1/23—Real-time viewing arrangements for drivers or passengers using optical image capturing systems, e.g. cameras or video systems specially adapted for use in or on vehicles for viewing an area outside the vehicle, e.g. the exterior of the vehicle with a predetermined field of view
    • B60R1/24—Real-time viewing arrangements for drivers or passengers using optical image capturing systems, e.g. cameras or video systems specially adapted for use in or on vehicles for viewing an area outside the vehicle, e.g. the exterior of the vehicle with a predetermined field of view in front of the vehicle
    • B—PERFORMING OPERATIONS; TRANSPORTING
    • B60—VEHICLES IN GENERAL
    • B60R—VEHICLES, VEHICLE FITTINGS, OR VEHICLE PARTS, NOT OTHERWISE PROVIDED FOR
    • B60R1/00—Optical viewing arrangements; Real-time viewing arrangements for drivers or passengers using optical image capturing systems, e.g. cameras or video systems specially adapted for use in or on vehicles
    • B60R1/20—Real-time viewing arrangements for drivers or passengers using optical image capturing systems, e.g. cameras or video systems specially adapted for use in or on vehicles
    • B60R1/31—Real-time viewing arrangements for drivers or passengers using optical image capturing systems, e.g. cameras or video systems specially adapted for use in or on vehicles providing stereoscopic vision
    • B—PERFORMING OPERATIONS; TRANSPORTING
    • B60—VEHICLES IN GENERAL
    • B60R—VEHICLES, VEHICLE FITTINGS, OR VEHICLE PARTS, NOT OTHERWISE PROVIDED FOR
    • B60R21/00—Arrangements or fittings on vehicles for protecting or preventing injuries to occupants or pedestrians in case of accidents or other traffic risks
    • B60R21/01—Electrical circuits for triggering passive safety arrangements, e.g. airbags, safety belt tighteners, in case of vehicle accidents or impending vehicle accidents
    • B60R21/013—Electrical circuits for triggering passive safety arrangements, e.g. airbags, safety belt tighteners, in case of vehicle accidents or impending vehicle accidents including means for detecting collisions, impending collisions or roll-over
    • B60R21/0134—Electrical circuits for triggering passive safety arrangements, e.g. airbags, safety belt tighteners, in case of vehicle accidents or impending vehicle accidents including means for detecting collisions, impending collisions or roll-over responsive to imminent contact with an obstacle, e.g. using radar systems
    • B—PERFORMING OPERATIONS; TRANSPORTING
    • B60—VEHICLES IN GENERAL
    • B60W—CONJOINT CONTROL OF VEHICLE SUB-UNITS OF DIFFERENT TYPE OR DIFFERENT FUNCTION; CONTROL SYSTEMS SPECIALLY ADAPTED FOR HYBRID VEHICLES; ROAD VEHICLE DRIVE CONTROL SYSTEMS FOR PURPOSES NOT RELATED TO THE CONTROL OF A PARTICULAR SUB-UNIT
    • B60W30/00—Purposes of road vehicle drive control systems not related to the control of a particular sub-unit, e.g. of systems using conjoint control of vehicle sub-units, or advanced driver assistance systems for ensuring comfort, stability and safety or drive control systems for propelling or retarding the vehicle
    • B60W30/08—Active safety systems predicting or avoiding probable or impending collision or attempting to minimise its consequences
    • B—PERFORMING OPERATIONS; TRANSPORTING
    • B60—VEHICLES IN GENERAL
    • B60W—CONJOINT CONTROL OF VEHICLE SUB-UNITS OF DIFFERENT TYPE OR DIFFERENT FUNCTION; CONTROL SYSTEMS SPECIALLY ADAPTED FOR HYBRID VEHICLES; ROAD VEHICLE DRIVE CONTROL SYSTEMS FOR PURPOSES NOT RELATED TO THE CONTROL OF A PARTICULAR SUB-UNIT
    • B60W40/00—Estimation or calculation of non-directly measurable driving parameters for road vehicle drive control systems not related to the control of a particular sub unit, e.g. by using mathematical models
    • B60W40/02—Estimation or calculation of non-directly measurable driving parameters for road vehicle drive control systems not related to the control of a particular sub unit, e.g. by using mathematical models related to ambient conditions
    • B—PERFORMING OPERATIONS; TRANSPORTING
    • B60—VEHICLES IN GENERAL
    • B60W—CONJOINT CONTROL OF VEHICLE SUB-UNITS OF DIFFERENT TYPE OR DIFFERENT FUNCTION; CONTROL SYSTEMS SPECIALLY ADAPTED FOR HYBRID VEHICLES; ROAD VEHICLE DRIVE CONTROL SYSTEMS FOR PURPOSES NOT RELATED TO THE CONTROL OF A PARTICULAR SUB-UNIT
    • B60W50/00—Details of control systems for road vehicle drive control not related to the control of a particular sub-unit, e.g. process diagnostic or vehicle driver interfaces
    • B60W50/08—Interaction between the driver and the control system
    • B60W50/14—Means for informing the driver, warning the driver or prompting a driver intervention
    • G—PHYSICS
    • G01—MEASURING; TESTING
    • G01C—MEASURING DISTANCES, LEVELS OR BEARINGS; SURVEYING; NAVIGATION; GYROSCOPIC INSTRUMENTS; PHOTOGRAMMETRY OR VIDEOGRAMMETRY
    • G01C21/00—Navigation; Navigational instruments not provided for in groups G01C1/00 - G01C19/00
    • G01C21/26—Navigation; Navigational instruments not provided for in groups G01C1/00 - G01C19/00 specially adapted for navigation in a road network
    • G01C21/34—Route searching; Route guidance
    • G—PHYSICS
    • G02—OPTICS
    • G02B—OPTICAL ELEMENTS, SYSTEMS OR APPARATUS
    • G02B27/00—Optical systems or apparatus not provided for by any of the groups G02B1/00 - G02B26/00, G02B30/00
    • G02B27/01—Head-up displays
    • G—PHYSICS
    • G08—SIGNALLING
    • G08G—TRAFFIC CONTROL SYSTEMS
    • G08G1/00—Traffic control systems for road vehicles
    • G08G1/16—Anti-collision systems
    • G08G1/167—Driving aids for lane monitoring, lane changing, e.g. blind spot detection
    • B60K2360/177—
    • B60K2360/186—
    • B60K2360/29—
    • B60K2360/333—
    • B60K2360/334—
    • B60K2360/77—
    • B—PERFORMING OPERATIONS; TRANSPORTING
    • B60—VEHICLES IN GENERAL
    • B60R—VEHICLES, VEHICLE FITTINGS, OR VEHICLE PARTS, NOT OTHERWISE PROVIDED FOR
    • B60R2300/00—Details of viewing arrangements using cameras and displays, specially adapted for use in a vehicle
    • B60R2300/20—Details of viewing arrangements using cameras and displays, specially adapted for use in a vehicle characterised by the type of display used
    • B60R2300/205—Details of viewing arrangements using cameras and displays, specially adapted for use in a vehicle characterised by the type of display used using a head-up display
    • B—PERFORMING OPERATIONS; TRANSPORTING
    • B60—VEHICLES IN GENERAL
    • B60R—VEHICLES, VEHICLE FITTINGS, OR VEHICLE PARTS, NOT OTHERWISE PROVIDED FOR
    • B60R2300/00—Details of viewing arrangements using cameras and displays, specially adapted for use in a vehicle
    • B60R2300/30—Details of viewing arrangements using cameras and displays, specially adapted for use in a vehicle characterised by the type of image processing
    • B60R2300/301—Details of viewing arrangements using cameras and displays, specially adapted for use in a vehicle characterised by the type of image processing combining image information with other obstacle sensor information, e.g. using RADAR/LIDAR/SONAR sensors for estimating risk of collision
    • B—PERFORMING OPERATIONS; TRANSPORTING
    • B60—VEHICLES IN GENERAL
    • B60R—VEHICLES, VEHICLE FITTINGS, OR VEHICLE PARTS, NOT OTHERWISE PROVIDED FOR
    • B60R2300/00—Details of viewing arrangements using cameras and displays, specially adapted for use in a vehicle
    • B60R2300/30—Details of viewing arrangements using cameras and displays, specially adapted for use in a vehicle characterised by the type of image processing
    • B60R2300/302—Details of viewing arrangements using cameras and displays, specially adapted for use in a vehicle characterised by the type of image processing combining image information with GPS information or vehicle data, e.g. vehicle speed, gyro, steering angle data
    • B—PERFORMING OPERATIONS; TRANSPORTING
    • B60—VEHICLES IN GENERAL
    • B60R—VEHICLES, VEHICLE FITTINGS, OR VEHICLE PARTS, NOT OTHERWISE PROVIDED FOR
    • B60R2300/00—Details of viewing arrangements using cameras and displays, specially adapted for use in a vehicle
    • B60R2300/30—Details of viewing arrangements using cameras and displays, specially adapted for use in a vehicle characterised by the type of image processing
    • B60R2300/307—Details of viewing arrangements using cameras and displays, specially adapted for use in a vehicle characterised by the type of image processing virtually distinguishing relevant parts of a scene from the background of the scene
    • B60R2300/308—Details of viewing arrangements using cameras and displays, specially adapted for use in a vehicle characterised by the type of image processing virtually distinguishing relevant parts of a scene from the background of the scene by overlaying the real scene, e.g. through a head-up display on the windscreen
    • B—PERFORMING OPERATIONS; TRANSPORTING
    • B60—VEHICLES IN GENERAL
    • B60W—CONJOINT CONTROL OF VEHICLE SUB-UNITS OF DIFFERENT TYPE OR DIFFERENT FUNCTION; CONTROL SYSTEMS SPECIALLY ADAPTED FOR HYBRID VEHICLES; ROAD VEHICLE DRIVE CONTROL SYSTEMS FOR PURPOSES NOT RELATED TO THE CONTROL OF A PARTICULAR SUB-UNIT
    • B60W50/00—Details of control systems for road vehicle drive control not related to the control of a particular sub-unit, e.g. process diagnostic or vehicle driver interfaces
    • B60W50/08—Interaction between the driver and the control system
    • B60W50/14—Means for informing the driver, warning the driver or prompting a driver intervention
    • B60W2050/143—Alarm means
    • B—PERFORMING OPERATIONS; TRANSPORTING
    • B60—VEHICLES IN GENERAL
    • B60W—CONJOINT CONTROL OF VEHICLE SUB-UNITS OF DIFFERENT TYPE OR DIFFERENT FUNCTION; CONTROL SYSTEMS SPECIALLY ADAPTED FOR HYBRID VEHICLES; ROAD VEHICLE DRIVE CONTROL SYSTEMS FOR PURPOSES NOT RELATED TO THE CONTROL OF A PARTICULAR SUB-UNIT
    • B60W50/00—Details of control systems for road vehicle drive control not related to the control of a particular sub-unit, e.g. process diagnostic or vehicle driver interfaces
    • B60W50/08—Interaction between the driver and the control system
    • B60W50/14—Means for informing the driver, warning the driver or prompting a driver intervention
    • B60W2050/146—Display means
    • B—PERFORMING OPERATIONS; TRANSPORTING
    • B60—VEHICLES IN GENERAL
    • B60W—CONJOINT CONTROL OF VEHICLE SUB-UNITS OF DIFFERENT TYPE OR DIFFERENT FUNCTION; CONTROL SYSTEMS SPECIALLY ADAPTED FOR HYBRID VEHICLES; ROAD VEHICLE DRIVE CONTROL SYSTEMS FOR PURPOSES NOT RELATED TO THE CONTROL OF A PARTICULAR SUB-UNIT
    • B60W2420/00—Indexing codes relating to the type of sensors based on the principle of their operation
    • B60W2420/40—Photo or light sensitive means, e.g. infrared sensors
    • B60W2420/403—Image sensing, e.g. optical camera
    • B60W2550/12—
    • B—PERFORMING OPERATIONS; TRANSPORTING
    • B60—VEHICLES IN GENERAL
    • B60W—CONJOINT CONTROL OF VEHICLE SUB-UNITS OF DIFFERENT TYPE OR DIFFERENT FUNCTION; CONTROL SYSTEMS SPECIALLY ADAPTED FOR HYBRID VEHICLES; ROAD VEHICLE DRIVE CONTROL SYSTEMS FOR PURPOSES NOT RELATED TO THE CONTROL OF A PARTICULAR SUB-UNIT
    • B60W2554/00—Input parameters relating to objects
    • B—PERFORMING OPERATIONS; TRANSPORTING
    • B60—VEHICLES IN GENERAL
    • B60W—CONJOINT CONTROL OF VEHICLE SUB-UNITS OF DIFFERENT TYPE OR DIFFERENT FUNCTION; CONTROL SYSTEMS SPECIALLY ADAPTED FOR HYBRID VEHICLES; ROAD VEHICLE DRIVE CONTROL SYSTEMS FOR PURPOSES NOT RELATED TO THE CONTROL OF A PARTICULAR SUB-UNIT
    • B60W2554/00—Input parameters relating to objects
    • B60W2554/20—Static objects
    • B—PERFORMING OPERATIONS; TRANSPORTING
    • B60—VEHICLES IN GENERAL
    • B60W—CONJOINT CONTROL OF VEHICLE SUB-UNITS OF DIFFERENT TYPE OR DIFFERENT FUNCTION; CONTROL SYSTEMS SPECIALLY ADAPTED FOR HYBRID VEHICLES; ROAD VEHICLE DRIVE CONTROL SYSTEMS FOR PURPOSES NOT RELATED TO THE CONTROL OF A PARTICULAR SUB-UNIT
    • B60W2554/00—Input parameters relating to objects
    • B60W2554/60—Traversable objects, e.g. speed bumps or curbs
    • B—PERFORMING OPERATIONS; TRANSPORTING
    • B60—VEHICLES IN GENERAL
    • B60W—CONJOINT CONTROL OF VEHICLE SUB-UNITS OF DIFFERENT TYPE OR DIFFERENT FUNCTION; CONTROL SYSTEMS SPECIALLY ADAPTED FOR HYBRID VEHICLES; ROAD VEHICLE DRIVE CONTROL SYSTEMS FOR PURPOSES NOT RELATED TO THE CONTROL OF A PARTICULAR SUB-UNIT
    • B60W2554/00—Input parameters relating to objects
    • B60W2554/80—Spatial relation or speed relative to objects
    • B—PERFORMING OPERATIONS; TRANSPORTING
    • B60—VEHICLES IN GENERAL
    • B60W—CONJOINT CONTROL OF VEHICLE SUB-UNITS OF DIFFERENT TYPE OR DIFFERENT FUNCTION; CONTROL SYSTEMS SPECIALLY ADAPTED FOR HYBRID VEHICLES; ROAD VEHICLE DRIVE CONTROL SYSTEMS FOR PURPOSES NOT RELATED TO THE CONTROL OF A PARTICULAR SUB-UNIT
    • B60W2554/00—Input parameters relating to objects
    • B60W2554/80—Spatial relation or speed relative to objects
    • B60W2554/801—Lateral distance
    • B—PERFORMING OPERATIONS; TRANSPORTING
    • B60—VEHICLES IN GENERAL
    • B60W—CONJOINT CONTROL OF VEHICLE SUB-UNITS OF DIFFERENT TYPE OR DIFFERENT FUNCTION; CONTROL SYSTEMS SPECIALLY ADAPTED FOR HYBRID VEHICLES; ROAD VEHICLE DRIVE CONTROL SYSTEMS FOR PURPOSES NOT RELATED TO THE CONTROL OF A PARTICULAR SUB-UNIT
    • B60W2556/00—Input parameters relating to data
    • B60W2556/45—External transmission of data to or from the vehicle
    • B60W2556/50—External transmission of data to or from the vehicle for navigation systems
    • B—PERFORMING OPERATIONS; TRANSPORTING
    • B60—VEHICLES IN GENERAL
    • B60W—CONJOINT CONTROL OF VEHICLE SUB-UNITS OF DIFFERENT TYPE OR DIFFERENT FUNCTION; CONTROL SYSTEMS SPECIALLY ADAPTED FOR HYBRID VEHICLES; ROAD VEHICLE DRIVE CONTROL SYSTEMS FOR PURPOSES NOT RELATED TO THE CONTROL OF A PARTICULAR SUB-UNIT
    • B60W2556/00—Input parameters relating to data
    • B60W2556/45—External transmission of data to or from the vehicle
    • B60W2556/65—Data transmitted between vehicles
    • B—PERFORMING OPERATIONS; TRANSPORTING
    • B60—VEHICLES IN GENERAL
    • B60W—CONJOINT CONTROL OF VEHICLE SUB-UNITS OF DIFFERENT TYPE OR DIFFERENT FUNCTION; CONTROL SYSTEMS SPECIALLY ADAPTED FOR HYBRID VEHICLES; ROAD VEHICLE DRIVE CONTROL SYSTEMS FOR PURPOSES NOT RELATED TO THE CONTROL OF A PARTICULAR SUB-UNIT
    • B60W2756/00—Output or target parameters relating to data
    • B60W2756/10—Involving external transmission of data to or from the vehicle

Abstract

실시예에 따른 차량 운전보조장치는 영상 정보, 거리 정보, 센서 정보, 내비게이션 정보, 보조 정보 및 인접차량 정보 중 적어도 하나 이상의 정보를 기초로 차선 미식별 상황을 판단하고, 가상 차선을 생성하는 프로세서; 및 상기 생성된 가상 차선을 출력할 수 있다.

Description

차량 운전 보조장치 및 이를 포함하는 차량 {Driver Assistance Apparatus and Vehicle Having The Same}
본 발명은 차량에 구비되는 차량 운전 보조장치, 그 제어 방법 및 이를 포함하는 차량에 관한 것이다.
차량은 탑승하는 사용자가 원하는 방향으로 이동시키는 장치이다. 대표적으로 자동차를 예를 들 수 있다.
그리고 차량을 이용하는 사용자의 편의를 위해, 각 종 센서와 전자 장치 등이 구비되고 있는 추세이다. 특히, 사용자의 운전 편의를 위한 다양한 장치 등이 개발되고 있다.
한편, 악천후나 야간, 비포장도로와 같은 상황에서 운전자가 차선을 식별하지 못하는 경우가 발생할 수 있다. 예를 들어, 순간적으로 오물이나 물이 차량의 윈드 실드(wind shield)를 오염시키는 경우, 운전자는 외부 시야를 확보하지 못하여 사고가 일어날 수 있다.
또한, 차선 식별되지 않는 경우, 타차량(510)과 주행경로에 대한 협의가 이루어지지 않아 사고가 발생할 수 있다. 예컨대, 교차로에서 좌회전 차선이 2 이상이고 좌회전에 대한 차선이 없는 경우, 양 차선에서 좌회전하는 차량들은 운전자들이 임의로 결정하는 주행방향으로 좌회전 주행을 하게 되어 안전을 담보하지 못하는 문제가 있다.
즉, 차선에 대한 시야가 확보되지 않는 상황이나, 차선이 없어 차량 간의 주행방향에 대한 협의가 필요한 경우 등 차량 간 공통된 규약인 차선이 미식별 되어, 사고 위험이 증대되는 문제가 있다.
본 발명은 전술한 문제점을 해결하기 위한 것으로, 차선 미식별시 가상 차선을 제공하여 운전자의 주행을 보조하는 차량 운전 보조장치 및 이를 포함하는 차량을 제안하고자 한다.
실시예에 따른 차량 운전보조장치는 영상 정보, 거리 정보, 센서 정보, 내비게이션 정보, 보조 정보 및 인접차량 정보 중 적어도 하나 이상의 정보를 기초로 차선 미식별 상황을 판단하고, 가상 차선을 생성하는 프로세서; 및 상기 생성된 가상 차선을 출력하는 출력부를 포함한다.
또한, 실시예에 따른 차량은 전술한 실시예에 따른 상기 디스플레이 장치를 포함한다.
이러한 실시예에 따른 차량 운전 보조장치는 차선 미식별 상황을 판단하고, 상황에 따라 적절한 정보들을 근거로 가상 차선을 생성할 수 있으며, 이를 출력하여 사용자의 안전 운전을 보조할 수 있다.
또한, 실시예에 따른 차량 운전 보조장치는 생성된 가상 차선을 인접차량들과 공유하여 차량들 간 사고를 미연에 방지할 수 있다.
도 1은 본 발명의 실시예에 따른 차량 운전 보조장치를 구비하는 차량의 외관을 도시한 도면이다.
도 2는 본 발명의 실시예에 따른 차량 운전 보조장치를 구비하는 차량의 내관을 도시한 도면이다.
도 3은 본 발명의 실시예에 따른 차량 운전 보조장치의 블록도를 나타낸다.
도 4는 본 발명의 실시예에 따라 도 1의 차량에 부착되는 카메라를 설명하는데 참조되는 도면이다.
도 5는 본 발명의 실시예에 따른 영상을 처리하는 프로세서의 일부를 블록도로 나타낸다.
도 6은 도 5의 프로세서의 동작 설명에 참조되는 도면이다.
도 7은 본 발명의 실시예에 따른 디스플레이부가 가상 차선을 표시하는 모습을 나타낸다.
도 8은 본 발명의 실시예에 따른 라이트 모듈이 가상 차선을 표시하는 모습을 나타낸다.
도 9는 본 발명의 실시예에 따른 차량 운전 보조장치가 인접차량을 경고하는 모습을 나타낸다.
도 10 내지 도 15는 본 발명의 실시예에 따른 차량 운전 보조장치가 가상 차선을 생성하고 표시하는 일례들을 설명하는 도면들이다.
도 16 내지 도 20은 본 발명의 실시예에 따른, 인접차량과의 통신을 통해 가상 차선을 생성하고 보정하는 과정을 설명하는 도면들이다.
도 21 내지 도 24는 본 발명의 실시예에 따른, 영상 정보 및 거리 정보를 기초로 가상 차선을 생성하고 출력하는 과정을 설명하는 도면들이다.
도 25 내지 도 27은 본 발명의 실시예에 따른, 영상 정보 및 거리 정보를 기초로 가상 차선을 생성하고 출력하는 과정을 설명하는 도면들이다.
도 27은 도 1의 차량의 내부 블록도의 일례이다.
이하, 첨부된 도면을 참조하여 본 명세서에 개시된 실시 예를 상세히 설명하되, 도면 부호에 관계없이 동일하거나 유사한 구성요소는 동일한 참조 번호를 부여하고 이에 대한 중복되는 설명은 생략하기로 한다. 이하의 설명에서 사용되는 구성요소에 대한 접미사 "모듈" 및 "부"는 명세서 작성의 용이함만이 고려되어 부여되거나 혼용되는 것으로서, 그 자체로 서로 구별되는 의미 또는 역할을 갖는 것은 아니다. 또한, 본 명세서에 개시된 실시 예를 설명함에 있어서 관련된 공지 기술에 대한 구체적인 설명이 본 명세서에 개시된 실시 예의 요지를 흐릴 수 있다고 판단되는 경우 그 상세한 설명을 생략한다. 또한, 첨부된 도면은 본 명세서에 개시된 실시 예를 쉽게 이해할 수 있도록 하기 위한 것일 뿐, 첨부된 도면에 의해 본 명세서에 개시된 기술적 사상이 제한되지 않으며, 본 발명의 사상 및 기술 범위에 포함되는 모든 변경, 균등물 내지 대체물을 포함하는 것으로 이해되어야 한다.
제1, 제2 등과 같이 서수를 포함하는 용어는 다양한 구성요소들을 설명하는데 사용될 수 있지만, 상기 구성요소들은 상기 용어들에 의해 한정되지는 않는다. 상기 용어들은 하나의 구성요소를 다른 구성요소로부터 구별하는 목적으로만 사용된다.
어떤 구성요소가 다른 구성요소에 "연결되어" 있다거나 "접속되어" 있다고 언급된 때에는, 그 다른 구성요소에 직접적으로 연결되어 있거나 또는 접속되어 있을 수도 있지만, 중간에 다른 구성요소가 존재할 수도 있다고 이해되어야 할 것이다. 반면에, 어떤 구성요소가 다른 구성요소에 "직접 연결되어" 있다거나 "직접 접속되어" 있다고 언급된 때에는, 중간에 다른 구성요소가 존재하지 않는 것으로 이해되어야 할 것이다.
단수의 표현은 문맥상 명백하게 다르게 뜻하지 않는 한, 복수의 표현을 포함한다.
본 출원에서, "포함한다" 또는 "가지다" 등의 용어는 명세서상에 기재된 특징, 숫자, 단계, 동작, 구성요소, 부품 또는 이들을 조합한 것이 존재함을 지정하려는 것이지, 하나 또는 그 이상의 다른 특징들이나 숫자, 단계, 동작, 구성요소, 부품 또는 이들을 조합한 것들의 존재 또는 부가 가능성을 미리 배제하지 않는 것으로 이해되어야 한다.
본 명세서에서 기술되는 차량은, 자동차, 오토바이를 포함하는 개념일 수 있다. 이하에서는, 차량에 대해 자동차를 위주로 기술한다.
본 명세서에서 기술되는 차량은, 동력원으로서 엔진을 구비하는 내연기관 차량, 동력원으로서 엔진과 전기 모터를 구비하는 하이브리드 차량, 동력원으로서 전기 모터를 구비하는 전기 차량 등을 모두 포함하는 개념일 수 있다.
이하의 설명에서 차량의 좌측은 차량의 주행 방향의 좌측을 의미하고, 차량의 우측은 차량의 주행 방향의 우측을 의미한다.
이하의 설명에서 별도로 언급되지 않는 한 LHD(Left Hand Drive) 차량을 중심으로 설명한다.
이하 도 1 내지 도 15를 참조하여 차량 운전 보조장치에 대해 상세히 설명한다.
도 1은 본 발명의 실시예에 따른 차량 운전 보조장치를 구비하는 차량의 외관을 도시한 도면이고, 도 2는 본 발명의 실시예에 따른 차량 운전 보조장치를 구비하는 차량의 내관을 도시한 도면이며, 도 3은 본 발명의 실시예에 따른 차량 운전 보조장치의 블록도를 나타낸다.
도 1 내지 도 3을 보면, 차량(700)은, 동력원에 의해 회전하는 바퀴(13FL, 13FR), 차량(700) 전방의 시야를 확보하는 윈드 실드(W), 차량(700)의 주행을 제어하기 위한 운전 조작 수단(721A, 721B, 723C, 724D) 및 차량 운전 보조장치(100)를 포함할 수 있다.
여기서, 차량 운전 보조장치(100)는 별도의 장치로서, 차량(700)과 데이터 통신을 통해 필요 정보를 주고 받으며 운전을 보조하는 기능을 실행할 수 있고, 차량(700)의 유닛 중 일부의 집합을 차량 운전 보조장치(100)로 정의할 수도 있다.
그리고 별도의 장치일 때, 도 3의 차량 운전 보조장치(100)의 각 유닛들 중 일부는 차량 운전 보조장치(100)에 포함되지 않고, 차량(700) 또는 차량(700)에 탑재된 다른 장치의 유닛일 수 있다. 이러한 유닛들은 차량 운전 보조장치(100)의 인터페이스부(130)를 통해 데이터 송수신함으로써, 차량 운전 보조장치(100)에 포함되는 것으로 이해할 수 있다.
실시예에 따른 차량 운전 보조장치(100)는 도 3에 도시한 각 유닛들을 직접 포함하는 것으로 설명하나, 차량(700)에 직접 설치된 각 유닛들을 인터페이스부(130)를 통해 이용하는 것도 가능하고, 차량(700)에 직접 설치된 각 유닛들의 조합으로도 구현될 수도 있다.
이하 설명에서는 차량 운전 보조장치(100)가 가상 차선을 생성하고 출력하는데 필요한 유닛들을 직접 포함하고 있는 것으로 설명한다.
도 1 내지 도 3을 참조하면, 이러한 차량 운전 보조장치(100)는 입력부(110), 통신부(120), 인터페이스부(130), 메모리(140), 모니터링부(150), 카메라(160), 프로세서(170), 출력부(180), 센서부(190) 및 전원 공급부(197)를 포함할 수 있다.
먼저, 차량 운전 보조장치(100)는 사용자의 입력을 감지하는 입력부(110)를 포함할 수 있다. 사용자는 입력부(110)를 통해 차량 운전 보조장치(100)에서 제공하는 보조 기능들을 설정하고 제어할 수 있다.
자세히, 입력부(110)는 차량(700) 내에 배치되어 사용자의 터치 입력을 감지하는, 복수의 버튼이나, 디스플레이부(181)에 배치된 터치 센서가 해당될 수 있다.
사용자는 터치 입력을 통해, 차량 운전 보조장치(100)의 전원을 온/오프시키는 실행 입력이나, 가상 차선 표시 여부, 가상 차선 특성 등을 제어할 수 있다.
다음으로, 차량 운전 보조장치(100)는 타차량(510), 단말기(600) 및 서버(500) 등과 데이터를 통신하는 통신부(120)를 포함할 수 있다. 차량 운전 보조장치(100)는 통신부(120)를 통해 내비게이션(Navigation) 정보 또는/및 인접차량 정보를 수신할 수 있다. 그리고 수신된 정보는 차선 식별여부를 판단하고, 가상 차선을 생성하는데 이용될 수 있다.
또한, 차량 운전 보조장치(100)는 생성된 가상 차선 정보를 통신부를 통해 인접차량에게 전송하여, 인접차량과 공통된 가상 차선 정보를 공유할 수 있다.
자세히, 통신부(120)는 타차량(510), 이동 단말기(600) 또는 서버(500)와 무선(wireless) 방식으로 데이터를 교환할 수 있다. 특히, 통신부(120)는 차량(700) 운전자의 이동 단말기와 무선으로 데이터를 교환할 수 있다. 무선 데이터 통신 방식으로는 블루투스(Bluetooth) WiFi, Direct WiFi, APiX 또는/및 NFC 등 다양한 데이터 통신 방식이 가능하다.
이러한 통신부(120)는 이동 단말기(600) 또는/및 서버(500)로부터 위치 정보 날씨 정보 도로의 교통 상황 정보 예를 들면 TPEG(Transport Protocol Expert Group) 정보를 수신할 수 있다.
또한, 통신부(120)는 이동 단말기(600)를 내비게이션으로 이용할 경우, 이동 단말기(600)로부터 내비게이션 정보를 수신할 수도 있다. 여기서, 내비게이션 정보는 차량 주행과 관련된 맵(map) 정보, 차량의 위치 정보, 설정된 목적지 정보 및 목적지에 따른 경로 정보 중 적어도 하나 이상의 정보를 포함할 수 있다.
즉, 통신부(120)는 이동 단말기(600)를 통하거나, 직접 교통 서버와 접속하여 내비게이션 정보를 수신할 수 있다.
또한, 통신부(120)는 타차량(510)로부터 인접차량 정보를 수신할 수 있다. 자세히, 통신부(120)는 기 설정된 일정 거리 내에 배치된 타차량(510)으로부터 인접차량 정보를 수신할 수 있다. 여기서, 인접차량 정보란 타차량(510) 위치, 타차량(510)과 자차량(700) 사이의 거리, 타차량(510) 속도, 타차량(510) 주행방향 및 타차량(510)이 설정한 가상차선 중 적어도 하나 이상의 정보를 포함할 수 있다.
그리고 통신부(120)는 차량 운전 보조장치(100)에서 생성된 가상 차선 정보를 타차량(510)에게 전송할 수 있다. 이때, 차량 운전 보조장치(100)는 통신부(120)를 통해 타차량(510)과 가상 차선 정보를 서로 공유하며 가상 차선의 위치 등을 보정할 수 있다.
이를 통해, 차량 운전 보조장치(100)는 차선 미식별시 가상 차선을 생성하여 사용자의 운전을 보조할 수 있을 뿐만 아니라, 생성된 가상 차선을 인접차량에 전송하여 인접차량에 운전자가 생성된 가상 차선을 인지하도록 하여, 본 차량(700)과 인접차량은 공통된 가상 차선을 공유하며 주행함으로써, 안전 주행을 도모할 수 있다.
또한, 사용자가 차량(700)에 탑승한 경우, 사용자의 이동 단말기(600)와 차량 운전 보조장치(100)는 자동으로 또는 사용자의 애플리케이션 실행에 의해 서로 페어링(pairing)을 수행할 수도 있다.
또한, 통신부(120)는 외부 서버(500)로부터 신호등 변경 등의 교통 정보를 수신할 수 있다. 여기서 서버(500)는 교통을 관제하는 교통 관제소에 위치하는 서버일 수 있다.
다음으로, 차량 운전 보조장치(100)는 차량(700)의 센서부(190) 또는/및 제어부와 차량 운전 보조장치(100) 간의 데이터를 송수신하는 인터페이스부(130)를 포함할 수 있다.
자세히, 차량 운전 보조장치(100)는 인터페이스부(130)를 통해 내비게이션 정보 또는/및 센서 정보를 수신할 수 있다. 그리고 수신된 정보는 차선 식별여부를 판단하고, 가상 차선을 생성하는데 이용될 수 있다.
또한, 차량 운전 보조장치(100)는 인터페이스부(130)를 통해 차선 미식별에 따른 조치를 실행하기 위한 입력을 전달할 수 있다. 예를 들어, 차량 운전 보조장치(100)는 윈드 실드(W) 오염시, 인터페이스부(130)를 통해 와이퍼를 작동시키거나 공조기를 작동시킬 수 있으며, 자율주행 기능(예컨데, ACC, adaptive cruise control)에 대한 실행 신호를 차량(700)의 제어부에 전달할 수 있다.
이를 위해, 인터페이스부(130)는 유선 통신/무선 통신 방식에 의해 차량(700) 내부의 제어부(770), AVN(Audio Video Navigation) 장치(400) 또는/및 차량 센서부(760) 등과 데이터 통신을 수행할 수 있다.
자세히, 인터페이스부(130)는 AVN 장치(400) 또는/및 차량(700)의 내비게이션 장치와의 데이터 통신에 의해 내비게이션 정보를 수신할 수 있다.
또한, 인터페이스부(130)는 제어부(770) 또는 차량 센서부(760)로부터 센서 정보를 수신할 수 있다.
여기서, 센서 정보는, 차량(700)의 방향 정보, 위치 정보, 차속 정보, 가속도 정보, 기울기 정보, 전진/후진 정보, 연료 정보 및 턴 시그널 정보 중 적어도 하나 이상의 정보를 포함할 수 있다.
또한, 센서 정보는 헤딩 센서(heading sensor), 요 센서(yaw sensor), 자이로 센서(gyro sensor), 포지션 모듈(position module), 차량 전진/후진 센서, 휠 센서(wheel sensor), 차량 속도 센서, 차체 경사 감지센서, 배터리 센서, 연료 센서, 타이어 센서, 핸들 회전에 의한 스티어링 센서, 차량 내부 온도 센서, 차량(700) 내부 습도 센서 등으로부터 획득될 수 있다. 한편, 포지션 모듈은, GPS 정보 수신을 위한 GPS 모듈을 포함할 수 있다.
특히, 센서 정보는 차량(700)에 방해가 되는 물체와의 거리 정보를 포함할 수 있다. 예를 들어, 센서 정보는 인접한 타차량(510)과의 거리 정보를 포함할 수 있고, 도로 위의 주행 방해 물체 및 간접도로 표시물에 해당하는 중앙 분리대, 연석, 가로수 등과의 거리 정보를 포함할 수 있다.
인터페이스부(130)는 차량(700)의 사용자 입력부(710)를 통해 수신되는 사용자 입력을 수신할 수 있다. 인터페이스부(130)는 사용자 입력을 차량(700)의 사용자 입력부(710)로부터 수신하거나, 제어부(770)를 거쳐 수신할 수 있다. 즉, 입력부(710)가 차량(700) 자체 내에 구성으로 배치된 경우, 인터페이스부(130)를 통해 사용자 입력을 전달받을 수 있다.
인터페이스부(130)는 서버(500)로부터 획득된 교통 정보를 수신할 수도 있다. 서버(500)는 교통을 관제하는 교통 관제소에 위치하는 서버일 수 있다. 예를 들면, 차량(700)의 통신부(120)를 통해 서버(500)로부터 교통 정보가 수신되는 경우 인터페이스부(130)는 교통 정보를 제어부(770)로부터 수신할 수도 있다.
다음, 메모리(140)는 프로세서(170)의 처리 또는 제어를 위한 프로그램 등 차량 운전 보조장치(100) 전반의 동작을 위한 다양한 데이터를 저장할 수 있다.
자세히, 메모리(140)는 오브젝트 확인을 위한 데이터를 저장할 수 있다. 예를 들면, 메모리(140)는, 카메라(160)를 통해 획득된 영상에서, 소정 오브젝트가 검출되는 경우, 소정 알고리즘에 의해, 상기 오브젝트가 무엇에 해당하는지 확인하기 위한 데이터를 저장할 수 있다.
예를 들면, 메모리(140)는, 카메라(160)를 통해 획득된 영상에서, 소정의 교통 정보가 검출되는 경우, 소정 알고리즘에 의해, 상기 교통 정보가 무엇에 해당하는지 확인하기 위한 데이터를 저장할 수 있다.
또한, 메모리(140)는 카메라(160)를 통해 획득된 영상에서, 차선을 예측하는데 도움이 될 수 있는 간접도로표시, 인접차량, 차선 일부, 주행 방해물 등을 확인하기 위한 데이터를 저장할 수 있다.
또한, 메모리(140)는 하드웨어적으로, ROM, RAM, EPROM, 플래시 드라이브, 하드 드라이브 등과 같은 다양한 저장기기 일 수 있다.
다음으로, 차량 운전 보조장치(100)는 차량(700) 내부 영상을 촬영하는 모니터링부(150)를 포함할 수 있다.
자세히, 모니터링부(150)는 탑승자에 대한 이미지를 획득할 수 있다. 모니터링부(150)는 탑승자의 생체인식을 위한 이미지를 획득할 수 있다. 즉, 모니터링부(150)는 차량(700) 내부에 배치된 영상 획득 모듈일 수 있다.
프로세서(170)는 모니터링부(150)를 통해 획득된 사용자 영상을 분석하여 사용자의 시선을 검출할 수 있다. 그리고 프로세서(170)는 검출된 시선을 고려하여 윈드 실드(W)에 가상 차선을 표시하도록 디스플레이부(181)를 제어할 수 있다.
다음으로, 차량 운전 보조장치(100)는 차량(700) 전방 영상 또는/및 차량(700) 주변 영상을 촬영하는 카메라(160)를 포함할 수 있다. 그리고 차량 운전 보조장치(100)는 카메라(160)를 통해 영상 정보를 획득할 수 있다. 또한, 차량 운전 보조장치(100)는 획득된 영상 정보를 이용하여 차선 미식별 상황을 판단하고 미식별시 가상 차선을 생성할 수 있다.
카메라(160)는 차량(700) 주변 영상을 촬영할 수 있다. 자세히, 카메라(160)는 차량(700)의 전방을 촬영하여 전방 영상을 획득하고, 프로세서(170)는 이러한 전방 영상에 포함된 오브젝트를 분석하여 영상 정보를 획득할 수 있다.
예를 들어, 카메라(160)가 촬영한 영상에 차선, 인접차량, 주행 방해물, 및 간접도로 표시물에 해당하는 중앙 분리대, 연석, 가로수 등의 오브젝트가 촬영된 경우, 프로세서(170)는 이러한 오브젝트를 검출하여 영상 정보에 포함시킬 수 있다. 이때, 프로세서(170)는 센서를 통해 검출된 오브젝트와의 거리 정보를 획득하여, 영상 정보를 더 보완할 수 있다.
이러한 카메라(160)는 이미지 센서와 영상 처리 모듈을 포함할 수 있다. 카메라(160)는 이미지 센서(예를 들면, CMOS 또는 CCD)에 의해 얻어지는 정지영상 또는 동영상을 처리할 수 있다. 영상 처리 모듈은 이미지 센서를 통해 획득된 정지영상 또는 동영상을 가공하여, 필요한 정보를 추출하고, 추출된 정보를 프로세서(170)에 전달할 수 있다.
이때, 카메라(160)는 오브젝트를 측정 정확도를 향상시키고, 차량(700)과 오브젝트와의 거리 등의 정보를 더 확보할 수 있도록 스테레오 카메라(160)를 포함할 수 있다.
이하 도 4 내지 도 6을 참조하여, 스테레오 카메라(160)를 이용하여 영상에 포함된 오브젝트를 분석하는 과정을 설명한다.
도 4는 본 발명의 실시예에 따라 도 1의 차량(700)에 부착되는 카메라(160)를 설명하는데 참조되는 도면이다.
먼저, 도 4를 참조하면, 차량(700) 운전 보조 장치가 2개의 카메라(160)를 포함하는 것으로 도시하였지만, 실시예는 카메라(160)의 개수에 한정되지 아니한다.
도면을 참조하면, 차량(700) 운전 보조 장치는, 제1 렌즈(163a)를 구비하는 제1 카메라(160a), 제2 렌즈(163b)를 구비하는 제2 카메라(160b)를 구비할 수 있다. 이경우, 카메라(160)는 스테레오 카메라(160)로 명명될 수 있다.
한편, 차량(700) 운전 보조 장치는, 각각, 제1 렌즈(163a)와 제2 렌즈(163b)에 입사되는 광을 차폐하기 위한, 제1 광 차폐부(light shield)(162a), 제2 광 차폐부(162b)를 구비할 수 있다.
이러한 차량(700) 운전 보조 장치는 제1 및 제2 카메라(160a, 160b)로부터, 차량(700) 전방에 대한 스테레오 이미지를 획득하고, 스테레오 이미지에 기초하여, 디스패러티(disparity) 검출을 수행하고, 디스패러티 정보에 기초하여, 적어도 하나의 스테레오 이미지에 대한, 오브젝트 검출을 수행하며, 오브젝트 검출 이후, 계속적으로, 오브젝트의 움직임을 트래킹할 수 있다.
도 5는 본 발명의 실시예에 따른 영상을 처리하는 프로세서(170)의 일부를 블록도로 나타낸다. 도 6은 도 5의 프로세서(170)의 동작 설명에 참조되는 도면이다.
도 5 및 도 6을 참조하여, 프로세서(170)가 영상 정보를 검출하는 방법을 좀더 상세히 설명한다.
도 5는 본 발명의 실시예에 따른 프로세서(170)의 내부 블록도이다. 도 6은 도 5의 프로세서(170)의 동작 설명에 참조되는 도면이다.
먼저, 도 5를 참조하면, 프로세서(170)의 내부 블록도의 일예로서, 차량 운전 보조장치(100) 내의 프로세서(170)는, 영상 전처리부(410), 디스패러티 연산부(420), 오브젝트 검출부(434), 오브젝트 트래킹부(440), 및 어플리케이션부(450)를 포함할 수 있다. 도 5와 이하 설명에서는 영상 전처리부(410), 디스패러티 연산부(420), 오브젝트 검출부(434), 오브젝트 트래킹부(440), 및 어플리케이션부(450) 순으로 영상이 처리되는 것으로 설명하나, 이에 한정되지는 않는다.
영상 전처리부(image preprocessor)(410)는, 카메라(160)로부터의 이미지를 수신하여, 전처리(preprocessing)를 수행할 수 있다.
구체적으로, 영상 전처리부(410)는, 이미지에 대한, 노이즈 리덕션(noise reduction), 렉티피케이션(rectification), 캘리브레이션(calibration), 색상 강화(color enhancement), 색상 공간 변환(color space conversion;CSC), 인터폴레이션(interpolation), 카메라(160) 게인 컨트롤(camera gain control) 등을 수행할 수 있다. 이에 따라, 카메라(160)에서 촬영된 스테레오 이미지 보다 선명한 이미지를 획득할 수 있다.
디스패러티 연산부(disparity calculator)(420)는, 영상 전처리부(410)에서 신호 처리된, 이미지를 수신하고, 수신된 이미지들에 대한 스테레오 매칭(stereo matching)을 수행하며, 스테레오 매칭에 따른, 디스패러티 맵(dispartiy map)을 획득할 수 있다. 즉, 차량(700) 전방에 대한, 스테레오 이미지에 대한 디스패러티 정보를 획득할 수 있다.
이때, 스테레오 매칭은, 스테레오 이미지들의 픽셀 단위로 또는 소정 블록 단위로 수행될 수 있다. 한편, 디스패러티 맵은, 스테레오 이미지, 즉 좌,우 이미지의 시차(時差) 정보(binocular parallax information)를 수치로 나타낸 맵을 의미할 수 있다.
세그멘테이션부(segmentation unit)(432)는, 디스패러티 연산부(420)로부터의 디스페러티 정보에 기초하여, 이미지 중 적어도 하나에 대해, 세그먼트(segment) 및 클러스터링(clustering)을 수행할 수 있다.
구체적으로, 세그멘테이션부(432)는, 디스페러티 정보에 기초하여, 스테레오 이미지 중 적어도 하나에 대해, 배경(background)과 전경(foreground)을 분리할 수 있다.
예를 들면, 디스패리티 맵 내에서 디스페러티 정보가 소정치 이하인 영역을, 배경으로 연산하고, 해당 부분을 제외시킬 수 있다. 이에 의해, 상대적으로 전경이 분리될 수 있다. 다른 예로, 디스패리티 맵 내에서 디스페러티 정보가 소정치 이상인 영역을, 전경으로 연산하고, 해당 부분을 추출할 수 있다. 이에 의해, 전경이 분리될 수 있다.
이와 같이, 스테레오 이미지에 기반하여 추출된 디스페러티 정보 정보에 기초하여, 전경과 배경을 분리함으로써, 이후의, 오브젝트 검출시, 신호 처리 속도, 신호 처리 양 등을 단축할 수 있게 된다.
다음, 오브젝트 검출부(object detector)(434)는, 세그멘테이션부(432)로부터의 이미지 세그먼트에 기초하여, 오브젝트를 검출할 수 있다.
즉, 오브젝트 검출부(434)는, 디스페러티 정보 정보에 기초하여, 이미지 중 적어도 하나에 대해, 오브젝트를 검출할 수 있다.
구체적으로, 오브젝트 검출부(434)는, 이미지 중 적어도 하나에 대해, 오브젝트를 검출할 수 있다. 예를 들면, 이미지 세그먼트에 의해 분리된 전경으로부터 오브젝트를 검출할 수 있다.
다음, 오브젝트 확인부(object verification unit)(436)는, 분리된 오브젝트를 분류하고(classify), 확인할 수 있다(verify).
이를 위해, 오브젝트 확인부(436)는, 뉴럴 네트워크(neural network)를 이용한 식별법, SVM(Support Vector Machine) 기법, Haar-like 특징을 이용한 AdaBoost에 의해 식별하는 기법, 또는 HOG(Histograms of Oriented Gradients) 기법 등을 사용할 수 있다.
한편, 오브젝트 확인부(436)는, 메모리(140)에 저장된 오브젝트들과, 검출된 오브젝트를 비교하여, 오브젝트를 확인할 수 있다.
예를 들면, 오브젝트 확인부(436)는, 차량(700) 주변에 위치하는, 주변 차량(700), 차선, 도로면, 표지판, 위험 지역, 터널 등을 확인할 수 있다.
오브젝트 트래킹부(object tracking unit)(440)는, 확인된 오브젝트에 대한 트래킹을 수행할 수 있다. 예를 들면, 순차적으로, 획득되는 스테레오 이미지들에 내의, 오브젝트를 확인하고, 확인된 오브젝트의 움직임 또는 움직임 벡터를 연산하며, 연산된 움직임 또는 움직임 벡터에 기초하여, 해당 오브젝트의 이동 등을 트래킹할 수 있다. 이에 따라, 차량(700) 주변에 위치하는, 주변 차량(700), 차선, 도로면, 표지판, 위험 지역, 터널 등을 트래킹할 수 있게 된다.
다음, 어플리케이션부(450)는, 차량(700) 주변에, 위치하는 다양한 오브젝트들, 예를 들면, 다른 차량(700), 차선, 도로면, 표지판 등에 기초하여, 차량(700)의 위험도 등을 연산할 수 있다. 또한, 앞차와의 추돌 가능성, 차량(700)의 슬립 여부 등을 연산할 수 있다.
그리고, 어플리케이션부(450)는, 연산된 위험도, 추돌 가능성, 또는 슬립 여부 등에 기초하여, 사용자에게, 이러한 정보를 알려주기 위한, 메시지 등을, 차량(700) 운전 보조 정보로서, 출력할 수 있다. 또는, 차량(700)의 자세 제어 또는 주행 제어를 위한 제어 신호를, 차량(700) 제어 정보로서, 생성할 수도 있다.
한편, 영상 전처리부(410), 디스페러티 연산부(420), 세그먼테이션부(432), 오브젝트 검출부(434), 오브젝트 확인부(436), 오브젝트 트래킹부(440) 및 어플리케이션부(450)는 프로세서(170)내의 영상 처리부(도 5 참조)의 내부 구성일 수 있다.
한편, 실시예에 따라, 프로세서(170)는 영상 전처리부(410), 디스페러티 연산부(420), 세그먼테이션부(432), 오브젝트 검출부(434), 오브젝트 확인부(436), 오브젝트 트래킹부(440) 및 어플리케이션부(450) 중 일부만을 포함할 수 있다. 가령, 카메라(160)가 모노 카메라(160) 또는 어라운드 뷰 카메라(160)로 구성되는 경우, 디스패러티 연산부(420)는 제외될 수 있다. 또한, 실시예에 따라, 세그먼테이션부(432)는 제외될 수도 있다.
도 6을 참조하면, 제1 프레임 구간 동안, 카메라(160)는, 스테레오 이미지를 획득할 수 있다.
프로세서(170) 내의 디스패러티 연산부(420)는, 영상 전처리부(410)에서 신호 처리된, 스테레오 이미지(FR1a, FR1b)를 수신하고, 수신된 스테레오 이미지(FR1a, FR1b)에 대한 스테레오 매칭을 수행하여, 디스패러티 맵(dispartiy map)(520)을 획득한다.
디스패러티 맵(dispartiy map)(520)은, 스테레오 이미지(FR1a, FR1b) 사이의 시차를 레벨화한 것으로서, 디스패러티 레벨이 클수록, 차량(700)과의 거리가 가깝고, 디스패러티 레벨이 작을수록, 차량(700)과의 거리가 먼 것으로 연산할 수 있다.
한편, 이러한 디스패러티 맵을 디스플레이 하는 경우, 디스패러티 레벨이 클수록, 높은 휘도를 가지고, 디스패러티 레벨이 작을수록 낮은 휘도를 가지도록 표시할 수도 있다.
도면에서는, 디스패러티 맵(520) 내에, 제1 차선 내지 제4 차선(528a, 528b, 528c, 528d) 등이 각각 해당하는 디스패러티 레벨을 가지며, 공사 지역(522), 제1 전방 차량(524), 제2 전방 차량(526)이 각각 해당하는 디스패러티 레벨을 가지는 것을 예시한다.
세그멘테이션부(432)와, 오브젝트 검출부(434), 오브젝트 확인부(436)는, 디스패러티 맵(520)에 기초하여, 스테레오 이미지(FR1a, FR1b) 중 적어도 하나에 대한, 세그먼트, 오브젝트 검출, 및 오브젝트 확인을 수행한다.
도면에서는, 디스패러티 맵(520)을 사용하여, 제2 스테레오 이미지(FR1b)에 대한, 오브젝트 검출, 및 확인이 수행되는 것을 예시한다.
즉, 이미지(530) 내에, 제1 차선 내지 제4 차선(538a, 538b, 538c, 538d), 공사 지역(532), 제1 전방 차량(534), 제2 전방 차량(536)이, 오브젝트 검출 및 확인이 수행될 수 있다.
그리고 프로세서(170)는 이와 같이 이미지 내에서 검출 및 확인된 오브젝트들의 정보를 영상 정보로 생성할 수 있으며, 영상 정보를 통해 차선 식별여부를 판단할 수 있고, 미식별시 가상 차선 생성에 이용될 수 있다.
다음으로, 차량 운전 보조장치(100)는 생성된 가상 차선을 운전자에게 제공하는 출력부(180)를 포함할 수 있다. 그리고 출력부(180)는 디스플레이부(181), 라이트 모듈(183) 및 오디오 출력부(185) 중 적어도 하나 이상을 포함할 수 있다.
먼저, 디스플레이부(181)는 프로세서(170)에서 처리된 각종 정보를 표시할 수 있다.
자세히, 디스플레이부(181)는 생성된 가산 차선을 운전자가 시각적으로 확인할 수 있도록 이미지로 표시할 수 있다. 또한, 디스플레이부(181)는 차량(700) 운전 보조 장치의 동작과 관련한 이미지를 표시할 수 있다. 이러한 이미지 표시를 위해, 디스플레이부(181)는, 차량(700) 내부 전면의 클러스터(cluster) 또는 HUD(Head Up Display)를 포함할 수 있다. 한편, 디스플레이부(181)가 HUD 인 경우, 차량(700)의 전면 유리에 이미지를 투사하는 투사 모듈을 포함할 수 있다.
실시예에서 디스플레이부(181)는 차량(700)의 윈드 실드(W)에 이미지를 투사하여 표시하는 헤드 업 디스플레이부(181)로, 윈드 실드(W)에 이미지를 투사하는 투사 모듈을 포함한다. 그리고 투사 모듈이 투사하는 투사 이미지는 일정 투명도를 가질 수 있어, 사용자는 투사 이미지 뒤 모습과 투사 이미지를 동시에 볼 수 있어, 사용자는 가상 차선과 함께 가상 차선 표시 영역을 투영한 외부 상황도 파악할 수 있다.
이러한 디스플레이부(181)에서 표시되는 투사 이미지는 윈드 실드(W)에 투영되는 투영 이미지와 겹쳐셔 증강현실(Augmented Reality, AR)을 이룰 수 있다. 이때, 투사 이미지는 가상 차선일 수 있으며, 운전자는 전방 주의를 유지하면서, 가상 차선을 확인할 수 있어, 주행 안전성을 향상시킬 수 있다. 특히, 순간적으로 윈드 실드(W)가 오염되어 외부 식별이 불가능할 때, 운전자는 윈드 실드(W)에 표시된 가상 차선으로 안전 주행이 가능한 장점이 있다.
도 7은 본 발명의 실시예에 따른 디스플레이부(181)가 가상 차선을 표시하는 모습을 나타낸다.
도 7을 보면, 디스플레이부(181)가 윈드 실드(W)를 통해 생성된 가상 차선(L1, L2, L3)을 표시하는 모습을 나타낸다. 자세히, 디스플레이부(181)는 윈드 실드(W)를 통해 투영되는 외부 이미지에 매칭되도록 가상 차선(L1, L2, L3)을 표시할 수 있다. 표시되는 가상 차선(L1, L2, L3)은 차량(700) 주행에 보조되는 차선일 수 있다. 예를 들어, 가상 차선(L1, L2, L3)은 차량(700)이 주행하는 양측 차선, 중앙 차선 및 주행 가능한 최외곽 폭을 나타내는 차선 등을 포함할 수 있다.
나아가, 인접차량과 사용자 차량(700)의 가상 차선(L1, L2, L3)은 오차가 있을 때, 가상 차선(L1, L2, L3)은 인접차량의 가상 차선(미도시)을 추가적으로 포함하여, 사용자가 인접차량이 인지하고 주행하는 차선을 이해하도록 도울 수 있다.
또한, 차량(700) 내에 배치된 디스플레이부(181)를 통해 가상 차선(L1, L2, L3)을 표시할 수도 있다. 이러한 디스플레이부(181)는 액정 디스플레이(liquid crystal display, LCD), 박막 트랜지스터 액정 디스플레이(thin film transistor-liquid crystal display, TFT LCD), 유기 발광 다이오드(organic light-emitting diode, OLED), 플렉서블 디스플레이(flexible display), 3차원 디스플레이(3D display), 전자잉크 디스플레이(e-ink display) 중에서 적어도 하나를 포함할 수 있다.
한편, 출력부(180)는 생성된 가상 차선을 노면에 표시하는 라이트 모듈(183)을 더 포함할 수 있다.
라이트 모듈(183)은 레이저를 노면에 조사하여 생성된 가상 차선을 표시할 수 있다.
자세히, 라이트 모듈(183)은 생성된 가상 차선을 운전자가 볼 수 있도록 차량(700)의 전방 노면에 표시할 수 있다. 또한, 라이트 모듈(183)은 생성된 가상 차선을 타차량(510)의 운전자가 볼 수 있도록 차량(700)의 측방 노면에 표시할 수 있다. 나아가, 라이트 모듈(183)은 생성된 가상 차선을 후방 차량(42)이 식별할 수 있도록 차량(700)의 후방 노면에 표시할 수도 있다.
도 8은 본 발명의 실시예에 따른 라이트 모듈(183)이 가상 차선을 표시하는 모습을 나타낸다.
도 8을 보면, 차량(700)의 좌우에는 라이트 모듈(183)이 장착되고, 라이트 모듈(183)은 차량(700)의 전방 및 좌우 측방으로 레이저 라이트를 조사하여 가상 차선(LL, LR)을 표시할 수 있다.
이러한 라이트 모듈(183)은 사용자뿐만 아니라 인접한 차량에도 차량(700)이 주행하는 경로를 명확하게 인지 가능하도록 제공하여, 인접 차량에 접근을 방지함으로써 안전 주행을 보조할 수 있다.
출력부(180)는 오디오 출력부(185)를 더 포함할 수 있다. 오디오 출력부(185)는 사용자에게 가상 차선 생성에 관한 정보를 소리로 출력할 수 있다. 특히, 오디오 출력부(185)는 생성된 가상 차선에 기반하여 운전 주행 보조기능(ADAS, advanced driver assistance systems)에 관한 알림 등을 출력할 수 있다. 즉, 가상 차선이 생성된 경우, 차량 운전 보조장치(100)는 가상 차선을 기준으로 운전 주행 보조기능을 실행할 수 있다.
도 9는 본 발명의 실시예에 따른 차량 운전 보조장치(100)가 인접차량을 경고하는 모습을 나타낸다.
도 9를 보면, 본 차량(700)이 생성한 가상 차선에 타차량(510)이 진입한 경우, 거리 센서(191a, 191b)로 이를 감지하고 사각지대경고기능(BSD, blind spot detection)이 작동하여 타차량(510)이 본 차량(700)에 접근했음을 오디오 출력부(185)로 알릴 수 있다. 이를 통해, 사용자는 사각 지대에 타차량(510)이 있다는 경고에 더해 타차량(510)의 위치가 가상 차선 내임을 인식하여 타차량(510)의 위치를 더욱 직관적으로 인지할 수 있다.
또한, 가상 차선을 기준으로 차선 이탈 방지 기능(LKAS, Lane Keeping Assist System), 차선 이탈 경고 기능(LDWS, Lane Departure Warning System) 등이 실행될 수 있다.
이를 위해, 차량 운전 보조장치(100)는 센서부(190)를 더 포함할 수 있다. 이하 설명에서는 센서부(190)가 차량 운전 보조장치(100)에 직접 포함되는 것으로 설명하나, 차량(700)의 센싱부(760)를 인터페이스부(130)를 통해 이용하는 실시예도 가능하다.
센서부(190)는 차량(700) 인접 물체와의 거리를 측정하는 거리 센서(191)와, 우적량을 측정하는 우적 센서(193)와, 차량(700) 주변의 밝기를 측정하는 조도 센서(195) 중 적어도 하나 이상의 센서를 포함할 수 있다.
먼저, 거리 센서(191)는 차량(700)에 인접한 물체와의 거리를 측정하여, 가상 차선 생성에 보조 정보로 활용할 수 있다. 예컨대, 인접한 타차량(510)이나, 차량(700) 주행이 되는 방해물인 연석, 중앙 분리대 등과 차량(700)과의 거리를 측정하여, 이를 회피하는 가상 차선을 생성하는 정보로서 활용될 수 있다.
또한, 우적 센서(193)는 비, 눈 등을 감지하여 운전자의 외부 시야를 감지할 수 있다. 프로세서(170)는 우적 센서(193)를 통해 기 설정된 수치 이상의 우적 량이 감지되는 경우, 차선 식별이 어려운 것으로 판단할 수 있다.
또한, 조도 센서(195)는 외부 조도를 감지하여 운전자의 외부 시야를 감지할 수 있다. 프로세서(170)는 조도 센서(195)를 통해 기 설정된 조도 이하일 경우, 차선 식별이 어려운 것으로 판단할 수 있다.
이와 같이 센서부(190)로 센싱된 정보들은 센서 정보에 포함되어 가상 차선 생성에 활용될 수도 있다.
마지막으로, 차량 운전 보조장치(100)는 차량 운전 보조장치(100) 내의 각 유닛의 전반적인 동작을 제어하는 프로세서(170)를 포함할 수 있다.
자세히, 프로세서(170)는 차선 미식별 상황을 판단할 수 있다. 예를 들어, 프로세서(170)는 영상 정보에서 차선을 나타내는 오브젝트가 기 설정된 시간 이상 검출되지 않거나, 내비게이션 정보에서 차선이 없는 주행 경로일 경우, 차선 미식별 상태로 판단할 수 있다.
차선 미식별 상태일 때, 프로세서(170)는 내비게이션 정보, 영상 정보, 센서 정보 및 인접차량 정보 중 적어도 하나의 이상의 정보를 기초로 가상 차선을 생성할 수 있다.
자세히, 프로세서(170)는 내비게이션 정보 중 차량 주변의 도로에 대한 간접 정보를 기초로 가상 차선을 생성할 수 있다. 예를 들어, 프로세서(170)는 차량(700)의 위치와, 차량(700) 위치의 주변 도로의 폭, 도로 연장 방향 등을 팩터로 이용하여 가상 차선을 생성할 수 있다.
또한, 프로세서(170)는 차량(700)의 위치가 비포장 도로인 경우, 내비게이션 정보에서 차량(700)의 현재 위치와 목적지 위치를 기초로 가상 차선을 생성할 수 있다.
그리고 프로세서(170)는 영상 정보를 기초로 가상 차선을 생성할 수 있다. 예를 들어, 프로세서(170)는 영상 정보 중 간접 도로 표시물에 해당하는 오브젝트를 기초로 가상 차선을 생성할 수 있다.
또한, 프로세서(170)는 차량(700)의 주행 경로에 주행 방해물이 검출될 경우, 이를 회피할 수 있도록 가상 차선을 생성할 수 있다. 예컨대, 프로세서(170)는 차량(700) 주행 경로에 타차량이 위치하는 경우, 이를 회피하는 가상 차선을 생성할 수 있다.
또한, 프로세서(170)는 윈드 실드(W) 오염에 경우, 오염 직전 촬영된 영상 정보를 기초로 가상 차선을 생성할 수 있다. 예를 들어, 윈드 실드(W)에 오염물이 뒤덮여 순간적으로 운전자가 외부 식별이 어려운 경우, 프로세서(170)는 오염물이 윈드 실드(W)를 오염하기 전 영상 정보의 차선과, 차량(700)이 주행한 상태를 기초로 가상 차선을 생성할 수 있다.
그리고 프로세서(170)는 센서 정보를 기초로 가상 차선을 생성할 수 있다. 예를 들어, 프로세서(170)는 차량(700)에 인접한 주행 방해 물체와의 거리를 측정하고 이를 회피할 수 있도록 가상 차선을 생성할 수 있다. 운전자가 차선 식별이 어려운 경우, 영상 정보에도 차선이 검출되기 어려운 경우가 많으므로, 이를 센서 정보로 보완하여, 안전 주행을 보조할 수 있다.
그리고 프로세서(170)는 인접차량 정보를 기초로 가상 차선을 생성할 수 있다. 예를 들어, 프로세서(170)는 전방 차량이 생성한 가상 차선을 전달 받고, 이를 자신의 차량(700)으로 연장한 가상 차선을 생성할 수 있다.
또한, 프로세서(170)는 측방 차량(700)이 생성한 가상 차선을 전달 받고, 측방 차량(700)과의 충돌을 방지하기 위해 생성한 가상 차선을 측방 차량(700)의 가상 차선과 켈리브레이션할 수 있다.
즉, 프로세서(170)는 측방 주행 타차량(510)과 간격을 통해 생성한 가상 차선과 인접차량의 가상 차선과 통신을 통해 켈리브레이션하여 인접차량과 서로 공통된 가상 차선을 공유할 수 있다. 예를 들어, 상기 프로세서(170)는, 상기 생성된 가상차선과 상기 측방주행 차량(700)의 가상차선이 침범할 경우, 서로 오버랩되도록 상기 가상차선을 켈리브레이션할 수 잇다.
이러한 프로세서(170)는 ASICs (application specific integrated circuits), DSPs(digital signal processors), DSPDs(digital signal processing devices), PLDs(programmable logic devices), FPGAs(field programmable gate arrays), 프로세서(170)(processors), 제어기(controllers), 마이크로 컨트롤러(micro-controllers), 마이크로 프로세서(170)(microprocessors), 기타 기능 수행을 위한 전기적 유닛 중 적어도 하나를 이용하여 구현될 수 있다.
그리고 이러한 프로세서(170)는 제어부의 제어를 받거나, 제어부를 통해 차량(700)을 여러 기능을 제어할 수 있다.
도 10 내지 도 15는 본 발명의 실시예에 따른 차량 운전 보조장치(100)가 가상 차선을 생성하고 표시하는 일례들을 설명하는 도면들이다.
이하, 도 10 내지 15를 참고하여, 여러 상황 별로 가상 차선을 생성하고 표시하는 과정을 설명한다.
도 10을 보면, 운전자가 잦은 주행에 따라 차선이 손상되어 차량(700)이 차선을 식별하기 어려운 상황임을 알 수 있다.
프로세서(170)는 차선이 검출되지 않거나, 간헐적으로 차선이 검출될 경우, 운전자를 보조하기 위하여 차선을 생성할 수 있다.
이러한 경우, 프로세서(170)는 상기 가상 차선 생성에 기초가 되는 오브젝트(O1)를 검출하여 상기 영상 정보를 생성하고, 상기 영상 정보에 따라 상기 가상 차선을 생성할 수 있다.
예를 들어, 먼저 프로세서(170)는 차량(700)이 주행할 수 있는 전체 도로의 폭을 검출할 수 있다. 자세히, 프로세서(170)는 연석, 중앙 분리대, 중앙 차선, 선행 차량(700)의 바퀴 자국 등을 영상 정보 또는 거리 센서(191)로 검출하고, 이를 기초로 차량(700)이 주행할 수 있는 전체 도로(L5) 폭을 검출할 수 있다. 이후, 프로세서(170)는 차선에 근거가 될 수 있는 오브젝트(O1)를 검출하거나 일반적인 도로 폭을 기준으로 가상 차선(L1)을 생성할 수 있다.
이후, 프로세서(170)는 생성된 가상 차선(L1, L5)을 출력부(180)를 통해 표시하여 사용자의 운전을 보조할 수 있다.
이때, 도 10에서 보듯, 프로세서(170)는 가상 차선(L1, L5)으로 주행 가능한 전체 도로(L5) 폭과, 차량(700)이 유지해야 하는 차선(L1)을 함께 표시할 수 있다.
또한, 프로세서(170)는 생성한 가상 차선(L1, L5)을 통신부(120)를 통해 인접차량들에 전송하여, 인접차량들이 가상 차선(L1, L5) 내로 진입하는 것을 방지할 수 있다.
도 11은 비포장 도로와 같이 차선이 없는 주행 구간에서 프로세서(170)가 가상 차선을 생성하는 개략적인 모습을 나타낸다.
프로세서(170)는 내비게이션 정보를 통해 차량(700)의 현재 위치와, 차량(700)이 도착할 목적지(21)와, 이와 관련된 맵 정보와, 차량(700)의 안전 주행 폭을 기초로 가상 차선(23)을 생성할 수 있다. 또한, 프로세서(170)는 영상 정보 또는 센서 정보를 통해 주행 방해물(24)이 검출되는 경우, 이를 회피하도록 가상 차선(23)을 생성할 수 있다.
도 11을 보면, 프로세서(170)는 현재 차량(700)의 위치와 목적지(21)를 잇는 최단 경로를 가상 차선(23)으로 생성한 후, 최단 경로에 배치된 주행 방해물(24)을 회피하도록 가상 차선(23)을 생성할 수 있다.
프로세서(170)는 이와 같이 생성한 가상 차선(23)을 통신부(120)를 통해 인접차량(24)들에 전송하여, 인접차량(24)들이 가상 차선(23) 내로 진입하는 것을 방지할 수 있다.
도 12는 본 발명의 실시예에 따른, 윈드 실드(W) 오염시 가상 차선을 생성하는 표시하는 모습을 나타낸다.
프로세서(170)는 윈드 실드(W)가 순간적으로 오염되는 경우, 이를 감지하고 가상 차선(31, 32)을 생성할 수 있다. 예를 들어, 프로세서(170)는 영상 정보에서 윈드 실드(W)에 오염 물질(34)이 감지되고, 오염 물질(34)이 윈드 실드(W)의 면적을 일정 범위 이상 점유할 때, 차선 미식별 상황임을 판단할 수 있다.
윈드 실드(W) 오염으로 차선 미식별 상황임을 판단할 경우, 프로세서(170)는 영상 정보를 통해 차선을 표시할 수 있다. 자세히, 프로세서(170)는 오염물이 윈드 실드(W)를 오염하기 전 영상 정보의 차선과, 차량(700)이 주행한 상태를 기초로 가상 차선(31, 32)을 생성할 수 있다.
이때, 프로세서(170)는 주행 방해물이 가상 차선(31, 32)에 위치하는 경우, 이를 거리 센서(191) 등으로 검출하고 이를 회피하도록 가상 차선(31, 32)을 생성할 수 있다. 예를 들어, 프로세서(170)는 전방 차량이 검출되는 경우, 전방 차량과의 거리를 산출할 수 있다. 이후, 프로세서(170)는 전방 차량의 거리에 대응되도록 가상 이미지(33)를 생성하고 출력할 수 있다.
프로세서(170)는 이와 같이 생성한 가상 차선(31, 32)을 통신부(120)를 통해 인접차량들에 전송하여, 인접차량들이 가상 차선(31, 32) 내로 진입하는 것을 방지할 수 있다.
도 13은 본 발명의 실시예에 따른, 라이트 모듈(183)을 통해 가상 차선을 표시하는 모습을 나타낸다.
도 13을 보면, 프로세서(170)는 인접차량(41, 42)이 있는 경우, 가상 차선(43)을 서로 공통된 가상 차선(44, 43, 45)을 공유할 수 있다.
예를 들어, 프로세서(170)는 선행 차량(41)이 있고, 선행 차량(41)이 생성한 가상 차선(44)이 있는 경우, 선행 차량(41)의 가상 차선(44)의 연장 방향과 매칭되는 가상 차선(43)을 생성할 수 있다.
자세히, 프로세서(170)는 선행 차량(41)이 가상 차선(44)을 레이저로 노면에 조사하고, 이를 영상 정보에서 식별하는 경우, 선행 차량(41)의 가상 차선(44)에 매칭되도록 가상 차선(43)을 생성할 수 있다.
이때, 프로세서(170)는 후방 차량(42)이 가상 차선(43)을 식별할 수 있도록 차량(700)의 측방에도 레이저를 조사하여 가상 차선(43)을 표시할 수 있고, 통신부(120)를 통해 가상 차선(43)을 전달할 수도 있다.
도 14는 본 발명의 실시예에 따른, 야간에 가상 차선을 표시하는 모습을 나타낸다.
도 14를 보면, 야간이고 주변 조도가 매우 낮은 경우 원거리에 차선이 식별되지 않는 것을 확인할 수 있다. 프로세서(170)는 이와 같은 상황을 조도 센서(195) 또는/및 영상 정보로 검출하면 차선 미식별 상황으로 판단하고, 가상 차선(52)을 생성할 수 있다.
예를 들어, 프로세서(170)는 조도 센서(195)에서 외부 조도가 기 설정된 조도 이하인 경우, 차선 미식별 상황으로 판단할 수 있다.
이러한 경우, 프로세서(170)는 영상 정보에서 차량(700)에 인접한 차선 오브젝트(51)와, 내비게이션 정보에서 주행 경로 정보를 전달 받아 원거리의 가상 차선(52)을 생성할 수 있다.
그리고 프로세서(170)는 원거리 가상 차선(52)을 윈드 실드(W)를 통해 투영된 인접 차선(51)에 매칭되도록 표시하여 사용자의 운전을 보조할 수 있다.
도 15는 본 발명의 실시예에 따른, 교차로에서 가상 차선을 표시하는 모습을 나타낸다.
도 15를 보면, 차량 운전 보조장치(100)는 복수의 차로에서 좌회전 또는/및 우회전이 가능하고 교차로에 회전 주행 방향을 지시하는 차선이 없을 경우, 가상 차선을 생성하고 출력할 수 있다.
자세히, 프로세서(170)는 내비게이션 정보에서 교차로에 대한 맵 정보를 전달 받고, 영상 정보에서 현재 주행 차선(61)과 교차로 통과 이후 차선(62) 등을 검출하고, 이를 기초로 가상 차선(63)을 생성할 수 있다.
그리고 프로세서(170)는 생성된 가상 차선(63)을 같은 방향으로 주행할 인접차량에 전송하여, 인접차량들이 가상 차선(63) 내로 진입하는 것을 방지할 수 있다.
위 설명한 일례들과 같이, 차량(700) 운전 중 차선이 미식별되는 경우, 차량들 간 협의된 주행 경로가 정의되지 않아 교통 사고의 위험이 높다. 차량 운전 보조장치(100)는 차선 미식별 상황을 판단하고, 상황에 따라 가상 차선을 적절하게 생성하여 표시하여 사용자의 운전을 보조할 수 있다. 또한, 차량 운전 보조장치(100)는 인접차량에게 생성한 가상 차선을 전달하여 가상 차선에 진입하는 것을 방지함으로써, 사고를 미연에 방지할 수 있다.
ㄴ
이하 도 16 내지 26을 참조하여, 구체적으로 차량 운전 보조장치(100)가 가상 차선을 생성하는 과정을 설명한다.
도 16 내지 도 20은 본 발명의 실시예에 따른, 인접차량과의 통신을 통해 가상 차선을 생성하고 보정하는 과정을 설명하는 도면들이다.
도 16을 참조하면, 프로세서(170)는 영상 정보, 거리 정보, 센서 정보, 내비게이션 정보, 보조 정보 및 인접차량 정보 중 적어도 하나 이상의 정보를 수신한다. (S101)
그리고 프로세서(170)는 위 정보들을 기초로 차선 미식별 상황을 감지할 수 있다. (S103) 예를 들어, 프로세서(170)는 영상 정보에서 차선 오브젝트가 불완전하거나 없는 경우, 윈드 실드(W)의 오염을 감지한 경우, 감지된 조도가 기설정된 값 이하인 경우, 감지된 강수량이 기 설정된 값 이상인 경우 등에 사용자가 차선을 미식별한 상황으로 판단할 수 있다.
프로세서(170)는 차선 미식별 상황으로 판단되면, 차량(700)은 영상 정보, 거리 정보 또는/및 인접차량 정보를 통해 인접차량의 존재를 확인할 수 있다. (S105)
프로세서(170)는 인접차량이 존재하는 경우, 통신부(120)를 통해 인접차량 정보를 전송 받을 수 있다. 또한, 프로세서(170)는 거리 센서(191) 및 영상 정보를 통해 인접차량에 대한 정보를 수집할 수도 있다. (S107)
이후, 프로세서(170)는 위 정보들을 기초로 가상 차선을 생성할 수 있다. (S109)
도 17은 복수의 차량(71, 72, 73, 74, 75)이 영상 정보, 거리 정보, 센서 정보, 내비게이션 정보, 보조 정보 및 인접차량 정보 중 적어도 하나 이상의 정보를 통해 가상 차선을 생성하는 모습을 나타낸다. 이때, 복수의 차량(71, 72, 73, 74, 75)은 모두 차량 운전 보조장치(100)가 장착된다.
도 17을 보면 알 수 있듯이, 복수의 차량(71, 72, 73, 74, 75)들은 각각 생성한 가상 차선(L71, L72, L73, L74, L75)이 어긋날 수 있다. 이와 같이 복수의 차량(71, 72, 73, 74, 75)들 간에 가상 차선(L71, L72, L73, L74, L75)들이 차이가 있으면 사고 가능성이 높을 수 있다.
이를 방지하기 위하여, 도 18과 같이 프로세서(170)는 통신부(120)를 통해 지속적으로 서로 생성한 가상 차선(L71, L72, L73, L74, L75) 데이터를 주고 받을 수 있다. (S111)
그리고 프로세서(170)는 인접차량의 가상 차선(L71, L72, L73, L74, L75)과 본 차량(700)에서 생성된 가상 차선(L71, L72, L73, L74, L75)이 매칭되는 지를 판단할 수 있다. (S113)
프로세서(170)는 인접차량들과의 가상 차선(L71, L72, L73, L74, L75)에 차이가 있는 경우, 통신부(120)를 통해 서로 데이터를 주고 받으며 공통된 가상 차선(C71, C72, C73, C74, C75)을 생성하는 가상 차선 켈리브레이션을 수행할 수 있다. (S115)
도 19를 보면, 복수의 차량(71, 72, 73, 74, 75)이 이전에 생성된 가상 차선과 켈리브레이션을 통해 보정된 가상 차선(C71, C72, C73, C74, C75)을 확인할 수 있고, 복수의 차량(71, 72, 73, 74, 75)의 운전자들은 보정된 가상 차선(C71, C72, C73, C74, C75)을 기초로 차량(700)을 조작할 수 잇다.
프로세서(170)는 이와 같이 지속적으로 인접차량과 가상 차선 데이터를 공유하며 서로 공통된 가상 차선(C71, C72, C73, C74, C75)을 생성하고 이를 출력할 수 있다. (S117)
도 20을 보면, 인접한 복수의 차량(71, 72, 73, 74, 75)들은 서로 공통된 가상 차선(C71, C72, C73, C74, C75)을 생성하고 주행하여 안전한 주행이 가능함을 확인할 수 있다.
도 21 내지 도 24는 본 발명의 실시예에 따른, 영상 정보 및 거리 정보를 기초로 가상 차선을 생성하고 출력하는 과정을 설명하는 도면들이다.
도 21을 참조하면, 프로세서(170)는 영상 정보, 거리 정보, 센서 정보, 내비게이션 정보, 보조 정보 및 인접차량 정보 중 적어도 하나 이상의 정보를 수신한다. (S301)
그리고 프로세서(170)는 위 정보들을 기초로 차선 미식별 상황을 감지할 수 있다. (S303) 예를 들어, 도 22을 보면, 카메라(160)에서 촬영된 전방 영상으로, 차선이 손상되어 차선의 일부만을 확인할 수 있다.
프로세서(170)는 영상 정보에서 차선 오브젝트가 불완전하거나 없는 경우 차선 미식별 상황으로 판단할 수 있다.
이후, 프로세서(170)는 영상 정보에서 차량(700) 주변 물체를 검출할 수 있다. 자세히, 프로세서(170)는 차선 식별에 기초가 될 수 있는 오브젝트들에 대한 정보를 검출할 수 있다. (S305)
예를 들어, 도 22에서 보듯, 중앙 분리대(41), 차선(43), 연석(42) 등이 차선 식별에 기초가 될 수 있다.
그리고 프로세서(170)는 검출된 오브젝트와 차량(700)과의 거리를 거리 센서(191)로 측정하여 산출할 수 있다. (S307)
그리고 프로세서(170)는 차량(700) 주변 물체와의 거리를 기초로 차량(700)이 주행할 수 있는 전체 도로 폭을 산출할 수 있다. (S309)
예를 들어, 도 22에서 중앙 분리대(41)를 차량(700)이 주행할 수 있는 좌측 최외곽 도로(46)로, 연석(42)을 차량(700)이 주행할 수 있는 우측 최외곽 도로로 설정하여, 차량(700)이 주행할 수 있는 최대 폭의 가상 도로를 생성할 수 있다.
이후, 프로세서(170)는 산출된 전체 도로 폭을 기초로 가상 차선(46)을 생성하고 출력할 수 있다. (S311)
도 23을 보면, 차선 중앙 분리대(41)를 따라서 가상 차선(46)이 생성되어 표시되고, 차량(700)의 안전 주행 폭을 기준으로 우측 가상 차선(46)이 생성된 것을 알 수 있다.
다음, 프로세서(170)는 가상 차선(46)에 배치된 주행 방해물(47)이 검출할 수 있다. (S313)
다음으로, 주행 방해물(47)이 검출되면, 프로세서(170)는 이를 회피할 수 있도록 가상 차선(46)을 보정하고, 출력할 수 있다. (S315)
도 24를 보면, 가상 차선(46) 내에 타차량(47)이 접근한 모습을 볼 수 있고, 이를 보정한 가상 차선(46)이 생성됨을 알 수 있다. 즉, 프로세서(170)는 실시간으로 안전한 주행이 가능하도록 가상 차선(46)을 보정하고 보정된 가상 차선(48)을 출력할 수 있다.
도 25 내지 도 26은 본 발명의 실시예에 따른, 영상 정보 및 거리 정보를 기초로 가상 차선을 생성하고 출력하는 과정을 설명하는 도면들이다.
도 25와 26을 참조하면, 프로세서(170)는 영상 정보, 거리 정보, 센서 정보, 내비게이션 정보, 보조 정보 및 인접차량 정보 중 적어도 하나 이상의 정보를 수신한다. (S501)
그리고 프로세서(170)는 위 정보들을 기초로 차선 미식별 상황을 감지할 수 있다. (S503) 예를 들어, 도 26을 보면, 프로세서(170)는 카메라(160)에서 촬영된 전방 영상으로, 윈드 실드(W)가 오염된 상황을 판단할 수 있다.
윈드 실드(W) 오염이 감지되면, 프로세서(170)는 오염에 따라 이를 제거하기 위한 조치를 실행하는 신호를 발생할 수 있다. 예를 들어, 프로세서(170)는 우적에 의해 차량(700) 윈도우가 오염된 경우, 와이퍼를 작동 신호를 발생할 수 있다. 또는, 프로세서(170)는 흙 등의 오염 물질에 의해 윈드 실드(W)가 오염된 경우, 와이퍼 작동 신호와 함께, 윈드 실드(W) 워셔액을 분사 신호를 발생할 수 있다.
이와 더불어, 프로세서(170)는 전술한 정보들을 기초로 가상 차선을 생성할 수 있다.
자세히, 먼저, 프로세서(170)는 영상 정보 중 오염 직전 영상 정보를 기초로 가상 차선을 생성하고 출력할 수 있다. (S505, 507)
예를 들어, 윈드 실드(W)에 오염물이 뒤덮여 순간적으로 운전자가 외부 식별이 어려운 경우, 프로세서(170)는 오염물이 윈드 실드(W)를 오염하기 전 영상 정보의 차선과, 차량(700)이 주행한 상태를 기초로 가상 차선을 생성하고, 이를 윈드 실드(W)에 표시할 수 있다.
다음, 프로세서(170)는 가상 차선 상에 주행 방해물이 있는지 검출할 수 있다. (S509) 예를 들어, 프로세서(170)는 거리 센서(191) 또는/및 영상 정보를 통해 전방 차량이 존재하는지 확인할 수 있다.
프로세서(170)는 전방 차량이 검출되는 경우, 전방 차량과의 거리를 산출할 수 있다. (S511)
이후, 프로세서(170)는 전방 차량의 거리에 대응되도록 가상 이미지를 생성하고 출력할 수 있다. (S513)
도 26을 보면, 윈드 실드(W)가 오염 물질에 의해 오염되어, 가상 차선을 식별하기 어려운 상황을 판단하고, 윈드 실드(W)에 가상 차선(31, 32)과 전방 차량에 대응되는 가상 이미지(33)가 표시된 것을 알 수 있다.
전술하였듯이, 차량 운전 보조장치(100)는 차선 미식별 상황을 판단하고, 상황에 따라 적절한 정보들을 근거로 가상 차선을 생성할 수 있으며, 이를 출력하여 사용자의 안전 운전을 보조할 수 있다. 또한, 생성된 가상 차선을 인접차량들과 공유하여 차량들 간 사고를 미연에 방지할 수 있다.
도 27은 도 1의 차량(700)의 내부 블록도의 일예이다.
이러한 차량 운전 보조장치는 차량(700) 내에 포함될 수 있다.
차량은 통신부(710), 입력부(720), 센싱부(760), 출력부(740), 차량 구동부(750), 메모리(730), 인터페이스부(780), 제어부(770), 전원부(790), 차량 운전 보조장치(100) 및 AVN 장치(400)를 포함할 수 있다.
통신부(710)는, 차량과 이동 단말기(600) 사이, 차량(700)과 외부 서버(510) 사이 또는 차량(700)과 타차량(520)과의 무선 통신을 가능하게 하는 하나 이상의 모듈을 포함할 수 있다. 또한, 통신부(710)는 차량을 하나 이상의 망(network)에 연결하는 하나 이상의 모듈을 포함할 수 있다.
통신부(710)는, 방송 수신 모듈(711), 무선 인터넷 모듈(712), 근거리 통신 모듈(713), 위치 정보 모듈(714) 및 광통신 모듈(715)을 포함할 수 있다.
방송 수신 모듈(711)은, 방송 채널을 통하여 외부의 방송 관리 서버로부터 방송 신호 또는 방송 관련된 정보를 수신한다. 여기서, 방송은 라디오 방송 또는 TV 방송을 포함한다.
무선 인터넷 모듈(712)은, 무선 인터넷 접속을 위한 모듈을 말하는 것으로, 차량에 내장되거나 외장될 수 있다. 무선 인터넷 모듈(712)은 무선 인터넷 기술들에 따른 통신망에서 무선 신호를 송수신하도록 이루어진다.
무선 인터넷 기술로는, 예를 들면, WLAN(Wireless LAN), Wi-Fi(Wireless-Fidelity), Wi-Fi(Wireless Fidelity) Direct, DLNA(Digital Living Network Alliance), WiBro(Wireless Broadband), WiMAX(World Interoperability for Microwave Access), HSDPA(High Speed Downlink Packet Access), HSUPA(High Speed Uplink Packet Access), LTE(Long Term Evolution), LTE-A(Long Term Evolution-Advanced) 등이 있으며, 상기 무선 인터넷 모듈(712)은 상기에서 나열되지 않은 인터넷 기술까지 포함한 범위에서 적어도 하나의 무선 인터넷 기술에 따라 데이터를 송수신하게 된다. 예를 들면, 무선 인터넷 모듈(712)은 외부 서버(510)와 무선으로 데이터를 교환할 수 있다. 무선 인터넷 모듈(712)은 외부 서버(510)로부터 날씨 정보, 도로의 교통 상황 정보(예를 들면, TPEG(Transport Protocol Expert Group))정보를 수신할 수 있다.
근거리 통신 모듈(713)은, 근거리 통신(Short range communication)을 위한 것으로서, 블루투스(Bluetooth™), RFID(Radio Frequency Identification), 적외선 통신(Infrared Data Association; IrDA), UWB(Ultra Wideband), ZigBee, NFC(Near Field Communication), Wi-Fi(Wireless-Fidelity), Wi-Fi Direct, Wireless USB(Wireless Universal Serial Bus) 기술 중 적어도 하나를 이용하여, 근거리 통신을 지원할 수 있다.
이러한, 근거리 통신 모듈(713)은, 근거리 무선 통신망(Wireless Area Networks)을 형성하여, 차량과 적어도 하나의 외부 디바이스 사이의 근거리 통신을 수행할 수 있다. 예를 들면, 근거리 통신 모듈(713)은 이동 단말기(600)와 무선으로 데이터를 교환할 수 있다. 근거리 통신 모듈(713)은 이동 단말기(600)로부터 날씨 정보, 도로의 교통 상황 정보(예를 들면, TPEG(Transport Protocol Expert Group))를 수신할 수 있다. 가령, 사용자가 차량에 탑승한 경우, 사용자의 이동 단말기(600)와 차량은 자동으로 또는 사용자의 애플리케이션 실행에 의해, 서로 페어링을 수행할 수 있다.
위치 정보 모듈(714)은, 차량의 위치를 획득하기 위한 모듈로서, 그의 대표적인 예로는 GPS(Global Positioning System) 모듈이 있다. 예를 들면, 차량은 GPS모듈을 활용하면, GPS 위성에서 보내는 신호를 이용하여 차량의 위치를 획득할 수 있다.
광통신 모듈(715)은, 광발신부 및 광수신부를 포함할 수 있다.
광수신부는, 광(light)신호를 전기 신호로 전환하여, 정보를 수신할 수 있다. 광수신부는 광을 수신하기 위한 포토 다이오드(PD, Photo Diode)를 포함할 수 있다. 포토 다이오드는 빛을 전기 신호로 전환할 수 있다. 예를 들면, 광수신부는 전방 차량에 포함된 광원에서 방출되는 광을 통해, 전방 차량의 정보를 수신할 수 있다.
광발신부는 전기 신호를 광 신호로 전환하기 위한 발광 소자를 적어도 하나 포함할 수 있다. 여기서, 발광 소자는 LED(Light Emitting Diode)인 것이 바람직하다. 광발신부는, 전기 신호를 광 신호로 전환하여, 외부에 발신한다. 예를 들면, 광 발신부는 소정 주파수에 대응하는 발광소자의 점멸을 통해, 광신호를 외부에 방출할 수 있다. 실시예에 따라, 광발신부는 복수의 발광 소자 어레이를 포함할 수 있다. 실시예에 따라, 광발신부는 차량에 구비된 램프와 일체화될 수 있다. 예를 들면, 광발신부는 전조등, 후미등, 제동등, 방향 지시등 및 차폭등 중 적어도 어느 하나일 수 있다. 예를 들면, 광통신 모듈(715)은 광 통신을 통해 타차량(520)과 데이터를 교환할 수 있다.
입력부(720)는, 운전 조작 수단(721), 카메라(195), 마이크로 폰(723) 및 사용자 입력부(724)를 포함할 수 있다.
운전 조작 수단(721)은, 차량 운전을 위한 사용자 입력을 수신한다. (이하 설명 도 2참조) 운전 조작 수단(721)은 조향 입력 수단(721A), 쉬프트 입력 수단(721D), 가속 입력 수단(721C), 브레이크 입력 수단(721B)을 포함할 수 있다.
조향 입력 수단(721A)은, 사용자로부터 차량의 진행 방향 입력을 수신한다. 조향 입력 수단(721A)은 회전에 의해 조향 입력이 가능하도록 휠 형태로 형성되는 것이 바람직하다. 실시예에 따라, 조향 입력 수단(721A)은 터치 스크린, 터치 패드 또는 버튼으로 형성될 수도 있다.
쉬프트 입력 수단(721D)은, 사용자로부터 차량의 주차(P), 전진(D), 중립(N), 후진(R)의 입력을 수신한다. 쉬프트 입력 수단(721D)은 레버 형태로 형성되는 것이 바람직하다. 실시예에 따라, 쉬프트 입력 수단(721D)은 터치 스크린, 터치 패드 또는 버튼으로 형성될 수도 있다.
가속 입력 수단(721C)은, 사용자로부터 차량의 가속을 위한 입력을 수신한다. 브레이크 입력 수단(721B)은, 사용자로부터 차량의 감속을 위한 입력을 수신한다. 가속 입력 수단(721C) 및 브레이크 입력 수단(721B)은 페달 형태로 형성되는 것이 바람직하다. 실시예에 따라, 가속 입력 수단(721C) 또는 브레이크 입력 수단(721B)은 터치 스크린, 터치 패드 또는 버튼으로 형성될 수도 있다.
카메라(722)는, 이미지 센서와 영상 처리 모듈을 포함할 수 있다. 카메라(722)는 이미지 센서(예를 들면, CMOS 또는 CCD)에 의해 얻어지는 정지영상 또는 동영상을 처리할 수 있다. 영상 처리 모듈은 이미지 센서를 통해 획득된 정지영상 또는 동영상을 가공하여, 필요한 정보를 추출하고, 추출된 정보를 제어부(770)에 전달할 수 있다. 한편, 차량은 차량 전방 영상 또는 차량 주변 영상을 촬영하는 카메라(722) 및 차량 내부 영상을 촬영하는 모니터링부(150)를 포함할 수 있다.
모니터링부(150)는 탑승자에 대한 이미지를 획득할 수 있다. 모니터링부(150)는 탑승자의 생체 인식을 위한 이미지를 획득할 수 있다.
한편, 도 27에서는 모니터링부(150)와 카메라(722)가 입력부(720)에 포함되는 것으로 도시하였으나, 카메라(722)는 전술한 바와 같이, 차량 운전 보조장치(100)에 포함된 구성으로 설명될 수도 있다.
마이크로 폰(723)은, 외부의 음향 신호를 전기적인 데이터로 처리할 수 있다. 처리된 데이터는 차량에서 수행 중인 기능에 따라 다양하게 활용될 수 있다. 마이크로폰(723)은 사용자의 음성 명령을 전기적인 데이터로 전환할 수 있다. 전환된 전기적인 데이터는 제어부(770)에 전달될 수 있다.
한편, 실시예에 따라, 카메라(722) 또는 마이크로폰(723)는 입력부(720)에 포함되는 구성요소가 아닌, 센싱부(760)에 포함되는 구성요소일 수도 있다.
사용자 입력부(724)는 사용자로부터 정보를 입력받기 위한 것이다. 사용자 입력부(724)를 통해, 정보가 입력되면, 제어부(770)는 입력된 정보에 대응되도록 차량의 동작을 제어할 수 있다. 사용자 입력부(724)는 터치식 입력수단 또는 기계식 입력 수단을 포함할 수 있다. 실시예에 따라, 사용자 입력부(724)는 스티어링 휠의 일 영역에 배치될 수 있다. 이경우, 운전자는 스티어링 휠을 잡은 상태에서, 손가락으로 사용자 입력부(724)를 조작할 수 있다.
센싱부(760)는, 차량의 주행 등과 관련한 신호를 센싱한다. 이를 위해, 센싱부(760)는, 충돌 센서, 휠 센서(wheel sensor), 속도 센서, 경사 센서, 중량 감지 센서, 헤딩 센서(heading sensor), 요 센서(yaw sensor), 자이로 센서(gyro sensor), 포지션 모듈(position module), 차량 전진/후진 센서, 배터리 센서, 연료 센서, 타이어 센서, 핸들 회전에 의한 스티어링 센서, 차량 내부 온도 센서, 차량 내부 습도 센서, 초음파 센서, 레이더, 라이더 등을 포함할 수 있다.
이에 의해, 센싱부(760)는, 차량 충돌 정보, 차량 방향 정보, 차량 위치 정보(GPS 정보), 차량 각도 정보, 차량 속도 정보, 차량 가속도 정보, 차량 기울기 정보, 차량 전진/후진 정보, 배터리 정보, 연료 정보, 타이어 정보, 차량 램프 정보, 차량 내부 온도 정보, 차량 내부 습도 정보, 스티어링 휠 회전 각도 등에 대한 센싱 신호를 획득할 수 있다.
한편, 센싱부(760)는, 그 외, 가속페달센서, 압력센서, 엔진 회전 속도 센서(engine speed sensor), 공기 유량 센서(AFS), 흡기 온도 센서(ATS), 수온 센서(WTS), 스로틀 위치 센서(TPS), TDC 센서, 크랭크각 센서(CAS), 등을 더 포함할 수 있다.
센싱부(760)는 생체 인식 정보 감지부를 포함할 수 있다. 생체 인식 정보 감지부는 탑승자의 생체 인식 정보를 감지하여 획득한다. 생체 인식 정보는 지문 인식(Fingerprint) 정보, 홍채 인식(Iris-scan) 정보, 망막 인식(Retina-scan) 정보, 손모양(Hand geo-metry) 정보, 안면 인식(Facial recognition) 정보, 음성 인식(Voice recognition) 정보를 포함할 수 있다. 생체 인식 정보 감지부는 탑승자의 생체 인식 정보를 센싱하는 센서를 포함할 수 있다. 여기서, 모니터링부(150) 및 마이크로 폰(723)이 센서로 동작할 수 있다. 생체 인식 정보 감지부는 모니터링부(150)를 통해, 손모양 정보, 안면 인식 정보를 획득할 수 있다.
출력부(740)는, 제어부(770)에서 처리된 정보를 출력하기 위한 것으로, 디스플레이부(741), 음향 출력부(742) 및 햅틱 출력부(743)를 포함할 수 있다.
디스플레이부(741)는 제어부(770)에서 처리되는 정보를 표시할 수 있다. 예를 들면, 디스플레이부(741)는 차량 관련 정보를 표시할 수 있다. 여기서, 차량 관련 정보는, 차량에 대한 직접적인 제어를 위한 차량 제어 정보, 또는 차량 운전자에게 운전 가이드를 위한 차량 운전 보조 정보를 포함할 수 있다. 또한, 차량 관련 정보는, 현재 차량의 상태를 알려주는 차량 상태 정보 또는 차량의 운행과 관련되는 차량 운행 정보를 포함할 수 있다.
디스플레이부(741)는 액정 디스플레이(liquid crystal display, LCD), 박막 트랜지스터 액정 디스플레이(thin film transistor-liquid crystal display, TFT LCD), 유기 발광 다이오드(organic light-emitting diode, OLED), 플렉서블 디스플레이(flexible display), 3차원 디스플레이(3D display), 전자잉크 디스플레이(e-ink display) 중에서 적어도 하나를 포함할 수 있다.
디스플레이부(741)는 터치 센서와 상호 레이어 구조를 이루거나 일체형으로 형성됨으로써, 터치 스크린을 구현할 수 있다. 이러한 터치 스크린은, 차량와 사용자 사이의 입력 인터페이스를 제공하는 사용자 입력부(724)로써 기능함과 동시에, 차량와 사용자 사이의 출력 인터페이스를 제공할 수 있다. 이경우, 디스플레이부(741)는 터치 방식에 의하여 제어 명령을 입력 받을 수 있도록, 디스플레이부(741)에 대한 터치를 감지하는 터치센서를 포함할 수 있다. 이를 이용하여, 디스플레이부(741)에 대하여 터치가 이루어지면, 터치센서는 상기 터치를 감지하고, 제어부(770)는 이에 근거하여 상기 터치에 대응하는 제어명령을 발생시키도록 이루어질 수 있다. 터치 방식에 의하여 입력되는 내용은 문자 또는 숫자이거나, 각종 모드에서의 지시 또는 지정 가능한 메뉴항목 등일 수 있다.
한편, 디스플레이부(741)는 운전자가 운전을 함과 동시에 차량 상태 정보 또는 차량 운행 정보를 확인할 수 있도록 클러스터(cluster)를 포함할 수 있다. 클러스터는 대시보드 위에 위치할 수 있다. 이경우, 운전자는, 시선을 차량 전방에 유지한채로 클러스터에 표시되는 정보를 확인할 수 있다.
한편, 실시예에 따라, 디스플레이부(741)는 HUD(Head Up Display)로 구현될 수 있다. 디스플레이부(741)가 HUD로 구현되는 경우, 윈드 쉴드에 구비되는 투명 디스플레이를 통해 정보를 출력할 수 있다. 또는, 디스플레이부(741)는 투사 모듈을 구비하여 윈드 쉴드에 투사되는 이미지를 통해 정보를 출력할 수 있다.
음향 출력부(742)는 제어부(770)로부터의 전기 신호를 오디오 신호로 변환하여 출력한다. 이를 위해, 음향 출력부(742)는 스피커 등을 구비할 수 있다. 음향 출력부(742)는, 사용자 입력부(724) 동작에 대응하는, 사운드를 출력하는 것도 가능하다.
햅틱 출력부(743)는 촉각적인 출력을 발생시킨다. 예를 들면, 햅틱 출력부(743)는, 스티어링 휠, 안전 벨트, 시트를 진동시켜, 사용자가 출력을 인지할 수 있게 동작할 수 있다.
차량 구동부(750)는, 차량 각종 장치의 동작을 제어할 수 있다. 차량 구동부(750)는 동력원 구동부(751), 조향 구동부(752), 브레이크 구동부(753), 램프 구동부(754), 공조 구동부(755), 윈도우 구동부(756), 에어백 구동부(757), 썬루프 구동부(758) 및 서스펜션 구동부(759)를 포함할 수 있다.
동력원 구동부(751)는, 차량 내의 동력원에 대한 전자식 제어를 수행할 수 있다.
예를 들면, 화석 연료 기반의 엔진(미도시)이 동력원인 경우, 동력원 구동부(751)는, 엔진에 대한 전자식 제어를 수행할 수 있다. 이에 의해, 엔진의 출력 토크 등을 제어할 수 있다. 동력원 구동부(751)가 엔진인 경우, 제어부(770)의 제어에 따라, 엔진 출력 토크를 제한하여 차량의 속도를 제한할 수 있다.
다른 예로, 전기 기반의 모터(미도시)가 동력원인 경우, 동력원 구동부(751)는, 모터에 대한 제어를 수행할 수 있다. 이에 의해, 모터의 회전 속도, 토크 등을 제어할 수 있다.
조향 구동부(752)는, 차량 내의 조향 장치(steering apparatus)에 대한 전자식 제어를 수행할 수 있다. 이에 의해, 차량의 진행 방향을 변경할 수 있다.
브레이크 구동부(753)는, 차량 내의 브레이크 장치(brake apparatus)(미도시)에 대한 전자식 제어를 수행할 수 있다. 예를 들면, 바퀴에 배치되는 브레이크의 동작을 제어하여, 차량의 속도를 줄일 수 있다. 다른 예로, 좌측 바퀴와 우측 바퀴에 각각 배치되는 브레이크의 동작을 달리하여, 차량의 진행 방향을 좌측, 또는 우측으로 조정할 수 있다.
램프 구동부(754)는, 차량 내, 외부에 배치되는 램프의 턴 온/턴 오프를 제어할 수 있다. 또한, 램프의 빛의 세기, 방향 등을 제어할 수 있다. 예를 들면, 방향 지시 램프, 브레이크 램프 등의 대한 제어를 수행할 수 있다.
공조 구동부(755)는, 차량 내의 공조 장치(air cinditioner)(미도시)에 대한 전자식 제어를 수행할 수 있다. 예를 들면, 차량 내부의 온도가 높은 경우, 공조 장치가 동작하여, 냉기가 차량 내부로 공급되도록 제어할 수 있다.
윈도우 구동부(756)는, 차량 내의 윈도우 장치(window apparatus)에 대한 전자식 제어를 수행할 수 있다. 예를 들면, 차량의 측면의 좌,우 윈도우들에 대한 개방 또는 폐쇄를 제어할 수 있다.
에어백 구동부(757)는, 차량 내의 에어백 장치(airbag apparatus)에 대한 전자식 제어를 수행할 수 있다. 예를 들면, 위험시, 에어백이 터지도록 제어할 수 있다.
썬루프 구동부(758)는, 차량 내의 썬루프 장치(sunroof apparatus)(미도시)에 대한 전자식 제어를 수행할 수 있다. 예를 들면, 썬루프의 개방 또는 폐쇄를 제어할 수 있다.
서스펜션 구동부(759)는, 차량 내의 서스펜션 장치(suspension apparatus)(미도시)에 대한 전자식 제어를 수행할 수 있다. 예를 들면, 도로면에 굴곡이 있는 경우, 서스펜션 장치를 제어하여, 차량의 진동이 저감되도록 제어할 수 있다.
메모리(730)는, 제어부(770)와 전기적으로 연결된다. 메모리(770)는 유닛에 대한 기본데이터, 유닛의 동작제어를 위한 제어데이터, 입출력되는 데이터를 저장할 수 있다. 메모리(790)는, 하드웨어적으로, ROM, RAM, EPROM, 플래시 드라이브, 하드 드라이브 등과 같은 다양한 저장기기 일 수 있다. 메모리(730)는 제어부(770)의 처리 또는 제어를 위한 프로그램 등, 차량 전반의 동작을 위한 다양한 데이터를 저장할 수 있다.
인터페이스부(780)는, 차량에 연결되는 다양한 종류의 외부 기기와의 통로 역할을 수행할 수 있다. 예를 들면, 인터페이스부(780)는 이동 단말기(600)와 연결 가능한 포트를 구비할 수 있고, 상기 포트를 통해, 이동 단말기(600)와 연결할 수 있다. 이경우, 인터페이스부(780)는 이동 단말기(600)와 데이터를 교환할 수 있다.
한편, 인터페이스부(780)는 연결된 이동 단말기(600)에 전기 에너지를 공급하는 통로 역할을 수행할 수 있다. 이동 단말기(600)가 인터페이스부(780)에 전기적으로 연결되는 경우, 제어부(770)의 제어에 따라, 인터페이스부(780)는 전원부(790)에서 공급되는 전기 에너지를 이동 단말기(600)에 제공한다.
제어부(770)는, 차량 내의 각 유닛의 전반적인 동작을 제어할 수 있다. 제어부(770)는 ECU(Electronic Contol Unit)로 명명될 수 있다.
이러한 제어부(770)은 차량 운전 보조장치(100)의 실행 신호 전달에 따라서, 전달된 신호에 대응되는 기능을 실행할 수 있다.
제어부(770)는, 하드웨어적으로, ASICs (application specific integrated circuits), DSPs(digital signal processors), DSPDs(digital signal processing devices), PLDs(programmable logic devices), FPGAs(field programmable gate arrays), 프로세서(processors), 제어기(controllers), 마이크로 컨트롤러(micro-controllers), 마이크로 프로세서(microprocessors), 기타 기능 수행을 위한 전기적 유닛 중 적어도 하나를 이용하여 구현될 수 있다.
제어부(770)는 전술한 프로세서(170)의 역할을 위임할 수 있다. 즉, 차량 운전 보조장치(100)의 프로세서(170)는 차량의 제어부(770)에 직접 셋팅될 수 있다. 이러한 실시예에서는 차량 운전 보조장치(100)는 차량의 일부 구성들을 합하여 지칭하는 것으로 이해할 수 있다.
또는, 제어부(770)는 프로세서(170)에서 요청하는 정보를 전송해주도록 구성들을 제어할 수도 있다.
전원부(790)는, 제어부(770)의 제어에 따라, 각 구성요소들의 동작에 필요한 전원을 공급할 수 있다. 특히, 전원부(770)는, 차량 내부의 배터리(미도시) 등으로부터 전원을 공급받을 수 있다.
AVN(Audio Video Navigation) 장치(400)는 제어부(770)와 데이터를 교환할 수 있다. 제어부(770)는 AVN 장치(400) 또는 별도의 내비게이션 장치(미도시)로부터 내비게이션 정보를 수신할 수 있다. 여기서, 여기서, 내비게이션 정보는 설정된 목적지 정보, 상기 목적지에 따른 경로 정보, 차량 주행과 관련한, 맵(map) 정보 또는 차량 위치 정보를 포함할 수 있다.
상술한 실시예에 설명된 특징, 구조, 효과 등은 본 발명의 적어도 하나의 실시예에 포함되며, 반드시 하나의 실시예에만 한정되는 것은 아니다. 나아가, 각 실시예에서 예시된 특징, 구조, 효과 등은 실시예들이 속하는 분야의 통상의 지식을 가지는 자에 의하여 다른 실시예들에 대해서도 조합 또는 변형되어 실시 가능하다. 따라서 이러한 조합과 변형에 관계된 내용들은 본 발명의 범위에 포함되는 것으로 해석되어야 할 것이다.
또한, 이상에서 실시예들을 중심으로 설명하였으나 이는 단지 예시일 뿐 본 발명을 한정하는 것이 아니며, 본 발명이 속하는 분야의 통상의 지식을 가진 자라면 본 실시예의 본질적인 특성을 벗어나지 않는 범위에서 이상에 예시되지 않은 여러 가지의 변형과 응용이 가능함을 알 수 있을 것이다. 예를 들어, 실시예들에 구체적으로 나타난 각 구성 요소는 변형하여 실시할 수 있는 것이다. 그리고 이러한 변형과 응용에 관계된 차이점들은 첨부한 청구 범위에서 규정하는 본 발명의 범위에 포함되는 것으로 해석되어야 할 것이다.

Claims (26)

  1. 영상 정보, 거리 정보, 센서 정보, 내비게이션 정보, 보조 정보 및 인접차량 정보 중 적어도 하나 이상의 정보를 기초로 차선 미식별 상황을 판단하고, 가상 차선을 생성하는 프로세서;
    상기 생성된 가상 차선을 출력하는 출력부; 및
    차량과 기 설정된 일정 거리 내의 인접차량들과 데이터를 송수신하는 통신부를 포함하고,
    상기 프로세서는,
    상기 통신부를 통해 상기 인접차량 정보를 수신하고, 상기 인접차량 정보에 따라서 상기 가상 차선을 생성하여 상기 출력부를 통해 출력하고
    상기 가상 차선을 선행 차량의 가상 차선의 연장 방향과 매칭되도록 켈리브레이션(calibration)하는
    차량 운전보조장치.
  2. 제 1 항에 있어서,
    상기 차량 주변을 촬영하여 상기 영상 정보의 영상을 획득하는 카메라;
    상기 차량과 상기 차량 주변 물체와의 거리를 감지하여 거리 정보를 획득하는 거리 센서;
    상기 차량의 센서부로부터 센서 정보를 수신하는 인터페이스부; 및
    상기 보조 정보를 저장하는 메모리를 포함하고,
    상기 통신부는, 상기 내비게이션 정보를 더 수신하는 차량 운전 보조장치.
  3. 제 1 항에 있어서,
    상기 출력부는,
    윈드 쉴드(wind shield)의 헤드 업 디스플레이(head up display)로서,
    상기 가상 차선을 상기 윈드 쉴드로부터 투영되는 이미지에 대응되는 증강현실(augmented reality) 이미지로 표시하는 디스플레이부를 포함하는 차량 운전 보조장치.
  4. 제 1 항에 있어서,
    상기 출력부는,
    상기 차량 주변의 노면을 향해 광을 조사하여 상기 가상 차선을 표시하는 라이트 모듈을 포함하는 차량 운전 보조장치.
  5. 제 1 항에 있어서,
    상기 출력부는,
    상기 가상 차선 내에 물체가 감지됨을 알리는 소리를 출력하는 오디오 출력부를 포함하는 차량 운전 보조장치.
  6. 제 1 항에 있어서,
    강수량을 감지하는 우적 센서를 더 포함하고,
    상기 프로세서는,
    상기 감지된 강수량이 기 설정된 값 이상이면 상기 차선 미식별 상황으로 판단하고, 상기 가상 차선을 생성하여 상기 출력부를 통해 출력하는 차량 운전 보조장치.
  7. 제 1 항에 있어서,
    상기 차량 주변을 촬영하여 상기 영상 정보의 영상을 획득하는 카메라를 포함하고,
    상기 프로세서는,
    상기 영상을 처리하여, 차선 오브젝트가 불완전하거나 없으면 상기 차선 미식별 상황으로 판단하고, 상기 가상 차선을 생성하여 상기 출력부를 통해 출력하는 차량 운전 보조장치.
  8. 제 1 항에 있어서,
    상기 차량 주변을 촬영하여 상기 영상 정보의 영상을 획득하는 카메라를 포함하고,
    상기 프로세서는,
    상기 영상을 처리하여, 윈드 실드의 오염을 감지하면 상기 차선 미식별 상황으로 판단하고, 상기 가상 차선을 생성하여 상기 출력부를 통해 출력하는 차량 운전 보조장치.
  9. 제 1 항에 있어서,
    상기 차량 주변의 조도를 감지하는 조도 센서를 더 포함하고,
    상기 프로세서는,
    상기 감지된 조도가 기설정된 값 이하이면 상기 차선 미식별 상황으로 판단하고, 상기 가상 차선을 생성하여 상기 출력부를 통해 출력하는 차량 운전 보조장치.
  10. 삭제
  11. 삭제
  12. 제 1 항에 있어서,
    상기 차량 주변의 노면을 향해 레이저를 조사하여 상기 가상 차선을 표시하는 라이트 모듈을 포함하고,
    상기 프로세서는,
    상기 선행 차량이 조사하는 가상 차선과 매칭되는 가상 차선을 상기 라이트 모듈을 통해 출력하는 차량 운전 보조장치.
  13. 제 1 항에 있어서,
    상기 프로세서는,
    상기 통신부를 통해 상기 차량의 측후방에 인접한 타차량들에게 상기 가상 차선 정보를 전송하는 차량 운전 보조장치.
  14. 제 1 항에 있어서,
    상기 프로세서는,
    상기 차량의 측방에서 주행하는 타차량과의 간격을 산출하고, 상기 간격에 따라 상기 가상 차선을 생성하는 차량 운전 보조장치.
  15. 제 14 항에 있어서,
    상기 프로세서는,
    상기 생성된 가상차선에 상기 측방주행 차량의 가상차선이 침범할 경우, 서로 오버랩되도록 상기 가상차선을 켈리브레이션하는 차량 운전 보조장치.
  16. 제 1 항에 있어서,
    상기 차량 주변을 촬영하여 영상을 획득하는 카메라를 포함하고,
    상기 프로세서는,
    상기 영상을 처리하여, 상기 가상 차선 생성에 기초가 되는 오브젝트를 검출하여 상기 영상 정보를 생성하고, 상기 영상 정보에 따라 상기 가상 차선을 생성하는 차량 운전 보조장치.
  17. 제 16항에 있어서,
    상기 차량과 상기 차량 주변 물체와의 거리를 감지하여 거리 정보를 획득하는 거리 센서를 포함하고,
    상기 프로세서는,
    상기 오브젝트와 상기 차량과의 거리를 이용하여 상기 가상 차선을 생성하는 차량 운전 보조장치.
  18. 제 17항에 있어서,
    상기 프로세서는,
    상기 영상 정보와 상기 거리 정보에 따라서 주행 가능한 도로 전체 폭을 산출하고,
    상기 도로 전체 폭에 따라서 상기 가상 차선을 생성하고, 상기 도로 전체 폭과 상기 가상 차선을 함께 상기 출력부를 통해 출력하는 차량 운전 보조장치.
  19. 제 18 항에 있어서,
    상기 프로세서는,
    상기 영상 정보로부터 주행 방해물 또는 위협 인접 차량을 검출하고, 상기 주행 방해물 또는 위협 인접 차량을 회피하도록 상기 가상 차선을 생성하는 차량 운전 보조장치.
  20. 제 16 항에 있어서,
    상기 프로세서는,
    상기 영상 정보로부터 상기 차량에 인접한 차선을 검출하고, 상기 내비게이션 정보의 맵 정보를 통해 도로 방향을 검출하고, 상기 검출된 차선이 상기 도로 방향을 따라 연장되도록 상기 가상 차선을 생성하는 차량 운전 보조장치.
  21. 제 8 항에 있어서,
    상기 출력부는,
    윈드 쉴드(wind shield)의 헤드 업 디스플레이(head up display)로서, 상기 가상 차선을 상기 윈드 쉴드로부터 투영되는 이미지에 대응되는 증강현실(augmented reality) 이미지로 표시하는 디스플레이부를 포함하고,
    상기 프로세서는,
    상기 윈드 실드 오염 전 영상 정보를 기반으로 상기 가상 차선을 생성하고, 상기 가상 차선을 상기 증강현실 이미지로 표시하는 차량 운전 보조장치.
  22. 제 21 항에 있어서,
    상기 차량과 상기 차량 주변 물체와의 거리를 감지하여 거리 정보를 획득하는 거리 센서를 포함하고,
    상기 프로세서는,
    상기 거리 센서로부터 전방 차량과의 거리를 획득하고, 상기 거리에 따른 전방 차량 가상 이미지를 상기 디스플레이부를 통해 표시하는 차량 운전 보조장치.
  23. 제 21 항에 있어서,
    상기 프로세서는,
    상기 윈드 실드 오염을 제거하기 위한 제어 신호를 검출하여 차량의 제어부로 전송하는 차량 운전 보조장치.
  24. 제 21 항에 있어서,
    상기 프로세서는,
    상기 윈드 실드 오염을 제거하기 전까지 상기 차량을 자율주행하는 차량 운전 보조장치.
  25. 제 16 항에 있어서,
    상기 프로세서는,
    상기 영상 정보에서 현재 주행차선 및 회전 후 주행차선을 검출하고, 상기 현재 주행차선과 상기 회전 후 주행차선이 매칭되도록 상기 가상 차선을 생성하는 차량 운전 보조장치.
  26. 제 1 항에 있어서,
    상기 프로세서는,
    상기 영상 정보 또는 상기 내비게이션 정보로부터 비포장 도로 주행상태임을 검출하면,
    상기 내비게이션 정보의 목적지 경로와 상기 차량의 폭에 따른 가상 차선을 생성하는 차량 운전 보조장치.
KR1020150110780A 2015-08-05 2015-08-05 차량 운전 보조장치 및 이를 포함하는 차량 KR101714185B1 (ko)

Priority Applications (4)

Application Number Priority Date Filing Date Title
KR1020150110780A KR101714185B1 (ko) 2015-08-05 2015-08-05 차량 운전 보조장치 및 이를 포함하는 차량
US14/973,821 US10127820B2 (en) 2015-08-05 2015-12-18 Driver assistance apparatus and vehicle including the same
EP16000009.7A EP3127771B1 (en) 2015-08-05 2016-01-05 Driver assistance apparatus and vehicle including the same
CN201610286055.2A CN106448260B (zh) 2015-08-05 2016-05-03 驾驶员辅助设备和包括该驾驶员辅助设备的车辆

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
KR1020150110780A KR101714185B1 (ko) 2015-08-05 2015-08-05 차량 운전 보조장치 및 이를 포함하는 차량

Publications (2)

Publication Number Publication Date
KR20170017203A KR20170017203A (ko) 2017-02-15
KR101714185B1 true KR101714185B1 (ko) 2017-03-22

Family

ID=55080007

Family Applications (1)

Application Number Title Priority Date Filing Date
KR1020150110780A KR101714185B1 (ko) 2015-08-05 2015-08-05 차량 운전 보조장치 및 이를 포함하는 차량

Country Status (4)

Country Link
US (1) US10127820B2 (ko)
EP (1) EP3127771B1 (ko)
KR (1) KR101714185B1 (ko)
CN (1) CN106448260B (ko)

Cited By (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
KR20190000228A (ko) * 2017-06-22 2019-01-02 자동차부품연구원 레이저 램프를 이용한 운전자 지원 장치
US11634028B2 (en) 2017-07-28 2023-04-25 Samsung Electronics Co., Ltd. Image processing method of generating an image based on a user viewpoint and image processing device

Families Citing this family (73)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US10769453B2 (en) 2017-05-16 2020-09-08 Samsung Electronics Co., Ltd. Electronic device and method of controlling operation of vehicle
JP6269606B2 (ja) * 2015-07-21 2018-01-31 トヨタ自動車株式会社 車両制御装置
JP6558239B2 (ja) * 2015-12-22 2019-08-14 アイシン・エィ・ダブリュ株式会社 自動運転支援システム、自動運転支援方法及びコンピュータプログラム
SE539816C2 (en) * 2016-04-19 2017-12-05 Scania Cv Ab Method and control unit in a vehicle for estimating a stretch of a road based on a set of tracks of another vehicle
US10175558B2 (en) * 2016-05-25 2019-01-08 George Daniel Camera shield system
US20180031849A1 (en) * 2016-07-29 2018-02-01 Panasonic Automotive Systems Company Of America, Division Of Panasonic Corporation Of North America Augmented reality head-up display road correction
JP6515898B2 (ja) * 2016-09-29 2019-05-22 トヨタ自動車株式会社 物標レーン関係認識装置
JP6470335B2 (ja) * 2017-03-15 2019-02-13 株式会社Ｓｕｂａｒｕ 車両の表示システム及び車両の表示システムの制御方法
CN106882190B (zh) * 2017-03-16 2018-08-28 广东轻工职业技术学院 一种交叉路口行车辅助系统及行车辅助控制方法
KR102381372B1 (ko) * 2017-03-31 2022-03-31 삼성전자주식회사 센싱 정보에 기초한 주행 제어 방법 및 제어 디바이스
WO2018201252A1 (en) * 2017-05-03 2018-11-08 Soltare Inc. Audio processing for vehicle sensory systems
CN107193278B (zh) * 2017-05-08 2021-06-18 江苏大学 基于定位的图像和地图匹配的可行驶区域识别方法
US10168174B2 (en) * 2017-05-09 2019-01-01 Toyota Jidosha Kabushiki Kaisha Augmented reality for vehicle lane guidance
BR112019024097A2 (pt) * 2017-05-16 2020-06-02 Nissan Motor Co., Ltd. Método de predição de ação e dispositivo de predição de ação de dispositivo de ajuda para deslocamento
US11545033B2 (en) * 2017-06-22 2023-01-03 Apollo Intelligent Driving Technology (Beijing) Co., Ltd. Evaluation framework for predicted trajectories in autonomous driving vehicle traffic prediction
KR102064223B1 (ko) * 2017-07-12 2020-02-11 엘지전자 주식회사 차량용 주행 시스템 및 차량
KR102007304B1 (ko) * 2017-07-12 2019-08-05 엘지전자 주식회사 차량 주행 시스템 및 차량
CN110997415A (zh) * 2017-08-01 2020-04-10 三星电子株式会社 控制车辆的操作的电子设备和方法
JP6936070B2 (ja) * 2017-08-01 2021-09-15 トヨタ自動車株式会社 周辺監視装置
CN115620545A (zh) * 2017-08-24 2023-01-17 北京三星通信技术研究有限公司 用于辅助驾驶的增强现实的方法及装置
CN110019580B (zh) * 2017-08-25 2022-07-12 腾讯科技（深圳）有限公司 地图显示方法、装置、存储介质及终端
KR102400555B1 (ko) 2017-09-04 2022-05-20 삼성전자주식회사 주행 차량을 제어하는 방법 및 장치
DE102017216774B4 (de) 2017-09-21 2019-07-04 Volkswagen Aktiengesellschaft Verfahren, Vorrichtung, computerlesbares Speichermedium und Kraftfahrzeug mit Instruktionen zur Steuerung einer Anzeige einer Augmented-Reality-Head-up-Display-Vorrichtung für ein Kraftfahrzeug
KR101960417B1 (ko) * 2017-09-26 2019-03-20 (주)에이치브레인 객체인식률을 높인 융합센서 및 이를 구비한 차량 안전지원 시스템
KR102421855B1 (ko) * 2017-09-28 2022-07-18 삼성전자주식회사 주행 차로를 식별하는 방법 및 장치
TWI658431B (zh) * 2017-10-02 2019-05-01 緯創資通股份有限公司 影像處理方法、影像處理裝置及電腦可讀取記錄媒體
KR102441068B1 (ko) * 2017-10-13 2022-09-06 현대자동차주식회사 운전자 주행 보조 시스템 사용 패턴 기반 차량 경로 안내 시스템 및 그 방법
JP2019073272A (ja) * 2017-10-13 2019-05-16 株式会社リコー 表示装置、プログラム、映像処理方法、表示システム、移動体
KR102374919B1 (ko) * 2017-10-16 2022-03-16 주식회사 만도모빌리티솔루션즈 자율주행 지원 장치 및 방법
CN107941226B (zh) * 2017-11-16 2021-03-02 百度在线网络技术（北京）有限公司 用于生成车辆的方向引导线的方法和装置
KR20190061137A (ko) * 2017-11-27 2019-06-05 현대모비스 주식회사 가상차선 유지 장치 및 그 방법
KR102567973B1 (ko) * 2017-12-14 2023-08-17 삼성전자주식회사 자율주행 차량의 주행정보 제공 방법
JP7006235B2 (ja) * 2017-12-18 2022-01-24 トヨタ自動車株式会社 表示制御装置、表示制御方法および車両
JP6973100B2 (ja) * 2018-01-17 2021-11-24 トヨタ自動車株式会社 車両走行支援システム
KR102540919B1 (ko) * 2018-02-20 2023-06-07 현대자동차주식회사 차량의 주행 제어 장치 및 방법
FR3078045B1 (fr) 2018-02-22 2021-03-05 Renault Sas Dispositif et procede d'aide a la conduite d'un vehicule automobile
DE102018203121B4 (de) * 2018-03-02 2023-06-22 Volkswagen Aktiengesellschaft Verfahren zur Berechnung einer AR-Einblendung von Zusatzinformationen für eine Anzeige auf einer Anzeigeeinheit, Vorrichtung zur Durchführung des Verfahrens sowie Kraftfahrzeug und Computerprogramm
US11059421B2 (en) 2018-03-29 2021-07-13 Honda Motor Co., Ltd. Vehicle proximity system using heads-up display augmented reality graphics elements
JP6970386B2 (ja) * 2018-04-06 2021-11-24 トヨタ自動車株式会社 運転支援装置
KR102420568B1 (ko) * 2018-04-27 2022-07-13 삼성전자주식회사 차량의 위치를 결정하는 방법 및 이를 위한 차량
WO2020012208A1 (ja) * 2018-07-11 2020-01-16 日産自動車株式会社 走行環境情報の生成方法、運転制御方法、走行環境情報生成装置
JP7076331B2 (ja) * 2018-08-10 2022-05-27 本田技研工業株式会社 車両システム
KR102625203B1 (ko) * 2018-08-28 2024-01-15 에이치엘만도 주식회사 차량용 주행 보조 장치 및 차량용 주행 보조 장치의 제어방법
CN109050525A (zh) * 2018-09-10 2018-12-21 武汉乐庭软件技术有限公司 一种基于毫米雷达和相机融合的汽车自动驾驶系统
CN110920604A (zh) * 2018-09-18 2020-03-27 阿里巴巴集团控股有限公司 辅助驾驶方法、辅助驾驶系统、计算设备及存储介质
JP7040399B2 (ja) * 2018-10-23 2022-03-23 トヨタ自動車株式会社 情報処理システム及び情報処理方法
CN109300322B (zh) * 2018-10-31 2021-05-04 百度在线网络技术（北京）有限公司 引导线绘制方法、装置、设备和介质
CN109318711A (zh) * 2018-11-06 2019-02-12 山东派蒙机电技术有限公司 一种智能网联汽车仪表
CN109540157B (zh) * 2018-11-12 2021-02-02 广东星舆科技有限公司 一种车载导航系统及控制方法
KR102181651B1 (ko) * 2018-11-23 2020-11-24 엘지전자 주식회사 경로 제공 장치 및 그것을 포함하는 차량 제어 시스템
KR102184598B1 (ko) * 2018-11-29 2020-12-03 (주)제인모터스 자율주행차량의 운전자 응급상황발생판단에 기반한 주행예측 및 안전주행시스템
CN111323848A (zh) * 2018-12-17 2020-06-23 北汽福田汽车股份有限公司 一种车辆雨量传感器的校正方法和存储介质
CN109808493B (zh) * 2019-02-19 2021-05-28 百度在线网络技术（北京）有限公司 显示自动驾驶车辆行驶行为的方法和装置
CN109887451A (zh) * 2019-03-08 2019-06-14 江苏北斗星通汽车电子有限公司 一种显示屏前窗投影系统
CN109934175B (zh) * 2019-03-15 2021-07-06 百度在线网络技术（北京）有限公司 一种车辆导航方法、装置、电子设备及存储介质
KR20200119419A (ko) * 2019-03-29 2020-10-20 삼성전자주식회사 차량의 주행을 보조하는 전자 장치 및 방법
CN109931944B (zh) * 2019-04-02 2021-12-07 阿波罗智联(北京)科技有限公司 一种ar导航方法、装置、车端设备、服务端及介质
CN113853322A (zh) * 2019-05-28 2021-12-28 贝尔-赫拉恒温控制有限公司 用于车辆的显示装置
KR102176376B1 (ko) * 2019-06-24 2020-11-10 현대오트론 주식회사 물체 거리 측정 장치 및 방법
WO2020262716A1 (ko) * 2019-06-24 2020-12-30 엘지전자 주식회사 자율주행 차량의 주행 방법
US10915766B2 (en) * 2019-06-28 2021-02-09 Baidu Usa Llc Method for detecting closest in-path object (CIPO) for autonomous driving
KR102226067B1 (ko) * 2019-07-31 2021-03-11 엘지전자 주식회사 자율주행시스템에서 가상 신호등 서비스 제공방법 및 이를 위한 장치
KR102084946B1 (ko) 2019-07-31 2020-03-05 한국교통안전공단 차량의 이동 경로에 위치한 객체의 통과 높이에 따른 경보 알림 생성 장치 및 방법
CN112818727A (zh) * 2019-11-18 2021-05-18 华为技术有限公司 一种道路约束确定方法及装置
KR102302285B1 (ko) * 2020-01-02 2021-09-14 주식회사 경신 가상 차선 생성 장치 및 방법
KR20210097869A (ko) * 2020-01-30 2021-08-10 현대자동차주식회사 이동체에서 주행 가이드 라인 제어 방법 및 장치
FR3116501B1 (fr) * 2020-11-25 2022-10-07 Psa Automobiles Sa Procédé et dispositif de détermination d’une ligne virtuelle de délimitation entre deux voies de circulation.
CN114643996A (zh) * 2020-12-19 2022-06-21 荷兰移动驱动器公司 辅助驾驶方法以及车辆
CN112937486B (zh) * 2021-03-16 2022-09-02 吉林大学 一种道路积水车载在线监测与驾驶辅助系统及方法
CN113147748A (zh) * 2021-03-26 2021-07-23 江铃汽车股份有限公司 一种基于ar实景导航的adas显示方法及系统
KR102559534B1 (ko) * 2021-06-29 2023-07-26 주식회사 디에이치오토웨어 악천후에서의 차량의 주행차선 지원 방법 및 장치
CN114756585A (zh) * 2022-03-23 2022-07-15 深圳市元征科技股份有限公司 车辆数据获取方法、装置、电子设备及存储介质
US11961403B2 (en) 2022-07-20 2024-04-16 Denso Corporation Lane monitoring during turns in an intersection

Citations (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2000207563A (ja) * 1999-01-20 2000-07-28 Fujitsu Ten Ltd 画像認識装置
JP2007122578A (ja) * 2005-10-31 2007-05-17 Equos Research Co Ltd 仮想車線表示装置
JP2011028625A (ja) * 2009-07-28 2011-02-10 Toyota Motor Corp 車両走行支援装置
JP2011128786A (ja) * 2009-12-16 2011-06-30 Ud Trucks Corp 衝突被害軽減装置

Family Cites Families (18)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP4161584B2 (ja) 2002-02-07 2008-10-08 トヨタ自動車株式会社 移動体用安全装置
US20070032245A1 (en) * 2005-08-05 2007-02-08 Alapuranen Pertti O Intelligent transportation system and method
JP4788426B2 (ja) 2006-03-23 2011-10-05 株式会社デンソー 車両用表示システム
DE102006038018A1 (de) 2006-08-14 2008-02-21 Robert Bosch Gmbh Verfahren und Vorrichtung zur Fahrerassistenz durch Erzeugung von Spurinformationen zur Unterstützung oder zum Ersatz von Spurinformationen einer videobasierten Spurinformationseinrichtung
JP5216010B2 (ja) 2009-01-20 2013-06-19 本田技研工業株式会社 ウインドシールド上の雨滴を同定するための方法及び装置
US20110301813A1 (en) * 2010-06-07 2011-12-08 Denso International America, Inc. Customizable virtual lane mark display
KR20120127830A (ko) * 2011-05-16 2012-11-26 삼성전자주식회사 차량용 단말을 위한 사용자 인터페이스 방법 및 장치
JP5348180B2 (ja) 2011-05-30 2013-11-20 トヨタ自動車株式会社 運転支援装置
JP5673597B2 (ja) * 2011-11-18 2015-02-18 株式会社デンソー 車両用挙動制御装置
US20130278441A1 (en) * 2012-04-24 2013-10-24 Zetta Research and Development, LLC - ForC Series Vehicle proxying
US9261601B2 (en) * 2013-06-01 2016-02-16 Savari, Inc. System and method for lane boundary estimation and host vehicle position and orientation
JP6171612B2 (ja) 2013-06-20 2017-08-02 株式会社豊田中央研究所 仮想レーン生成装置及びプログラム
KR101532653B1 (ko) 2013-08-12 2015-06-30 재단법인대구경북과학기술원 가상 차선 생성 시스템 및 그 방법
JP2015087891A (ja) 2013-10-30 2015-05-07 富士通テン株式会社 情報提供システム、情報提供装置、及び情報提供方法
US9475496B2 (en) * 2013-11-22 2016-10-25 Ford Global Technologies, Llc Modified autonomous vehicle settings
KR101502511B1 (ko) 2013-11-28 2015-03-13 현대모비스 주식회사 가상 차선 생성 장치와 방법 및 상기 장치를 구비하는 차선 유지 제어 시스템
KR101582572B1 (ko) * 2013-12-24 2016-01-11 엘지전자 주식회사 차량 운전 보조 장치 및 이를 구비한 차량
JP6489408B2 (ja) * 2014-01-30 2019-03-27 パナソニックＩｐマネジメント株式会社 表示制御プログラム、表示制御装置および表示装置

Patent Citations (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2000207563A (ja) * 1999-01-20 2000-07-28 Fujitsu Ten Ltd 画像認識装置
JP2007122578A (ja) * 2005-10-31 2007-05-17 Equos Research Co Ltd 仮想車線表示装置
JP2011028625A (ja) * 2009-07-28 2011-02-10 Toyota Motor Corp 車両走行支援装置
JP2011128786A (ja) * 2009-12-16 2011-06-30 Ud Trucks Corp 衝突被害軽減装置

Cited By (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
KR20190000228A (ko) * 2017-06-22 2019-01-02 자동차부품연구원 레이저 램프를 이용한 운전자 지원 장치
KR102020848B1 (ko) * 2017-06-22 2019-09-11 자동차부품연구원 레이저 램프를 이용한 운전자 지원 장치
US11634028B2 (en) 2017-07-28 2023-04-25 Samsung Electronics Co., Ltd. Image processing method of generating an image based on a user viewpoint and image processing device

Also Published As

Publication number Publication date
KR20170017203A (ko) 2017-02-15
US20170039856A1 (en) 2017-02-09
CN106448260A (zh) 2017-02-22
EP3127771A3 (en) 2017-04-26
EP3127771B1 (en) 2020-04-08
US10127820B2 (en) 2018-11-13
EP3127771A2 (en) 2017-02-08
CN106448260B (zh) 2019-07-09

Similar Documents

Publication Publication Date Title
KR101714185B1 (ko) 차량 운전 보조장치 및 이를 포함하는 차량
KR101942793B1 (ko) 차량 운전 보조장치 및 이를 포함하는 차량
KR101916993B1 (ko) 차량용 디스플레이 장치 및 그 제어방법
KR101949438B1 (ko) 차량용 디스플레이 장치 및 이를 포함하는 차량
KR101844885B1 (ko) 차량 운전 보조장치 및 이를 포함하는 차량
KR101838187B1 (ko) 디스플레이 장치 및 이를 포함하는 차량
CN109789778B (zh) 自动泊车辅助装置以及包括其的车辆
KR101832466B1 (ko) 자동주차 보조장치 및 이를 포함하는 차량
KR20180040235A (ko) 자동주차 보조장치 및 이를 포함하는 차량
KR20170099188A (ko) 차량 운전 보조장치 및 이를 포함하는 차량
KR20170058188A (ko) 차량 운전 보조장치 및 이를 포함하는 차량
KR101790426B1 (ko) 자동주차 보조장치 및 이를 포함하는 차량
KR101843538B1 (ko) 차량 운전 보조장치 및 이의 차량 운전 보조방법
KR101962348B1 (ko) 차량 운전 보조장치 및 이를 포함하는 차량
KR101732263B1 (ko) 차량 운전 보조장치 및 이를 포함하는 차량
KR20170140284A (ko) 차량 운전 보조 장치 및 차량
KR20170033612A (ko) 차량운전 보조장치 및 이를 포함하는 차량
KR101972352B1 (ko) 자동주차 보조장치 및 이를 포함하는 차량
KR20180080939A (ko) 차량 운전 보조장치 및 이를 포함하는 차량
KR101929294B1 (ko) 자동주차 보조장치 및 이를 포함하는 차량
KR101843535B1 (ko) 차량 운전 보조장치 및 이를 포함하는 차량
KR101888259B1 (ko) 차량 보조장치 및 이를 포함하는 차량
KR101894636B1 (ko) 차량 운전 보조장치 및 이를 포함하는 차량
KR102480989B1 (ko) 차량용 디스플레이 장치 및 그 동작 방법
KR101929288B1 (ko) 자동주차 보조장치 및 이를 포함하는 차량

Legal Events

Date Code Title Description
A201 Request for examination
E902 Notification of reason for refusal
E701 Decision to grant or registration of patent right
GRNT Written decision to grant