KR20140004413A - Apparatus and method for assisting safe driving - Google Patents

Apparatus and method for assisting safe driving Download PDF

Info

Publication number
KR20140004413A
KR20140004413A KR1020120071927A KR20120071927A KR20140004413A KR 20140004413 A KR20140004413 A KR 20140004413A KR 1020120071927 A KR1020120071927 A KR 1020120071927A KR 20120071927 A KR20120071927 A KR 20120071927A KR 20140004413 A KR20140004413 A KR 20140004413A
Authority
KR
South Korea
Prior art keywords
information
unit
sign
obstacle
image
Prior art date
Application number
KR1020120071927A
Other languages
Korean (ko)
Other versions
KR102051397B1 (en
Inventor
조준범
서성진
Original Assignee
현대모비스 주식회사
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by 현대모비스 주식회사 filed Critical 현대모비스 주식회사
Priority to KR1020120071927A priority Critical patent/KR102051397B1/en
Publication of KR20140004413A publication Critical patent/KR20140004413A/en
Application granted granted Critical
Publication of KR102051397B1 publication Critical patent/KR102051397B1/en

Links

Images

Classifications

    • BPERFORMING OPERATIONS; TRANSPORTING
    • B60VEHICLES IN GENERAL
    • B60WCONJOINT CONTROL OF VEHICLE SUB-UNITS OF DIFFERENT TYPE OR DIFFERENT FUNCTION; CONTROL SYSTEMS SPECIALLY ADAPTED FOR HYBRID VEHICLES; ROAD VEHICLE DRIVE CONTROL SYSTEMS FOR PURPOSES NOT RELATED TO THE CONTROL OF A PARTICULAR SUB-UNIT
    • B60W30/00Purposes of road vehicle drive control systems not related to the control of a particular sub-unit, e.g. of systems using conjoint control of vehicle sub-units
    • B60W30/08Active safety systems predicting or avoiding probable or impending collision or attempting to minimise its consequences
    • BPERFORMING OPERATIONS; TRANSPORTING
    • B60VEHICLES IN GENERAL
    • B60WCONJOINT CONTROL OF VEHICLE SUB-UNITS OF DIFFERENT TYPE OR DIFFERENT FUNCTION; CONTROL SYSTEMS SPECIALLY ADAPTED FOR HYBRID VEHICLES; ROAD VEHICLE DRIVE CONTROL SYSTEMS FOR PURPOSES NOT RELATED TO THE CONTROL OF A PARTICULAR SUB-UNIT
    • B60W40/00Estimation or calculation of non-directly measurable driving parameters for road vehicle drive control systems not related to the control of a particular sub unit, e.g. by using mathematical models
    • B60W40/02Estimation or calculation of non-directly measurable driving parameters for road vehicle drive control systems not related to the control of a particular sub unit, e.g. by using mathematical models related to ambient conditions
    • B60W40/04Traffic conditions
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/10Segmentation; Edge detection
    • G06T7/13Edge detection
    • BPERFORMING OPERATIONS; TRANSPORTING
    • B60VEHICLES IN GENERAL
    • B60WCONJOINT CONTROL OF VEHICLE SUB-UNITS OF DIFFERENT TYPE OR DIFFERENT FUNCTION; CONTROL SYSTEMS SPECIALLY ADAPTED FOR HYBRID VEHICLES; ROAD VEHICLE DRIVE CONTROL SYSTEMS FOR PURPOSES NOT RELATED TO THE CONTROL OF A PARTICULAR SUB-UNIT
    • B60W2420/00Indexing codes relating to the type of sensors based on the principle of their operation
    • B60W2420/40Photo, light or radio wave sensitive means, e.g. infrared sensors
    • B60W2420/403Image sensing, e.g. optical camera
    • BPERFORMING OPERATIONS; TRANSPORTING
    • B60VEHICLES IN GENERAL
    • B60WCONJOINT CONTROL OF VEHICLE SUB-UNITS OF DIFFERENT TYPE OR DIFFERENT FUNCTION; CONTROL SYSTEMS SPECIALLY ADAPTED FOR HYBRID VEHICLES; ROAD VEHICLE DRIVE CONTROL SYSTEMS FOR PURPOSES NOT RELATED TO THE CONTROL OF A PARTICULAR SUB-UNIT
    • B60W2420/00Indexing codes relating to the type of sensors based on the principle of their operation
    • B60W2420/40Photo, light or radio wave sensitive means, e.g. infrared sensors
    • B60W2420/408Radar; Laser, e.g. lidar

Landscapes

  • Engineering & Computer Science (AREA)
  • Automation & Control Theory (AREA)
  • Transportation (AREA)
  • Mechanical Engineering (AREA)
  • Physics & Mathematics (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • General Physics & Mathematics (AREA)
  • Theoretical Computer Science (AREA)
  • Mathematical Physics (AREA)
  • Traffic Control Systems (AREA)

Abstract

The present invention relates to a device and a method for assisting safe driving to detect obstacles using the camera and rider of a vehicle for assisting drivers in driving the vehicle by determining if the detected obstacles exist on an inside lane and if the obstacles are pedestrians or vehicles; and to recognize a sign using the camera and rider of the vehicle for assisting the driver in driving the vehicle by determining the type of the sign. The device for assisting safe driving may comprise a camera information receiving part for receiving information collected by the camera of a vehicle; a rider information receiving part for receiving information collected by the rider; and an information recognition part for recognizing information relating to objects included in the information received in the camera and rider information receiving parts. [Reference numerals] (1000) Device for assisting safe driving; (1100) Camera information receiving part; (1200) Rider information receiving part; (1300) Image signal processing part; (1400) 3D pre-processing part; (1500) 2D/3D matching part; (1600) Information recognition part; (1700) Warning part

Description

안전운전 지원 장치 및 방법{Apparatus and Method for Assisting Safe Driving}Apparatus and Method for Assisting Safe Driving}

본 발명은 안전운전 지원 장치 및 방법에 관한 것이다. 보다 상세하게는, 본 발명은 차량의 카메라 및 라이더를 이용하여 장애물을 인식하고, 인식된 장애물이 주행 차선에 존재하는지 여부 또는 장애물이 차량인지 보행자인지를 판단하여 차량 운행을 보조하며, 차량의 카메라 및 라이더를 이용하여 표지판을 인식하고, 표지판의 종류를 판단하여 차량 운행을 보조하는 안전운전 지원 장치 및 방법에 관한 것이다.The present invention relates to a safe driving support apparatus and method. More specifically, the present invention recognizes an obstacle using a camera and a rider of the vehicle, and assists the vehicle driving by determining whether the recognized obstacle exists in the driving lane or whether the obstacle is a vehicle or a pedestrian, and the camera of the vehicle. And a safe driving support apparatus and a method for recognizing a sign using a rider and determining a type of the sign to assist in driving a vehicle.

기존의 라이더(Lidar)를 차량에 이용한 기술로는, 라이더를 이용하여 다른 차량과의 거리 정보를 획득하고, 획득된 거리 정보와 차량의 카메라로부터 수신된 영상을 함께 이용하여 다른 차량의 존재와 다른 차량과의 거리를 인식하여 차량간의 충돌을 방지하는 시스템 등이 있다.Conventional riders (Lidar) using the vehicle, using the rider to obtain the distance information with the other vehicle, using the obtained distance information and the image received from the camera of the vehicle is different from the presence of other vehicles There is a system that recognizes the distance to the vehicle to prevent the collision between the vehicles.

다만, 이러한 라이더를 이용한 차량간의 충돌을 방지하는 시스템은 보행자를 인식하는 기능이 없어, 인식한 장애물이 차량이 아니라 보행자인 경우, 보행자와의 사고에는 대비하지 못하는 문제점이 존재한다.However, a system for preventing collision between vehicles using such a rider does not have a function of recognizing pedestrians, and thus, when the recognized obstacle is a pedestrian instead of a vehicle, there is a problem in that an accident with a pedestrian cannot be prepared.

또한, 기존의 라이더를 이용한 장애물 인식과 이를 이용한 차량간의 충돌 방지 시스템은 주행 차선에 존재하는 차량과 추행차선이 아닌 다른 차선에 존재하는 차량을 구분하지 않는 문제점이 존재한다.In addition, an obstacle recognition system using a conventional rider and a collision avoidance system using a vehicle do not distinguish a vehicle existing in a driving lane from a vehicle existing in a lane other than a driving lane.

차량은 차량에 설치된 카메라로 차량 외부 영상을 획득하고, 획득한 영상에서 교통 표지판을 검출하는 기능이 구비된 경우가 존재한다.The vehicle may have a function of acquiring an external image of the vehicle with a camera installed in the vehicle and detecting a traffic sign from the acquired image.

다만, 카메라를 이용하여 획득된 영상만으로 교통 표지판을 검출하는 경우, 기후 조건, 주야의 시간대 등에 따라서 교통 표지판의 오인식률이 높은 문제점이 존재한다.However, when detecting a traffic sign using only an image acquired by using a camera, there is a problem in that a false recognition rate of the traffic sign is high according to climatic conditions, day and night time, and the like.

본 발명은 상기한 문제점을 해결하기 위하여, 차량의 주행 차선을 인식하여 장애물이 주행 차선에 존재하는지 여부를 판단하고, 데이터베이스를 이용하여 인식된 장애물이 차량인지 보행자인지를 판단하여 차량 운행을 보조하고, 표지판을 인식하는데 카메라뿐만 아니라 라이더를 이용하여 보다 정확하게 표지판을 인식하는 안전운전 지원 장치 및 방법을 제공하는 것을 목적으로 한다.In order to solve the above problem, the present invention recognizes a driving lane of a vehicle to determine whether an obstacle exists in the driving lane, and determines whether the recognized obstacle is a vehicle or a pedestrian by using a database to assist vehicle operation. It is an object of the present invention to provide a safe driving support apparatus and method for more accurately recognizing a sign using a rider as well as a camera to recognize a sign.

상기한 문제점을 해결하기 위하여 안출된 안전운전 지원 장치는, 차량의 카메라가 수집한 정보를 수신하는 카메라정보 수신부; 라이더가 수집한 정보를 수신하는 라이더정보 수신부; 및 상기 카메라정보 수신부 및 상기 라이더정보 수신부에서 수신한 정보를 이용하여 상기 수신한 정보에 포함된 물체에 관한 정보를 인식하는 정보인식부를 포함할 수 있다.In order to solve the above problems, the safe driving support apparatus includes: a camera information receiver configured to receive information collected by a camera of a vehicle; A rider information receiver configured to receive information collected by a rider; And an information recognizing unit recognizing information on an object included in the received information by using the information received by the camera information receiving unit and the rider information receiving unit.

바람직하게는, 상기 정보인식부는, 상기 수신한 정보에 포함된 물체 중 상기 차량의 주행에 장애가 되는 물체에 관한 정보를 인식하는 장애물 구분인식부를 포함하며, 상기 장애물 구분인식부는, 상기 카메라정보 수신부에서 수신한 정보를 이용하여 상기 차량이 주행하고 있는 차선을 포함한 차선을 인식하는 차선인식부; 상기 카메라정보 수신부 및 상기 라이더정보 수신부에서 수신한 정보를 이용하여 장애물을 인식하는 장애물 인식부; 및 상기 인식된 장애물이 상기 차선인식부에서 인식된 상기 주행하고 있는 차선에 존재하는 장애물인지를 판단하는 주행차선장애물 판단부를 포함할 수 있다.Preferably, the information recognizing unit includes an obstacle classification recognition unit for recognizing information on an object which is an obstacle to the running of the vehicle among the objects included in the received information, the obstacle classification recognition unit, the camera information receiving unit A lane recognizing unit recognizing a lane including a lane in which the vehicle is driven by using the received information; An obstacle recognition unit that recognizes the obstacle by using the information received from the camera information receiver and the rider information receiver; And a driving lane obstacle determining unit determining whether the recognized obstacle is an obstacle present in the driving lane recognized by the lane recognition unit.

바람직하게는, 상기 장애물 구분인식부는, 상기 인식된 장애물이 보행자, 차량 또는 노이즈(Noise) 중 어느 하나인 것으로 판단하는 장애물 구분부를 더 포함할 수 있다.Preferably, the obstacle classification unit may further include an obstacle division unit that determines that the recognized obstacle is any one of a pedestrian, a vehicle, and a noise.

바람직하게는, 상기 안전운전 지원 장치는, 상기 라이더정보 수신부에서 수신된 정보를 이용하여 인텐시티(Intensity) 정보와 깊이(Depth) 정보를 생성하고, 상기 생성된 정보를 이용하여 3차원 이미지를 생성하는 3D 전처리부를 포함하며, 상기 장애물 구분부는, 복수개의 보행자 이미지 및 차량 이미지를 저장하고 있는 제1데이터베이스부를 포함하고, 상기 카메라 정보와 상기 생성된 3차원 이미지를 이용하여 그라디언트(Gradient)를 산출하고, 산출된 그라디언트를 이용하여 상기 이미지에서 엣지정보를 획득하고, 상기 엣지정보를 이용하여 상기 인식된 장애물의 윤곽선 정보를 획득한 후, 상기 윤곽선 정보를 상기 제1데이터베이스부에 저장된 이미지와 매칭하여 상기 인식된 장애물이 보행자, 차량 또는 노이즈(Noise) 중 어느 하나인 것으로 판단할 수 있다.Preferably, the safe driving support apparatus generates intensity information and depth information by using the information received from the rider information receiving unit, and generates a 3D image by using the generated information. 3D pre-processing unit, the obstacle classification unit, a first database unit for storing a plurality of pedestrian image and vehicle image, calculates a gradient (Gradient) using the camera information and the generated three-dimensional image, Acquiring edge information from the image using the calculated gradient, acquiring outline information of the recognized obstacle using the edge information, and matching the outline information with an image stored in the first database unit, thereby recognizing the edge information. The obstacle may be determined to be one of a pedestrian, a vehicle, and a noise.

바람직하게는, 상기 안전운전 지원 장치는, 상기 주행차선장애물 판단부의 판단이 상기 인식된 장애물이 상기 인식된 주행 차선 사이에 존재하는 장애물이라고 판단하는 경우, 소리, 화면 표시, 차량의 안전벨트 진동 또는 차량의 브레이크 제어 중 적어도 어느하나를 수행하는 주의경고부를 더 포함할 수 있다.Preferably, the safe driving support apparatus, when the determination of the driving lane obstacle determining unit determines that the recognized obstacle is an obstacle existing between the recognized driving lanes, a sound, a screen display, a seat belt vibration of the vehicle, or the like. The apparatus may further include an attention warning unit configured to perform at least one of brake control of the vehicle.

바람직하게는, 상기 정보인식부는, 상기 수신한 정보에 포함된 물체 중 표지판에 관한 정보를 인식하는 표지판 인식부를 포함하며, 상기 표지판 인식부는, 상기 카메라정보 수신부 및 상기 라이더정보 수신부에서 수신한 정보를 이용하여 표지판으로 추측되는 이미지를 선택하는 표지판후보 선택부; 복수개의 표지판 이미지가 저장된 제2데이터베이스부; 및 상기 표지판후보 선택부에서 선택된 이미지와 상기 제2데이터베이스부에 저장된 상기 표지판 이미지와 매칭하여 상기 선택된 이미지의 표지판 종류를 판단하는 표지판 판단부를 포함할 수 있다.Preferably, the information recognizing unit includes a sign recognizing unit recognizing information on the sign of the object included in the received information, the sign recognition unit, the information received from the camera information receiving unit and the rider information receiving unit A sign candidate selection unit for selecting an image assumed to be a sign using the sign candidate; A second database unit storing a plurality of sign images; And a sign determination unit determining a sign type of the selected image by matching the image selected by the sign candidate selection unit with the sign image stored in the second database unit.

바람직하게는, 상기 안전운전 지원 장치는, 상기 라이더정보 수신부에서 수신된 정보를 이용하여 인텐시티(Intensity) 정보와 깊이(Depth) 정보를 생성하고, 상기 생성된 정보를 이용하여 3차원 이미지를 생성하는 3D 전처리부를 포함하며, 상기 표지판후보 선택부는, 상기 생성된 3차원 이미지 중 기 설정된 인텐시티 이상의 인텐시티 값을 가지는 상기 3차원 이미지 또는 상기 3차원 이미지 중 일부분을 표지판으로 추측되는 이미지로 선택할 수 있다.Preferably, the safe driving support apparatus generates intensity information and depth information by using the information received from the rider information receiving unit, and generates a 3D image by using the generated information. And a 3D pre-processing unit, wherein the sign candidate selection unit may select a portion of the generated 3D image having the intensity greater than or equal to a predetermined intensity or a portion of the 3D image as an image estimated to be a sign.

바람직하게는, 상기 안전운전 지원 장치는, 상기 라이더정보 수신부에서 수신된 정보를 이용하여 인텐시티(Intensity) 정보와 깊이(Depth) 정보를 생성하고, 상기 생성된 정보를 이용하여 3차원 이미지를 생성하는 3D 전처리부를 포함하며, 상기 표지판 판단부는, 상기 3차원 이미지의 라인 엣지를 추출하여 표지판 부분으로 추측되는 부분을 판단하고, 상기 판단된 표지판 부분과 상기 제2데이터베이스부에 저장된 상기 표지판 이미지와 매칭하여 상기 선택된 이미지의 표지판 종류를 판단할 수 있다.Preferably, the safe driving support apparatus generates intensity information and depth information by using the information received from the rider information receiving unit, and generates a 3D image by using the generated information. And a 3D preprocessor, wherein the sign determination unit extracts a line edge of the 3D image to determine a part that is assumed to be a sign part, and matches the determined sign part with the sign image stored in the second database part. The type of sign of the selected image may be determined.

상기한 문제점을 해결하기 위한 안전운전 지원 방법은, 차량의 카메라가 수집한 정보를 수신하는 카메라정보 수신단계; 라이더가 수집한 정보를 수신하는 라이더정보 수신단계; 및 상기 카메라정보 수신단계 및 라이더정보 수신단계에서 수신한 정보를 이용하여 상기 수신한 정보에 포함된 물체에 관한 정보를 인식하는 정보인식단계를 포함할 수 있다.Safe driving support method for solving the above problems, Camera information receiving step of receiving information collected by the camera of the vehicle; A rider information receiving step of receiving information collected by a rider; And an information recognition step of recognizing information about an object included in the received information by using the information received in the camera information receiving step and the rider information receiving step.

바람직하게는, 상기 정보인식단계는, 상기 수신한 정보에 포함된 물체 중 상기 차량의 주행에 장애가 되는 물체에 관한 정보를 인식하는 장애물 구분인식단계를 포함하며, 상기 장애물 구분인식단계는, 상기 카메라정보 수신단계에서 수신한 정보를 이용하여 상기 차량이 주행하고 있는 차선을 포함한 차선을 인식하는 차선인식단계; 상기 카메라정보 수신단계 및 라이더정보 수신단계에서 수신한 정보를 이용하여 장애물을 인식하는 장애물 인식단계; 및 상기 인식된 장애물이 상기 차선인식단계에서 인식된 상기 주행하고 있는 차선에 존재하는 장애물인지를 판단하는 주행차선장애물 판단단계를 포함할 수 있다.Preferably, the information recognizing step includes an obstacle classification recognition step of recognizing information on an object which is an obstacle to driving of the vehicle among the objects included in the received information, the obstacle classification recognition step, the camera A lane recognition step of recognizing a lane including a lane in which the vehicle is driven by using the information received in the information receiving step; An obstacle recognition step of recognizing an obstacle using information received in the camera information receiving step and the rider information receiving step; And a driving lane obstacle determining step of determining whether the recognized obstacle is an obstacle present in the traveling lane recognized in the lane recognition step.

바람직하게는, 상기 장애물 구분인식단계는, 상기 인식된 장애물이 보행자, 차량 또는 노이즈(Noise) 중 어느 하나인 것으로 판단하는 장애물 구분단계를 더 포함할 수 있다.Preferably, the obstacle classification recognition step may further include an obstacle classification step of determining that the recognized obstacle is any one of a pedestrian, a vehicle, and a noise.

바람직하게는, 상기 안전운전 지원 방법은, 상기 라이더정보 수신단계에서 수신된 정보를 이용하여 인텐시티(Intensity) 정보와 깊이(Depth) 정보를 생성하고, 상기 생성된 정보를 이용하여 3차원 이미지를 생성하는 3D 전처리단계를 포함하며, 상기 장애물 구분단계는, 상기 카메라 정보와 상기 생성된 3차원 이미지를 이용하여 그라디언트(Gradient)를 산출하고, 산출된 그라디언트를 이용하여 상기 이미지에서 엣지정보를 획득하고, 상기 엣지정보를 이용하여 상기 인식된 장애물의 윤곽선 정보를 획득한 후, 상기 윤곽선 정보를 복수개의 보행자 이미지 및 차량 이미지를 저장하고 있는 제1데이터베이스부에 저장된 이미지와 매칭하여 상기 인식된 장애물이 보행자, 차량 또는 노이즈(Noise) 중 어느 하나인 것으로 판단할 수 있다.Preferably, in the safe driving support method, intensity information and depth information are generated using the information received in the rider information receiving step, and a 3D image is generated using the generated information. And a 3D preprocessing step, wherein the obstacle classification step includes calculating a gradient using the camera information and the generated 3D image, obtaining edge information from the image using the calculated gradient, After acquiring the contour information of the recognized obstacle using the edge information, matching the contour information with an image stored in a first database unit storing a plurality of pedestrian images and vehicle images, the recognized obstacle is a pedestrian, It may be determined that the vehicle is either one of noise or noise.

바람직하게는, 상기 안전운전 지원 방법은, 상기 주행차선장애물 판단단계의 판단이 상기 인식된 장애물이 상기 인식된 주행 차선 사이에 존재하는 장애물이라고 판단하는 경우, 소리, 화면 표시, 차량의 안전벨트 진동 또는 차량의 브레이크 제어 중 적어도 어느 하나를 수행하는 주의경고단계를 더 포함할 수 있다.Preferably, in the safe driving support method, when the determination of the driving lane obstacle determining step determines that the recognized obstacle is an obstacle existing between the recognized driving lane, a sound, a screen display, and a seat belt vibration of the vehicle Or a warning warning step of performing at least one of brake control of the vehicle.

바람직하게는, 상기 정보인식단계는, 상기 수신한 정보에 포함된 물체 중 표지판에 관한 정보를 인식하는 표지판 인식단계를 포함하며, 상기 표지판 인식단계는, 상기 카메라정보 수신단계 및 라이더정보 수신단계에서 수신한 정보를 이용하여 표지판으로 추측되는 이미지를 선택하는 표지판후보 선택단계; 및 상기 표지판후보 선택단계에서 선택된 이미지를 복수개의 표지판 이미지가 저장된 제2데이터베이스부에 저장된 이미지와 매칭하여 상기 선택된 이미지의 표지판 종류를 판단하는 표지판 판단단계를 포함할 수 있다.Preferably, the information recognition step includes a sign recognition step of recognizing information on the sign of the objects included in the received information, the sign recognition step, the camera information receiving step and the rider information receiving step A sign candidate selection step of selecting an image assumed to be a sign using the received information; And a sign determination step of determining a sign type of the selected image by matching the image selected in the sign candidate selection step with an image stored in a second database unit in which a plurality of sign images are stored.

바람직하게는, 상기 안전운전 지원 방법은, 상기 라이더정보 수신단계에서 수신된 정보를 이용하여 인텐시티(Intensity) 정보와 깊이(Depth) 정보를 생성하고, 상기 생성된 정보를 이용하여 3차원 이미지를 생성하는 3D 전처리단계를 포함하며, 상기 표지판후보 선택단계는, 상기 생성된 3차원 이미지 중 기 설정된 인텐시티 이상의 인텐시티 값을 가지는 상기 3차원 이미지 또는 상기 3차원 이미지 중 일부분을 표지판으로 추측되는 이미지로 선택할 수 있다.Preferably, in the safe driving support method, intensity information and depth information are generated using the information received in the rider information receiving step, and a 3D image is generated using the generated information. And a 3D preprocessing step, wherein the sign candidate selection step may select the 3D image or a part of the 3D image having an intensity value greater than or equal to a preset intensity among the generated 3D images as an image estimated to be a sign. have.

바람직하게는, 상기 안전운전 지원 방법은, 상기 라이더정보 수신단계에서 수신된 정보를 이용하여 인텐시티(Intensity) 정보와 깊이(Depth) 정보를 생성하고, 상기 생성된 정보를 이용하여 3차원 이미지를 생성하는 3D 전처리단계를 포함하며, 상기 표지판 판단단계는, 상기 3차원 이미지의 라인 엣지를 추출하여 표지판 부분으로 추측되는 부분을 판단하고, 상기 판단된 표지판 부분과 상기 제2데이터베이스부에 저장된 상기 표지판 이미지와 매칭하여 상기 선택된 이미지의 표지판 종류를 판단할 수 있다.Preferably, in the safe driving support method, intensity information and depth information are generated using the information received in the rider information receiving step, and a 3D image is generated using the generated information. And a 3D preprocessing step, wherein the sign determination step extracts a line edge of the 3D image to determine a part estimated as a sign part, and the sign image stored in the determined sign part and the second database part. The type of sign of the selected image may be determined by matching with.

본 발명은 주행차선에 있는 차량과 다른 차선에 있는 차량을 구분할 수 있어 충돌 방지 기능을 수행 할 수 있다.The present invention can distinguish the vehicle in the driving lane and the vehicle in the other lane to perform a collision avoidance function.

또한, 본 발명은 차량뿐만 아니라 보행자도 인식 가능한바 보행자와의 충돌을 방지할 수 있다.In addition, the present invention can recognize the pedestrian as well as the vehicle can prevent a collision with the pedestrian.

본 발명은 보다 높은 정확도로 표지판을 인식하고 표지판의 종류를 파악할 수 있다.The present invention can recognize a sign with higher accuracy and grasp the type of sign.

도 1은 본 발명의 바람직한 실시예에 따른 안전운전 지원 장치에 관한 블록도이다.
도 2는 본 발명에 따른 장애물 구분 인식 장치의 정보인식부의 일예를 설명하는 블록도이다.
도 3은 장애물인식부에서 이미지 정보를 이용하여 장애물을 인식할 때, 수학식 1을 적용한 결과의 일예를 나타내는 도이다.
도 4는 본 발명에 따른 안전운전 지원 장치의 표지판 판단부가 이미지에서 표지판 부분을 추출하는 방법의 일 예를 설명하기 위한 도이다.
도 5는 본 발명에 따른 안전운전 지원 장치의 제2데이터베이스부가 저장하고 있는 표지판 이미지의 예를 설명하는 도이다.
도 6은 본 발명의 바람직한 실시예에 따른 안전운전 지원 방법을 설명하는 흐름도이다.
1 is a block diagram of a safe driving support apparatus according to a preferred embodiment of the present invention.
2 is a block diagram illustrating an example of an information recognition unit of an obstacle classification recognition apparatus according to the present invention.
3 is a diagram illustrating an example of a result of applying Equation 1 when the obstacle recognition unit recognizes an obstacle using image information.
4 is a diagram illustrating an example of a method of extracting a sign part from an image by the sign determining unit of the safe driving support apparatus according to the present invention.
5 is a view for explaining an example of a sign image stored in a second database unit of the safe driving support apparatus according to the present invention.
6 is a flowchart illustrating a safe driving support method according to an embodiment of the present invention.

이하에서는 도면을 참조하여 본 발명의 바람직한 실시예들을 상세히 설명한다. 이하의 설명 및 첨부된 도면들에서 실질적으로 동일한 구성요소들은 각각 동일한 부호들로 나타냄으로써 중복 설명을 생략하기로 한다. 또한 본 발명을 설명함에 있어 관련된 공지기능 혹은 구성에 대한 구체적인 설명이 본 발명의 요지를 불필요하게 흐릴 수 있다고 판단되는 경우 그에 대한 상세한 설명은 생략하기로 한다.Hereinafter, preferred embodiments of the present invention will be described in detail with reference to the drawings. In the following description and the accompanying drawings, substantially the same components are denoted by the same reference numerals, respectively, and redundant description will be omitted. In the following description of the present invention, a detailed description of known functions and configurations incorporated herein will be omitted when it may make the subject matter of the present invention rather unclear.

어떤 구성요소가 다른 구성요소에 “연결되어”있다거나 “접속되어”있다고 언급된 때에는, 그 다른 구성요소에 직접적으로 연결되어 있거나 또는 접속되어 있을 수도 있지만, 중간에 다른 구성요소가 존재할 수도 있다고 이해되어야 할 것이다. 반면에, 어떤 구성요소가 다른 구성요소에 “직접 연결되어”있다거나 “직접 접속되어”있다고 언급된 때에는, 중간에 다른 구성요소가 존재하지 않는 것으로 이해되어야 할 것이다.It is to be understood that when an element is referred to as being "connected" or "connected" to another element, it may be directly connected or connected to the other element, . On the other hand, when an element is referred to as being "directly connected" or "directly connected" to another element, it should be understood that there are no other elements in between.

본 명세서에서, 단수형은 문구에서 특별히 언급하지 않는 한 복수형도 포함될 수 있다. 명세서에서 사용되는 "포함한다(comprises)" 및/또는 "포함하는(comprising)"은 언급된 구성요소, 단계, 동작 및/또는 소자는 하나 이상의 다른 구성요소, 단계, 동작 및/또는 소자의 존재 또는 추가를 배제하지 않는다.In this specification, a singular form may include plural forms unless specifically stated in the phrase. It is noted that the terms "comprises" and / or "comprising" used in the specification are intended to be inclusive in a manner similar to the components, steps, operations, and / Or additions.

본 발명에 따른 장애물 구분 인식 장치 및 표지판 인식 장치는 라이더(Lidar)를 이용한다. 바람직하게는 3D 플래쉬 라이더(3D Flash Lidar)를 이용할 수 있다.The obstacle classification recognition apparatus and the sign recognition apparatus according to the present invention use a rider. Preferably, a 3D Flash Lidar may be used.

도 1은 본 발명의 바람직한 실시예에 따른 안전운전 지원 장치에 관한 블록도이다.1 is a block diagram of a safe driving support apparatus according to a preferred embodiment of the present invention.

도 1을 참조하면, 안전운전 지원 장치(1000)는 카메라정보 수신부(1100), 라이더정보 수신부(1200), 영상신호처리부(1300), 3D 전처리부(1400), 2D/3D 정합부(1500), 정보인식부(1600) 및 주의경고부(1700)를 포함한다.Referring to FIG. 1, the safe driving support apparatus 1000 includes a camera information receiver 1100, a rider information receiver 1200, an image signal processor 1300, a 3D preprocessor 1400, and a 2D / 3D matcher 1500. , Information recognition unit 1600 and the attention warning unit 1700.

카메라정보 수신부(1100)는 차량에 설치된 카메라가 수집한 정보를 수신한다. 카메라가 수집한 정보는 영상 또는 이미지 정보를 포함할 수 있다.The camera information receiver 1100 receives information collected by a camera installed in a vehicle. The information collected by the camera may include image or image information.

라이더정보 수신부(1200)는 라이더가 수집하는 정보를 수신한다. The rider information receiver 1200 receives information collected by a rider.

카메라와 라이더는 차량 전방의 정보 수집이 용이하게 설치되는 것이 바람직하다. 일 예로, 카메라와 라이더는 차량의 윈드실드 바로 뒤쪽과 천장의 룸미러 사이에 설치될 수 있다.The camera and the rider are preferably installed to easily collect information in front of the vehicle. For example, the camera and the rider may be installed directly behind the windshield of the vehicle and between the room mirror of the ceiling.

카메라 수신부에서 수신된 카메라 정보는 영상신호처리부(1300)로 전송된다. 카메라 수신부에서 수신된 카메라 정보는 라이더의 필드오브뷰(FOV, Field of View)영역을 2D 영상으로 촬상한 정보가 포함될 수 있다.The camera information received by the camera receiver is transmitted to the image signal processor 1300. The camera information received by the camera receiver may include information obtained by photographing a field of view (FOV) area of the rider as a 2D image.

영상신호처리부(1300)는 카메라 정보를 수신하여 카메라 정보에 포함된 영상 또는 이미지의 처리 속도를 향상시키기 위하여 사이즈와 포맷을 변경하고, 화질 개선 작업을 수행한다. 영상신호처리부(1300)는 사이즈와 포맷을 변경하고 화길 개선 작업을 수행한 정보를 2D/3D 정합부(1500)로 전송한다. 영상신호처리부(1300)에서 2D/3D 정합부(1500)로 전송되는 정보는 2D 영상 정보일 수 있다.The image signal processor 1300 receives the camera information, changes the size and format to improve the processing speed of the image or the image included in the camera information, and performs an image quality improvement operation. The image signal processor 1300 changes the size and format and transmits the information on the picture enhancement to the 2D / 3D matching unit 1500. The information transmitted from the image signal processor 1300 to the 2D / 3D matching unit 1500 may be 2D image information.

2D/3D 정합부(1500)는 영상신호처리부(1300)에서 전송받은 정보와 3D 전처리부(1400)에서 전송받은 정보를 이용하여 관심영역의 이미지를 추출한다. 보다 구체적인 설명은 3D 전처리부(1400)를 설명한 후 다시 설명한다.The 2D / 3D matching unit 1500 extracts an image of the ROI using information received from the image signal processor 1300 and information received from the 3D preprocessor 1400. More detailed description will be described again after the 3D preprocessor 1400 is described.

3D 전처리부(1400)는 라이더정보 수신부(1200)에서 라이더가 수집한 정보를 전송받고, 수집한 정보 중 라이더의 수광 어레이부에서 수광된 위치 및 파장의 세기를 이용하여 인텐시티(Intensity) 정보를 생성한다. 또한, 3D 전처리부(1400)는 라이더의 수광 어레이부에서 수광된 시간에 따라서 깊이(Depth) 정보를 생성한다.The 3D preprocessor 1400 receives the information collected by the rider in the rider information receiver 1200 and generates intensity information using the intensity of the position and the wavelength received by the light receiving array unit of the rider. do. In addition, the 3D preprocessor 1400 generates depth information according to the time received by the light receiving array unit of the rider.

3D 전처리부(1400)는 생성된 인텐시티 정보와 깊이 정보를 이용하여 3차원 볼륨 이미지를 생성할 수 있다.The 3D preprocessor 1400 may generate a 3D volume image using the generated intensity information and the depth information.

2D/3D 정합부(1500)는 영상신호처리부(1300)에서 전송받은 2D영상 정보와 3D 전처리부(1400)에서 생성된 3차원 볼륨 이미지를 이용하여 관심영역의 이미지를 추출할 수 있다.The 2D / 3D matching unit 1500 may extract an image of the ROI by using the 2D image information received from the image signal processor 1300 and the 3D volume image generated by the 3D preprocessor 1400.

2D/3D 정합부(1500)에서 추출된 이미지는 정보인식부(1600)로 전송되어 이용될 수 있다.The image extracted by the 2D / 3D matching unit 1500 may be transmitted to the information recognizing unit 1600 and used.

정보인식부(1600)는 영상신호처리부(1300), 3D 전처리부(1400) 또는 2D/3D 정합부(1500)에서 정보를 수신하여, 수신한 정보에 포함된 물체에 관한 정보를 인식한다.The information recognizer 1600 receives information from the image signal processor 1300, the 3D preprocessor 1400, or the 2D / 3D matching unit 1500, and recognizes information about an object included in the received information.

구체적으로 정보인식부(1600)는 수신한 정보에 포함된 물체에 관한 정보 중에서 차량의 운행에 장애가 되는 물체에 관한 정보 또는 표지판에 관한 정보를 인식할 수 있다.In more detail, the information recognizing unit 1600 may recognize information about an object or a sign that is an obstacle to the operation of the vehicle, from information on an object included in the received information.

도 2는 본 발명에 따른 장애물 구분 인식 장치의 정보인식부의 일예를 설명하는 블록도이다.2 is a block diagram illustrating an example of an information recognition unit of an obstacle classification recognition apparatus according to the present invention.

도 2를 참조하면, 정보인식부(1600)는 장애물 구분인식부(1610) 및 표지판 인식부(1620)를 포함할 수 있다.2, the information recognizing unit 1600 may include an obstacle classification recognizing unit 1610 and a sign recognizing unit 1620.

장애물 구분인식부(1610)가 영상신호처리부(1300), 3D 전처리부(1400) 또는 2D/3D 정합부(1500)에서 수신한 정보를 이용하여 차량의 운행에 장애가 되는 물체에 관한 정보를 획득한다.The obstacle classification unit 1610 obtains information about an object that is an obstacle to driving of the vehicle by using the information received from the image signal processor 1300, the 3D preprocessor 1400, or the 2D / 3D matching unit 1500. .

구체적으로 장애물 구분인식부(1610)는 차선 인식부(1611), 장애물 인식부(1613), 주행차선 장애물 판단부(1615), 장애물 구분부(1617) 및/또는 제1데이터베이스부(1619)를 포함할 수 있다.In more detail, the obstacle classification unit 1610 may include the lane recognition unit 1611, the obstacle recognition unit 1613, the driving lane obstacle determination unit 1615, the obstacle classification unit 1617, and / or the first database unit 1619. It may include.

차선인식부(1611)는 카메라정보 수신부(1100)에서 수신된 정보 또는 영상신호처리부(1300)에서 처리된 정보를 이용하여 차량이 주행 중인 차선을 인식한다. 차선인식부(1611)가 차선을 인식하는 방법은 공지의 차선인식 알고리즘을 이용할 수 있는바 자세한 설명은 생략한다.The lane recognizing unit 1611 recognizes a lane in which the vehicle is driven by using information received from the camera information receiving unit 1100 or information processed by the image signal processing unit 1300. The lane recognizing unit 1611 may recognize a lane and may use a known lane recognition algorithm, and thus a detailed description thereof will be omitted.

장애물인식부(1613)는 영상신호처리부(1300), 3D 전처리부(1400) 및 2D/3D 정합부(1500)에서 생성된 정보를 이용하여 장애물을 인식한다.The obstacle recognition unit 1613 recognizes the obstacle using information generated by the image signal processor 1300, the 3D preprocessor 1400, and the 2D / 3D matching unit 1500.

구체적으로, 장애물인식부(1613)는 영상신호처리부(1300), 3D 전처리부(1400) 또는 2D/3D 정합부(1500)에서 생성된 이미지 정보를 이용하여 장애물을 인식할 때, 이미지에서 관심영역의 이미지만을 절삭하여 장애물 인식을 수행할 수 있다.Specifically, when the obstacle recognition unit 1613 recognizes the obstacle by using the image information generated by the image signal processor 1300, the 3D preprocessor 1400, or the 2D / 3D matching unit 1500, the ROI in the image. Obstacle recognition can be performed by cutting only the image of.

장애물인식부(1613)는 영상신호처리부(1300), 3D 전처리부(1400) 또는 2D/3D 정합부(1500)에서 생성된 이미지 정보에서 이미지 픽셀에 대한 엣지 정보를 추출할 수 있다. 장애물인식부(1613)가 이미지 픽셀에 대한 엣지 정보를 추출하는 것은 수학식 1과 같은 그라디언트 산출 공식을 이용할 수 있다.The obstacle recognition unit 1613 may extract edge information of the image pixel from the image information generated by the image signal processor 1300, the 3D preprocessor 1400, or the 2D / 3D matching unit 1500. The obstacle recognition unit 1613 extracts the edge information of the image pixel using a gradient calculation formula as shown in Equation (1).

Figure pat00001
Figure pat00001

각 픽셀에 대한 각도 정보를 기준으로 크기 값인 G(x,y)를 누적하고, 이를 전체 픽셀값으로 나누면 그라디언트 히스토그램(HOG, Histogram of Gradient) 값을 획득 할 수 있다.By accumulating G (x, y), which is a size value, based on angle information for each pixel, and dividing it by the total pixel value, a gradient histogram (HOG) can be obtained.

도 3은 장애물인식부에서 이미지 정보를 이용하여 장애물을 인식할 때, 수학식 1을 적용한 결과의 일예를 나타내는 도이다.3 is a diagram illustrating an example of a result of applying Equation 1 when the obstacle recognition unit recognizes an obstacle using image information.

도 3을 참조하면, 장애물인식부(1613)가 수학식 1을 이미지에 적용하면, 이미지에서 특정 물체의 윤곽선 정보가 표시됨을 볼 수 있다.Referring to FIG. 3, when the obstacle recognition unit 1613 applies Equation 1 to an image, it can be seen that contour information of a specific object is displayed in the image.

즉, 이미지 (a)에서 수학식 1을 적용하여 획득한 윤곽선 정보를 표현한 것이 (b)가 된다. 이미지 (c)에서 수학식 1을 적용하여 획득한 윤곽선 정보를 표현한 것이 (d)가 된다.That is, (b) represents the contour information obtained by applying the equation (1) in the image (a). (D) represents the contour information obtained by applying the equation (1) in the image (c).

이 윤곽선 정보를 제1데이터베이스부(1619)에 저장된 수많은 보행자 이미지와 차량이미지와 비교하여 차량인지 보행자인지 여부를 판단할 수 있다.The contour information may be compared with a plurality of pedestrian images and vehicle images stored in the first database unit 1619 to determine whether the vehicle is a pedestrian or a pedestrian.

구체적으로, 제1데이터베이스부(1619)에서 수많은 보행자 이미지 및 수많은 차량 이미지가 저장될 수 있다.In detail, numerous pedestrian images and numerous vehicle images may be stored in the first database unit 1619.

장애물 구분부(1617)는 보행자 인식부(1617a), 차량인식부(1617c) 및 노이즈인식부(1617e)를 포함할 수 있다.The obstacle classification unit 1617 may include a pedestrian recognition unit 1617a, a vehicle recognition unit 1617c, and a noise recognition unit 1617e.

보행자 인식부(1617a)가 윤곽선 정보를 제1데이터베이스부(1619)에 저장된 이미지와 비교하여 인식된 장애물이 보행자인지 여부를 판단할 수 있다. 즉, 보행자 인식부(1617a)는 윤곽선 정보와 제1데이터베이스부(1619)에 저장된 이미지와 매칭률이 기 설정된 값 이상인 경우, 해당 윤곽선의 장애물은 보행자로 인식할 수 있다.The pedestrian recognition unit 1617a may compare the contour information with the image stored in the first database unit 1619 to determine whether the recognized obstacle is a pedestrian. That is, the pedestrian recognition unit 1617a may recognize the obstacle as the pedestrian when the contour information and the image and the matching rate of the image stored in the first database unit 1619 are greater than or equal to a preset value.

차량인식부(1617c)는 윤곽선 정보를 제1데이터베이스부(1619)에 저장된 이미지와 비교하여 인식된 장애물이 차량인지 여부를 판단할 수 있다. 즉, 차량인식부(1617c)는 윤곽선 정보와 제1데이터베이스부(1619)에 저장된 이미지와 매칭률이 기 설정된 값 이상인 경우, 해당 윤곽선의 장애물은 차량으로 인식할 수 있다.The vehicle recognition unit 1617c may determine whether the recognized obstacle is a vehicle by comparing the contour information with an image stored in the first database unit 1619. That is, the vehicle recognition unit 1617c may recognize the obstacle of the outline as a vehicle when the contour information and the image and the matching ratio of the image stored in the first database unit 1619 are greater than or equal to a preset value.

노이즈인식부(1617e)는 해당 인식된 장애물의 윤곽선이 제1데이터베이스부(1619)에 저장된 이미지와 기 설정된 값 이상으로 일치하는 이미지가 없는 경우, 해당 인식된 장애물은 보행자나 차량이 아닌 노이즈로 인한 것으로 판단한다. 노이즈로 판단된 경우, 주의경고부(1700)에서는 운전자 또는 다른 차량, 보행자에게 주의 경고를 위한 제어가 불필요 할 수 있다.If there is no image in which the outline of the recognized obstacle corresponds to the image stored in the first database unit 1619 or more than the preset value, the noise recognition unit 1617e may determine that the recognized obstacle is due to noise, not pedestrian or vehicle. Judging by it. If it is determined that the noise, the attention warning unit 1700 may be unnecessary to control the driver or other vehicles, pedestrian warning.

주행차선장애물 판단부(1615)는, 차선인식부(1611)에서 인식한 차선 정보와 장애물인식부(1613)에서 인식한 장애물에 관한 정보를 수신하여 장애물이 주행차선에 존재하는지 여부를 판단한다.The driving lane obstacle determination unit 1615 receives the lane information recognized by the lane recognition unit 1611 and information about the obstacle recognized by the obstacle recognition unit 1613, and determines whether the obstacle exists in the driving lane.

즉, 주행차선장애물 판단부(1615)는 차선인식부(1611)에서 인식한 차선 내에 장애물이 존재하지 않는 경우, 주행차선 장애물이 아닌 것으로 판단한다. 이 경우, 주의경고부(1700)는 주의 경고를 위한 제어가 불필요 할 수 있다.That is, when no obstacle exists in the lane recognized by the lane recognition unit 1611, the driving lane obstacle determiner 1615 determines that the driving lane obstacle is not a driving lane obstacle. In this case, the caution warning unit 1700 may not need the control for the caution warning.

다만, 주행차선장애물 판단부(1615)는 장애물 구분부(1617)에서 인식된 장애물이 차량이 아닌 보행자인 경우, 주행차선장애물 판단부(1615)에서 주행차선 장애물이 아닌 것으로 판단하더라도 주의경고부(1700)는 주의 경로를 위한 제어를 수행할 수 있다. 이러한 이유는 보행자는 차선과 나란하지 않게 움직일 수 있기 때문이다.However, when the obstacle recognized by the obstacle division unit 1615 is a pedestrian rather than a vehicle, the driving lane obstacle determination unit 1615 may determine whether the driving lane obstacle determination unit 1615 is not a driving lane obstacle. 1700 may perform control for the attention path. This is because pedestrians can move out of line with the lane.

주의경고부(1700)는 차량간 또는 차량과 보행자 간 충돌을 방지하기 위하여 운전자. 다른 차량의 운전자 또는 보행자에게 주의 경고를 할 수 있다.Attention warning unit (1700) is a driver to prevent collision between vehicles or vehicles and pedestrians. Warnings may be given to drivers or pedestrians of other vehicles.

주의경고부(1700)가 수행하는 주의 경고의 예는, 경고음, 화면 표시, 안전벨트 진동 또는 자동 브레이크 등이 존재할 수 있으며, 이러한 예에 한정되는 것은 아니다. 즉, 후술될 표지판 인식부의 판단표지판 출력부(1628)의 기능을 주의경고부(1700)에서 수행할 수도 있다.
Examples of the caution warning performed by the caution warning unit 1700 may include a warning sound, a screen display, a seat belt vibration, or an automatic brake, but are not limited thereto. That is, the attention warning unit 1700 may perform the function of the determination sign output unit 1628 of the sign recognition unit to be described later.

표지판 인식부(1620)는 표지판후보 선택부(1622), 제2데이터베이스부(1624), 표지판 판단부(1626) 및/또는 판단표지판 출력부(1628)를 포함한다.The sign recognition unit 1620 includes a sign candidate selection unit 1622, a second database unit 1624, a sign determination unit 1626, and / or a determination sign output unit 1628.

표지판후보 선택부(1622)는 3D 전처리부(1400)에서 생성된 3차원 볼륨 이미지에서 표지판의 후보를 선택할 수 있다. 구체적으로는, 표지판후보 선택부(1622)는 2D/3D 정합부(1500)가 2D 이미지와 3차원 볼륨 이미지를 이용하여 관심영역의 이미지를 추출하여 표지판 판단에 이용하기 전에 3D 전처리부(1400)에서 생성된 3차원 볼륨 이미지에서 표지판의 후보를 선택할 수 있다.The sign candidate selecting unit 1622 may select a candidate of the sign from the 3D volume image generated by the 3D preprocessor 1400. Specifically, the sign candidate selection unit 1622 may include the 3D preprocessor 1400 before the 2D / 3D matching unit 1500 extracts an image of the ROI using the 2D image and the 3D volume image to determine the sign. The candidate of the sign can be selected from the three-dimensional volume image generated by.

보다, 구체적으로, 표지판후보 선택부(1622)는 표지판의 경우, 금속성 물체인바, 인텐시티 값이 기 설정된 값 이상인 경우, 표지판일 확률이 높은 것으로 보아 표지판 후보로 선택할 수 있다.More specifically, in the case of a sign, the sign candidate selection unit 1622 may be a sign candidate when the sign is a metallic object and the intensity value is greater than or equal to a predetermined value.

표지판은 교통표지판일 수 있으며, 반드시 이에 한정되는 것은 아니다.The sign may be a traffic sign, but is not limited thereto.

표지판 판단부(1626)는 라인 엣지 추출 방법을 이용하여 3차원 볼륨 이미지에서 선택된 표지판 후보 이미지 또는 표지판 후보 이미지에서 추출된 관심영역에서 표지판 부분을 추출한다.The sign determination unit 1626 extracts a sign part from a sign candidate image selected from a 3D volume image or a region of interest extracted from the sign candidate image using a line edge extraction method.

도 4는 본 발명에 따른 안전운전 지원 장치의 표지판 판단부가 이미지에서 표지판 부분을 추출하는 방법의 일 예를 설명하기 위한 도이다.4 is a diagram illustrating an example of a method of extracting a sign part from an image by the sign determining unit of the safe driving support apparatus according to the present invention.

도 4를 참조하면, 표지판 판단부(1626)가 추출하는 표지판은 일반적으로 네모, 세모, 동그라미의 모양이다. 따라서, 표지판 판단부(1626)는 컨볼루션(Convolution)연산을 이용하여 0도, 45도, 90도 및 135도 각도를 이루는 라인 엣지를 추출한다. 표지판 판단부(1626)는 컨볼루션 연산값이 기 설정된 임계값(Threshold)보다 높으면 표지판 후보 이미지 또는 표지판 후보 이미지에서 추출된 관심영역 이미지가 라인 성분을 강하게 가지고 있는 것으로 판단할 수 있다.Referring to FIG. 4, the signs extracted by the sign determination unit 1626 generally have the shape of a square, a triangle, and a circle. Accordingly, the sign determiner 1626 extracts line edges forming angles of 0 degrees, 45 degrees, 90 degrees, and 135 degrees using a convolution operation. If the convolution operation value is higher than a preset threshold, the sign determination unit 1626 may determine that the sign candidate image or the ROI image extracted from the sign candidate image has a strong line component.

이러한 경우, 표지판 판단부(1626)는 추출된 라인 성분을 기반으로 형성된 이미지와 제2데이터베이스부(1624)에 저장된 표지판 이미지와 매칭하여 표지판의 종류를 판단할 수 있다.In this case, the sign determination unit 1626 may determine the type of sign by matching the image formed based on the extracted line component with the sign image stored in the second database unit 1624.

제2데이터베이스부(1624)는 각종 표지판의 이미지를 저장하고 있다.The second database unit 1624 stores images of various signs.

도 5는 본 발명에 따른 안전운전 지원 장치의 제2데이터베이스부가 저장하고 있는 표지판 이미지의 예를 설명하는 도이다.5 is a view for explaining an example of a sign image stored in a second database unit of the safe driving support apparatus according to the present invention.

제2데이터베이스부(1624)가 저장하고 있는 표지판의 이미지는 도 5에 한정되는 것은 아니며, 현재 존재하고 있는 모든 표지판의 이미지를 저장할 수 있다.The image of the signs stored in the second database unit 1624 is not limited to FIG. 5, and may store images of all signs currently present.

표지판 판단부(1626)에서 판단된 표지판은 차량에 구비된 디스플레이 상에 출력될 수 있으며, 출력되는 이미지는 추출된 라인 성분을 기반으로 형성된 이미지 또는 매칭된 제2데이터베이스부(1624)에 저장된 표지판 이미지일 수 있다.The sign determined by the sign determiner 1626 may be output on a display provided in the vehicle, and the output image may be an image formed based on the extracted line component or a sign image stored in the matched second database unit 1624. Can be.

본 발명에 따른 안전운전 지원 장치(100)는 주행차선에 있는 차량과 다른 차선에 있는 차량을 구분할 수 있어 충돌 방지 기능을 수행 할 수 있다.The safe driving support apparatus 100 according to the present invention may distinguish a vehicle in a driving lane from a vehicle in another lane and perform a collision avoidance function.

또한, 본 발명에 따른 안전운전 지원 장치(100)는 차량뿐만 아니라 보행자도 인식 가능한바 보행자와의 충돌을 방지할 수 있다.In addition, the safe driving support apparatus 100 according to the present invention can recognize a pedestrian as well as a vehicle, thereby preventing a collision with a pedestrian.

본 발명에 따른 안전운전 지원 장치(100)는 보다 높은 정확도로 표지판을 인식하고 표지판의 종류를 파악할 수 있다.
The safe driving support apparatus 100 according to the present invention may recognize a sign with higher accuracy and grasp the type of the sign.

도 6은 본 발명의 바람직한 실시예에 따른 안전운전 지원 방법을 설명하는 흐름도이다.6 is a flowchart illustrating a safe driving support method according to an embodiment of the present invention.

도 6을 참조하면, 카메라정보 수신부(1100)가 2D 영상정보인 카메라 정보를 수신한다(S605 단계).Referring to FIG. 6, the camera information receiver 1100 receives camera information that is 2D image information (step S605).

카메라정보 수신부(1100)에서 수신된 카메라 정보는 영상신호처리부(1300)에서 사이즈와 포맷 변경이 이루어지며, 화질개선작업도 수행될 수 있다(S610 단계)The camera information received by the camera information receiver 1100 may be changed in size and format by the image signal processor 1300, and image quality improvement may be performed at step S610.

라이더정보 수신부(1200)는 라이더에서 수집된 라이더 정보를 수신한다(S615 단계).The rider information receiving unit 1200 receives rider information collected from the rider (S615).

3D 전처리부(1400)는 라이더정보 수신부(1200)에서 라이더가 수집한 정보를 전송받아 인텐시티 정보 및 깊이 정보를 생성하고, 생성된 인텐시티 정보 및 깊이 정보를 이용하여 3D 볼륨 이미지를 생성한다(S620 단계).The 3D preprocessor 1400 receives the information collected by the rider from the rider information receiver 1200, generates intensity information and depth information, and generates a 3D volume image using the generated intensity information and depth information (S620). ).

장애물 구분인식부(1610)의 차선인식부(1611)는 카메라 정보를 이용하여 차량의 주행 차선을 인식할 수 있다(S625 단계).The lane recognizing unit 1611 of the obstacle classification recognizing unit 1610 may recognize the driving lane of the vehicle using the camera information (step S625).

표지판후보 선택부(1622)는 생성된 3D 볼륨 이미지 중 표지판이 포함된 이미지가 될 가능성이 있는 이미지를 선택할 수 있다(S630 단계).The sign candidate selecting unit 1622 may select an image that is likely to be an image including a sign from the generated 3D volume image (S630).

2D/3D 정합부(1500)는 2D 영상정보인 카메라 정보와 3D 볼륨 이미지를 이용하여 관심영역을 추출한다(S635 단계). 2D/3D 정합부(1500)는 표지판후보 선택부(1622)에서 선택된 이미지에서 관심영역을 추출할 수도 있다. 관심영역이란, 장애물인지 파악할 필요성이 있는 영역 등을 의미할 수 있다. The 2D / 3D matching unit 1500 extracts a region of interest using camera information and 3D volume images, which are 2D image information (S635). The 2D / 3D matching unit 1500 may extract an ROI from the image selected by the sign candidate selecting unit 1622. The region of interest may mean an area that needs to be identified as an obstacle.

표지판 판단부(1626)는 관심영역 이미지에서 표지판 모양을 추출하고 각종 표지판 이미지가 저장된 제2데이터베이스부(1624)에 저장된 이미지와 비교하여 표지판 종류를 판단한다(S640 단계).The sign determination unit 1626 extracts a sign shape from the ROI image and compares the sign shape with the image stored in the second database unit 1624 where various sign images are stored (S640).

판단표지판 출력부(1628)는 표지판 판단부(1626)에서 판단된 표지판 정보를 디스플레이에 출력할 수 있다(S645 단계).The determination sign output unit 1628 may output the sign information determined by the sign determination unit 1626 on the display (S645).

장애물 구분인식부(1610)는 차선인식부(1611)에서 인식된 차선 정보, 3D 볼륨 이미지 및/또는 관심영역 이미지를 이용하여 장애물의 존재를 인식하고, 장애물이 주행차선에 존재하는지를 판단할 수 있으며, 장애물이 보행자인지 차량인지를 구분하여 인식할 수 있다(S650 단계).The obstacle classification unit 1610 may recognize the existence of the obstacle using the lane information, the 3D volume image, and / or the ROI image recognized by the lane recognition unit 1611, and determine whether the obstacle exists in the driving lane. In operation S650, the obstacle may be recognized as a pedestrian or a vehicle.

주의경고부(1700)는 장애물 구분 인식에 기반하여 보행자, 차량 또는 운전자에게 주의경고를 할 수 있다(S655 단계).The attention warning unit 1700 may warn the pedestrian, the vehicle, or the driver based on the obstacle classification recognition (S655).

본 발명의 바람직한 실시예에 따른 장애물 구분 인식 장치(100) 및 표지판 인식 장치(400)의 블록도는 발명의 원리를 구체화하는 예시적인 개념적 관점을 나타내는 것으로 이해되어야 한다. 이와 유사하게, 모든 흐름도는 컴퓨터가 판독 가능한 매체에 실질적으로 나타낼 수 있고 컴퓨터 또는 프로세서가 명백히 도시되었는지 여부를 불문하고 컴퓨터 또는 프로세서에 의해 수행되는 다양한 프로세스를 나타내는 것으로 이해되어야 한다.It is to be understood that the block diagrams of the obstacle classification recognition apparatus 100 and the sign recognition apparatus 400 according to the preferred embodiment of the present invention represent an exemplary conceptual view embodying the principles of the present invention. Similarly, all of the flowcharts should be understood to represent various processes that may be substantially represented on a computer-readable medium and executed by a computer or processor, whether the computer or processor is explicitly shown.

프로세서 또는 이와 유사한 개념으로 표시된 기능 블록을 포함하는 도면에 도시된 다양한 소자의 기능은 전용 하드웨어뿐만 아니라 적절한 소프트웨어와 관련하여 소프트웨어를 실행할 능력을 가진 하드웨어의 사용으로 제공될 수 있다. 프로세서에 의해 제공될 때, 상기 기능은 단일 전용 프로세서, 단일 공유 프로세서 또는 복수의 개별적 프로세서에 의해 제공될 수 있고, 이들 중 일부는 공유될 수 있다. The functionality of the various elements shown in the figures, including functional blocks represented by a processor or similar concept, can be provided by the use of dedicated hardware as well as hardware capable of executing software in association with appropriate software. When provided by a processor, the functions may be provided by a single dedicated processor, a single shared processor, or a plurality of individual processors, some of which may be shared.

또한 프로세서, 제어 또는 이와 유사한 개념으로 제시되는 용어의 명확한 사용은 소프트웨어를 실행할 능력을 가진 하드웨어를 배타적으로 인용하여 해석되어서는 아니되고, 제한 없이 디지털 신호 프로세서(DSP) 하드웨어, 소프트웨어를 저장하기 위한 롬(ROM), 램(RAM) 및 비 휘발성 메모리를 암시적으로 포함하는 것으로 이해되어야 한다. 주지관용의 다른 하드웨어도 포함될 수 있다.Also, the explicit use of terms such as processor, control, or similar concepts should not be interpreted exclusively as hardware capable of running software, and may be used without limitation as a digital signal processor (DSP) (ROM), random access memory (RAM), and non-volatile memory. Other hardware may also be included.

이상의 설명은 본 발명의 기술 사상을 예시적으로 설명한 것에 불과한 것으로서, 본 발명이 속하는 기술 분야에서 통상의 지식을 가진 자라면 본 발명의 본질적인 특성에서 벗어나지 않는 범위 내에서 다양한 수정, 변경 및 치환이 가능할 것이다. 따라서, 본 발명에 개시된 실시예 및 첨부된 도면들은 본 발명의 기술 사상을 한정하기 위한 것이 아니라 설명하기 위한 것이고, 이러한 실시예 및 첨부된 도면에 의하여 본 발명의 기술 사상의 범위가 한정되는 것은 아니다. 본 발명의 보호 범위는 아래의 청구 범위에 의하여 해석되어야 하며, 그와 동등한 범위 내에 있는 모든 기술 사상은 본 발명의 권리 범위에 포함되는 것으로 해석되어야 할 것이다.It will be apparent to those skilled in the art that various modifications, substitutions and substitutions are possible, without departing from the scope and spirit of the invention as disclosed in the accompanying claims. will be. Accordingly, the embodiments disclosed in the present invention and the accompanying drawings are not intended to limit the technical spirit of the present invention but to describe the present invention, and the scope of the technical idea of the present invention is not limited by the embodiments and the accompanying drawings. . The scope of protection of the present invention should be construed according to the following claims, and all technical ideas within the scope of equivalents should be construed as falling within the scope of the present invention.

Claims (10)

차량의 카메라가 수집한 정보를 수신하는 카메라정보 수신부;
라이더가 수집한 정보를 수신하는 라이더정보 수신부; 및
상기 카메라정보 수신부 및 상기 라이더정보 수신부에서 수신한 정보를 이용하여 상기 수신한 정보에 포함된 물체에 관한 정보를 인식하는 정보인식부를 포함하는 것을 특징으로 하는 안전운전 지원 장치.
A camera information receiver configured to receive information collected by a camera of the vehicle;
A rider information receiver configured to receive information collected by a rider; And
And an information recognizing unit for recognizing information about an object included in the received information by using the information received by the camera information receiving unit and the rider information receiving unit.
제 1 항에 있어서,
상기 정보인식부는,
상기 수신한 정보에 포함된 물체 중 상기 차량의 주행에 장애가 되는 물체에 관한 정보를 인식하는 장애물 구분인식부를 포함하며,
상기 장애물 구분인식부는,
상기 카메라정보 수신부에서 수신한 정보를 이용하여 상기 차량이 주행하고 있는 차선을 포함한 차선을 인식하는 차선인식부;
상기 카메라정보 수신부 및 상기 라이더정보 수신부에서 수신한 정보를 이용하여 장애물을 인식하는 장애물 인식부; 및
상기 인식된 장애물이 상기 차선인식부에서 인식된 상기 주행하고 있는 차선에 존재하는 장애물인지를 판단하는 주행차선장애물 판단부를 포함하는 것을 특징으로 하는 안전운전 지원 장치.
The method of claim 1,
The information recognition unit,
An obstacle classification recognition unit for recognizing information on an object which is an obstacle to driving of the vehicle among objects included in the received information;
The obstacle classification recognition unit,
A lane recognizing unit recognizing a lane including a lane in which the vehicle travels using information received by the camera information receiving unit;
An obstacle recognition unit that recognizes the obstacle by using the information received from the camera information receiver and the rider information receiver; And
And a driving lane obstacle determining unit determining whether the recognized obstacle is an obstacle present in the driving lane recognized by the lane recognition unit.
제 2 항에 있어서,
상기 장애물 구분인식부는,
상기 인식된 장애물이 보행자, 차량 또는 노이즈(Noise) 중 어느 하나인 것으로 판단하는 장애물 구분부를 더 포함하는 것을 특징으로 하는 안전운전 지원 장치.
3. The method of claim 2,
The obstacle classification recognition unit,
Safe driving support device, characterized in that it further comprises an obstacle discriminating unit for determining that the recognized obstacle is any one of a pedestrian, a vehicle, or noise.
제 3 항에 있어서,
상기 안전운전 지원 장치는,
상기 라이더정보 수신부에서 수신된 정보를 이용하여 인텐시티(Intensity) 정보와 깊이(Depth) 정보를 생성하고, 상기 생성된 정보를 이용하여 3차원 이미지를 생성하는 3D 전처리부를 포함하며,
상기 장애물 구분부는,
복수개의 보행자 이미지 및 차량 이미지를 저장하고 있는 제1데이터베이스부를 포함하고,
상기 카메라 정보와 상기 생성된 3차원 이미지를 이용하여 그라디언트(Gradient)를 산출하고, 산출된 그라디언트를 이용하여 상기 이미지에서 엣지정보를 획득하고, 상기 엣지정보를 이용하여 상기 인식된 장애물의 윤곽선 정보를 획득한 후, 상기 윤곽선 정보를 상기 제1데이터베이스부에 저장된 이미지와 매칭하여 상기 인식된 장애물이 보행자, 차량 또는 노이즈(Noise) 중 어느 하나인 것으로 판단하는 것을 특징으로 하는 안전운전 지원 장치.
The method of claim 3, wherein
The safe driving support device,
A 3D preprocessing unit generating intensity information and depth information using the information received by the rider information receiving unit, and generating a 3D image using the generated information;
The obstacle division unit,
A first database unit for storing a plurality of pedestrian images and vehicle images,
A gradient is calculated using the camera information and the generated three-dimensional image, edge information is obtained from the image using the calculated gradient, and contour information of the recognized obstacle is obtained using the edge information. After acquiring, matching the contour information with the image stored in the first database unit to determine that the recognized obstacle is any one of pedestrian, vehicle or noise (Noise).
제 2 항에 있어서,
상기 안전운전 지원 장치는,
상기 주행차선장애물 판단부의 판단이 상기 인식된 장애물이 상기 인식된 주행 차선 사이에 존재하는 장애물이라고 판단하는 경우,
소리, 화면 표시, 차량의 안전벨트 진동 또는 차량의 브레이크 제어 중 적어도 어느 하나를 수행하는 주의경고부를 더 포함하는 것을 특징으로 하는 안전운전 지원 장치.
3. The method of claim 2,
The safe driving support device,
When the determination of the driving lane obstacle determination unit determines that the recognized obstacle is an obstacle existing between the recognized driving lanes,
And a warning device configured to perform at least one of a sound, a screen display, a seat belt vibration of the vehicle, and a brake control of the vehicle.
제 1 항에 있어서,
상기 정보인식부는,
상기 수신한 정보에 포함된 물체 중 표지판에 관한 정보를 인식하는 표지판 인식부를 포함하며,
상기 표지판 인식부는,
상기 카메라정보 수신부 및 상기 라이더정보 수신부에서 수신한 정보를 이용하여 표지판으로 추측되는 이미지를 선택하는 표지판후보 선택부;
복수개의 표지판 이미지가 저장된 제2데이터베이스부; 및
상기 표지판후보 선택부에서 선택된 이미지와 상기 제2데이터베이스부에 저장된 상기 표지판 이미지와 매칭하여 상기 선택된 이미지의 표지판 종류를 판단하는 표지판 판단부를 포함하는 것을 특징으로 하는 안전운전 지원 장치.
The method of claim 1,
The information recognition unit,
Includes a sign recognition unit for recognizing information on the sign of the objects included in the received information,
The sign recognition unit,
A sign candidate selecting unit which selects an image assumed to be a sign using information received from the camera information receiving unit and the rider information receiving unit;
A second database unit storing a plurality of sign images; And
And a sign determination unit configured to determine a sign type of the selected image by matching the image selected by the sign candidate selecting unit with the sign image stored in the second database unit.
제 6 항에 있어서,
상기 안전운전 지원 장치는,
상기 라이더정보 수신부에서 수신된 정보를 이용하여 인텐시티(Intensity) 정보와 깊이(Depth) 정보를 생성하고, 상기 생성된 정보를 이용하여 3차원 이미지를 생성하는 3D 전처리부를 포함하며,
상기 표지판 판단부는,
상기 3차원 이미지의 라인 엣지를 추출하여 표지판 부분으로 추측되는 부분을 판단하고, 상기 판단된 표지판 부분과 상기 제2데이터베이스부에 저장된 상기 표지판 이미지와 매칭하여 상기 선택된 이미지의 표지판 종류를 판단하는 것을 특징으로 하는 안전운전 지원 장치.
The method according to claim 6,
The safe driving support device,
A 3D preprocessing unit generating intensity information and depth information using the information received by the rider information receiving unit, and generating a 3D image using the generated information;
The sign determination unit,
The line edge of the three-dimensional image is extracted to determine a part estimated to be a sign part, and the sign type of the selected image is determined by matching the determined sign part and the sign image stored in the second database part. Driving support device.
차량의 카메라가 수집한 정보를 수신하는 카메라정보 수신단계;
라이더가 수집한 정보를 수신하는 라이더정보 수신단계; 및
상기 카메라정보 수신단계 및 라이더정보 수신단계에서 수신한 정보를 이용하여 상기 수신한 정보에 포함된 물체에 관한 정보를 인식하는 정보인식단계를 포함하는 것을 특징으로 하는 안전운전 지원 방법.
A camera information receiving step of receiving information collected by a camera of the vehicle;
A rider information receiving step of receiving information collected by a rider; And
And an information recognizing step of recognizing information on an object included in the received information by using the information received at the camera information receiving step and the rider information receiving step.
제 8 항에 있어서,
상기 정보인식단계는,
상기 수신한 정보에 포함된 물체 중 상기 차량의 주행에 장애가 되는 물체에 관한 정보를 인식하는 장애물 구분인식단계를 포함하며,
상기 장애물 구분인식단계는,
상기 카메라정보 수신단계에서 수신한 정보를 이용하여 상기 차량이 주행하고 있는 차선을 포함한 차선을 인식하는 차선인식단계;
상기 카메라정보 수신단계 및 라이더정보 수신단계에서 수신한 정보를 이용하여 장애물을 인식하는 장애물 인식단계; 및
상기 인식된 장애물이 상기 차선인식단계에서 인식된 상기 주행하고 있는 차선에 존재하는 장애물인지를 판단하는 주행차선장애물 판단단계를 포함하는 것을 특징으로 하는 안전운전 지원 방법.
The method of claim 8,
The information recognition step,
An obstacle classification recognition step of recognizing information on an object which is an obstacle to driving of the vehicle among objects included in the received information;
The obstacle classification recognition step,
A lane recognition step of recognizing a lane including a lane in which the vehicle is driven by using the information received in the camera information receiving step;
An obstacle recognition step of recognizing an obstacle using information received in the camera information receiving step and the rider information receiving step; And
And a driving lane obstacle determining step of determining whether the recognized obstacle is an obstacle present in the traveling lane recognized in the lane recognition step.
제 8 항에 있어서,
상기 정보인식단계는,
상기 수신한 정보에 포함된 물체 중 표지판에 관한 정보를 인식하는 표지판 인식단계를 포함하며,
상기 표지판 인식단계는,
상기 카메라정보 수신단계 및 라이더정보 수신단계에서 수신한 정보를 이용하여 표지판으로 추측되는 이미지를 선택하는 표지판후보 선택단계; 및
상기 표지판후보 선택단계에서 선택된 이미지를 복수개의 표지판 이미지가 저장된 제2데이터베이스부에 저장된 이미지와 매칭하여 상기 선택된 이미지의 표지판 종류를 판단하는 표지판 판단단계를 포함하는 것을 특징으로 하는 안전운전 지원 방법.
The method of claim 8,
The information recognition step,
And a sign recognition step of recognizing information on a sign among objects included in the received information.
The sign recognition step,
A sign candidate selection step of selecting an image assumed to be a sign using information received in the camera information receiving step and the rider information receiving step; And
And a sign determination step of determining a sign type of the selected image by matching the image selected in the sign candidate selection step with an image stored in a second database unit in which a plurality of sign images are stored.
KR1020120071927A 2012-07-02 2012-07-02 Apparatus and Method for Assisting Safe Driving KR102051397B1 (en)

Priority Applications (1)

Application Number Priority Date Filing Date Title
KR1020120071927A KR102051397B1 (en) 2012-07-02 2012-07-02 Apparatus and Method for Assisting Safe Driving

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
KR1020120071927A KR102051397B1 (en) 2012-07-02 2012-07-02 Apparatus and Method for Assisting Safe Driving

Publications (2)

Publication Number Publication Date
KR20140004413A true KR20140004413A (en) 2014-01-13
KR102051397B1 KR102051397B1 (en) 2020-01-09

Family

ID=50140407

Family Applications (1)

Application Number Title Priority Date Filing Date
KR1020120071927A KR102051397B1 (en) 2012-07-02 2012-07-02 Apparatus and Method for Assisting Safe Driving

Country Status (1)

Country Link
KR (1) KR102051397B1 (en)

Cited By (8)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN105403227A (en) * 2015-12-15 2016-03-16 重庆云途交通科技有限公司 Safe navigation method and system
WO2016060384A1 (en) * 2014-10-17 2016-04-21 전자부품연구원 Method and device for providing panoramic vehicle situation information using multiple cameras and radar sensor information
KR20170031901A (en) 2015-09-14 2017-03-22 한화테크윈 주식회사 Scanning Method Using High Speed Scanning Device
US20180244355A1 (en) * 2015-08-21 2018-08-30 Daewoo Shipbuilding & Marine Engineering Co., Ltd. Insulation structure, for liquefied gas cargo hold, having anchor strip removed, cargo hold comprising insulation structure, and liquefied gas carrier comprising cargo hold
KR101960417B1 (en) * 2017-09-26 2019-03-20 (주)에이치브레인 Fusion sensor for improving object recognition rate and vehicle safety assistant system
KR102195040B1 (en) * 2019-06-27 2020-12-28 주식회사 모빌테크 Method for collecting road signs information using MMS and mono camera
CN114739384A (en) * 2022-03-04 2022-07-12 净豹智能机器人(台州)有限公司 Unmanned vehicle positioning system and method for rapid feature estimation
KR20220167522A (en) * 2021-06-14 2022-12-21 주식회사 엠씨넥스 In-vehicle alarm generating device

Family Cites Families (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2000346653A (en) * 1999-06-01 2000-12-15 Matsushita Electric Ind Co Ltd Method for supporting vehicle's running and apparatus for supporting vehicle's running
JP4235090B2 (en) * 2003-11-17 2009-03-04 トヨタ自動車株式会社 Vehicle travel support device
JP2006004188A (en) * 2004-06-17 2006-01-05 Daihatsu Motor Co Ltd Obstacle recognition method and obstacle recognition device
JP5515871B2 (en) * 2010-03-05 2014-06-11 株式会社豊田中央研究所 Object recognition apparatus and program
KR101030763B1 (en) * 2010-10-01 2011-04-26 위재영 Image acquisition unit, acquisition method and associated control unit

Cited By (9)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2016060384A1 (en) * 2014-10-17 2016-04-21 전자부품연구원 Method and device for providing panoramic vehicle situation information using multiple cameras and radar sensor information
US20180244355A1 (en) * 2015-08-21 2018-08-30 Daewoo Shipbuilding & Marine Engineering Co., Ltd. Insulation structure, for liquefied gas cargo hold, having anchor strip removed, cargo hold comprising insulation structure, and liquefied gas carrier comprising cargo hold
KR20170031901A (en) 2015-09-14 2017-03-22 한화테크윈 주식회사 Scanning Method Using High Speed Scanning Device
CN105403227A (en) * 2015-12-15 2016-03-16 重庆云途交通科技有限公司 Safe navigation method and system
CN105403227B (en) * 2015-12-15 2019-06-25 招商局重庆交通科研设计院有限公司 A kind of safety navigation method and system
KR101960417B1 (en) * 2017-09-26 2019-03-20 (주)에이치브레인 Fusion sensor for improving object recognition rate and vehicle safety assistant system
KR102195040B1 (en) * 2019-06-27 2020-12-28 주식회사 모빌테크 Method for collecting road signs information using MMS and mono camera
KR20220167522A (en) * 2021-06-14 2022-12-21 주식회사 엠씨넥스 In-vehicle alarm generating device
CN114739384A (en) * 2022-03-04 2022-07-12 净豹智能机器人(台州)有限公司 Unmanned vehicle positioning system and method for rapid feature estimation

Also Published As

Publication number Publication date
KR102051397B1 (en) 2020-01-09

Similar Documents

Publication Publication Date Title
KR102051397B1 (en) Apparatus and Method for Assisting Safe Driving
CN106485233B (en) Method and device for detecting travelable area and electronic equipment
EP2889641B1 (en) Image processing apparatus, image processing method, program and image processing system
EP3258214B1 (en) Object detection device
US10580155B2 (en) Image processing apparatus, imaging device, device control system, frequency distribution image generation method, and recording medium
JP5441549B2 (en) Road shape recognition device
JP5297078B2 (en) Method for detecting moving object in blind spot of vehicle, and blind spot detection device
KR101103526B1 (en) Collision Avoidance Method Using Stereo Camera
KR20140006462A (en) Apparatus and method for assisting safe driving
US20150298621A1 (en) Object detection apparatus and driving assistance apparatus
KR101692628B1 (en) Method for detecting right lane area and left lane area of rear of vehicle using region of interest and image monitoring system for vehicle using the same
EP2575078B1 (en) Front vehicle detecting method and front vehicle detecting apparatus
RU2017120288A (en) BLIND AREA SYSTEMS AND METHODS
US10940856B2 (en) Driving assistance system
US11691585B2 (en) Image processing apparatus, imaging device, moving body device control system, image processing method, and program product
KR101240499B1 (en) Device and method for real time lane recogniton and car detection
JP2008123462A (en) Object detector
KR20130007243A (en) Method and system for warning forward collision using camera
JP6129268B2 (en) Vehicle driving support system and driving support method
US20140002658A1 (en) Overtaking vehicle warning system and overtaking vehicle warning method
KR20160087273A (en) Apparatus for safety-driving of vehicle
US10546383B2 (en) Image processing device, object recognizing device, device control system, image processing method, and computer-readable medium
KR20150096924A (en) System and method for selecting far forward collision vehicle using lane expansion
US20160371549A1 (en) Method and Device for Detecting Objects from Depth-Resolved Image Data
EP2833096A1 (en) Method for determining a current distance and/or a current speed of a target object based on a reference point in a camera image, camera system and motor vehicle

Legal Events

Date Code Title Description
E902 Notification of reason for refusal
AMND Amendment
E90F Notification of reason for final refusal
AMND Amendment
E601 Decision to refuse application
E801 Decision on dismissal of amendment
X091 Application refused [patent]
AMND Amendment
X701 Decision to grant (after re-examination)
GRNT Written decision to grant