KR102517546B1 - System and method for predicting danger during driving of vehicle - Google Patents

System and method for predicting danger during driving of vehicle Download PDF

Info

Publication number
KR102517546B1
KR102517546B1 KR1020210012409A KR20210012409A KR102517546B1 KR 102517546 B1 KR102517546 B1 KR 102517546B1 KR 1020210012409 A KR1020210012409 A KR 1020210012409A KR 20210012409 A KR20210012409 A KR 20210012409A KR 102517546 B1 KR102517546 B1 KR 102517546B1
Authority
KR
South Korea
Prior art keywords
vehicle
information
moving object
risk
motion vector
Prior art date
Application number
KR1020210012409A
Other languages
Korean (ko)
Other versions
KR20220109526A (en
Inventor
김민영
이경로
Original Assignee
경북대학교 산학협력단
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by 경북대학교 산학협력단 filed Critical 경북대학교 산학협력단
Priority to KR1020210012409A priority Critical patent/KR102517546B1/en
Publication of KR20220109526A publication Critical patent/KR20220109526A/en
Application granted granted Critical
Publication of KR102517546B1 publication Critical patent/KR102517546B1/en

Links

Images

Classifications

    • BPERFORMING OPERATIONS; TRANSPORTING
    • B60VEHICLES IN GENERAL
    • B60WCONJOINT CONTROL OF VEHICLE SUB-UNITS OF DIFFERENT TYPE OR DIFFERENT FUNCTION; CONTROL SYSTEMS SPECIALLY ADAPTED FOR HYBRID VEHICLES; ROAD VEHICLE DRIVE CONTROL SYSTEMS FOR PURPOSES NOT RELATED TO THE CONTROL OF A PARTICULAR SUB-UNIT
    • B60W30/00Purposes of road vehicle drive control systems not related to the control of a particular sub-unit, e.g. of systems using conjoint control of vehicle sub-units, or advanced driver assistance systems for ensuring comfort, stability and safety or drive control systems for propelling or retarding the vehicle
    • B60W30/08Active safety systems predicting or avoiding probable or impending collision or attempting to minimise its consequences
    • BPERFORMING OPERATIONS; TRANSPORTING
    • B60VEHICLES IN GENERAL
    • B60WCONJOINT CONTROL OF VEHICLE SUB-UNITS OF DIFFERENT TYPE OR DIFFERENT FUNCTION; CONTROL SYSTEMS SPECIALLY ADAPTED FOR HYBRID VEHICLES; ROAD VEHICLE DRIVE CONTROL SYSTEMS FOR PURPOSES NOT RELATED TO THE CONTROL OF A PARTICULAR SUB-UNIT
    • B60W10/00Conjoint control of vehicle sub-units of different type or different function
    • B60W10/18Conjoint control of vehicle sub-units of different type or different function including control of braking systems
    • BPERFORMING OPERATIONS; TRANSPORTING
    • B60VEHICLES IN GENERAL
    • B60WCONJOINT CONTROL OF VEHICLE SUB-UNITS OF DIFFERENT TYPE OR DIFFERENT FUNCTION; CONTROL SYSTEMS SPECIALLY ADAPTED FOR HYBRID VEHICLES; ROAD VEHICLE DRIVE CONTROL SYSTEMS FOR PURPOSES NOT RELATED TO THE CONTROL OF A PARTICULAR SUB-UNIT
    • B60W40/00Estimation or calculation of non-directly measurable driving parameters for road vehicle drive control systems not related to the control of a particular sub unit, e.g. by using mathematical models
    • B60W40/02Estimation or calculation of non-directly measurable driving parameters for road vehicle drive control systems not related to the control of a particular sub unit, e.g. by using mathematical models related to ambient conditions
    • BPERFORMING OPERATIONS; TRANSPORTING
    • B60VEHICLES IN GENERAL
    • B60WCONJOINT CONTROL OF VEHICLE SUB-UNITS OF DIFFERENT TYPE OR DIFFERENT FUNCTION; CONTROL SYSTEMS SPECIALLY ADAPTED FOR HYBRID VEHICLES; ROAD VEHICLE DRIVE CONTROL SYSTEMS FOR PURPOSES NOT RELATED TO THE CONTROL OF A PARTICULAR SUB-UNIT
    • B60W50/00Details of control systems for road vehicle drive control not related to the control of a particular sub-unit, e.g. process diagnostic or vehicle driver interfaces
    • B60W50/08Interaction between the driver and the control system
    • B60W50/14Means for informing the driver, warning the driver or prompting a driver intervention
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06NCOMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N3/00Computing arrangements based on biological models
    • G06N3/02Neural networks
    • G06N3/08Learning methods
    • BPERFORMING OPERATIONS; TRANSPORTING
    • B60VEHICLES IN GENERAL
    • B60WCONJOINT CONTROL OF VEHICLE SUB-UNITS OF DIFFERENT TYPE OR DIFFERENT FUNCTION; CONTROL SYSTEMS SPECIALLY ADAPTED FOR HYBRID VEHICLES; ROAD VEHICLE DRIVE CONTROL SYSTEMS FOR PURPOSES NOT RELATED TO THE CONTROL OF A PARTICULAR SUB-UNIT
    • B60W50/00Details of control systems for road vehicle drive control not related to the control of a particular sub-unit, e.g. process diagnostic or vehicle driver interfaces
    • B60W2050/0001Details of the control system
    • B60W2050/0002Automatic control, details of type of controller or control system architecture
    • BPERFORMING OPERATIONS; TRANSPORTING
    • B60VEHICLES IN GENERAL
    • B60WCONJOINT CONTROL OF VEHICLE SUB-UNITS OF DIFFERENT TYPE OR DIFFERENT FUNCTION; CONTROL SYSTEMS SPECIALLY ADAPTED FOR HYBRID VEHICLES; ROAD VEHICLE DRIVE CONTROL SYSTEMS FOR PURPOSES NOT RELATED TO THE CONTROL OF A PARTICULAR SUB-UNIT
    • B60W50/00Details of control systems for road vehicle drive control not related to the control of a particular sub-unit, e.g. process diagnostic or vehicle driver interfaces
    • B60W50/08Interaction between the driver and the control system
    • B60W50/14Means for informing the driver, warning the driver or prompting a driver intervention
    • B60W2050/143Alarm means
    • BPERFORMING OPERATIONS; TRANSPORTING
    • B60VEHICLES IN GENERAL
    • B60WCONJOINT CONTROL OF VEHICLE SUB-UNITS OF DIFFERENT TYPE OR DIFFERENT FUNCTION; CONTROL SYSTEMS SPECIALLY ADAPTED FOR HYBRID VEHICLES; ROAD VEHICLE DRIVE CONTROL SYSTEMS FOR PURPOSES NOT RELATED TO THE CONTROL OF A PARTICULAR SUB-UNIT
    • B60W2300/00Indexing codes relating to the type of vehicle
    • BPERFORMING OPERATIONS; TRANSPORTING
    • B60VEHICLES IN GENERAL
    • B60WCONJOINT CONTROL OF VEHICLE SUB-UNITS OF DIFFERENT TYPE OR DIFFERENT FUNCTION; CONTROL SYSTEMS SPECIALLY ADAPTED FOR HYBRID VEHICLES; ROAD VEHICLE DRIVE CONTROL SYSTEMS FOR PURPOSES NOT RELATED TO THE CONTROL OF A PARTICULAR SUB-UNIT
    • B60W2530/00Input parameters relating to vehicle conditions or values, not covered by groups B60W2510/00 or B60W2520/00
    • B60W2530/10Weight
    • BPERFORMING OPERATIONS; TRANSPORTING
    • B60VEHICLES IN GENERAL
    • B60WCONJOINT CONTROL OF VEHICLE SUB-UNITS OF DIFFERENT TYPE OR DIFFERENT FUNCTION; CONTROL SYSTEMS SPECIALLY ADAPTED FOR HYBRID VEHICLES; ROAD VEHICLE DRIVE CONTROL SYSTEMS FOR PURPOSES NOT RELATED TO THE CONTROL OF A PARTICULAR SUB-UNIT
    • B60W2552/00Input parameters relating to infrastructure
    • B60W2552/50Barriers
    • BPERFORMING OPERATIONS; TRANSPORTING
    • B60VEHICLES IN GENERAL
    • B60WCONJOINT CONTROL OF VEHICLE SUB-UNITS OF DIFFERENT TYPE OR DIFFERENT FUNCTION; CONTROL SYSTEMS SPECIALLY ADAPTED FOR HYBRID VEHICLES; ROAD VEHICLE DRIVE CONTROL SYSTEMS FOR PURPOSES NOT RELATED TO THE CONTROL OF A PARTICULAR SUB-UNIT
    • B60W2554/00Input parameters relating to objects
    • BPERFORMING OPERATIONS; TRANSPORTING
    • B60VEHICLES IN GENERAL
    • B60WCONJOINT CONTROL OF VEHICLE SUB-UNITS OF DIFFERENT TYPE OR DIFFERENT FUNCTION; CONTROL SYSTEMS SPECIALLY ADAPTED FOR HYBRID VEHICLES; ROAD VEHICLE DRIVE CONTROL SYSTEMS FOR PURPOSES NOT RELATED TO THE CONTROL OF A PARTICULAR SUB-UNIT
    • B60W2555/00Input parameters relating to exterior conditions, not covered by groups B60W2552/00, B60W2554/00
    • B60W2555/20Ambient conditions, e.g. wind or rain
    • BPERFORMING OPERATIONS; TRANSPORTING
    • B60VEHICLES IN GENERAL
    • B60YINDEXING SCHEME RELATING TO ASPECTS CROSS-CUTTING VEHICLE TECHNOLOGY
    • B60Y2300/00Purposes or special features of road vehicle drive control systems
    • B60Y2300/08Predicting or avoiding probable or impending collision
    • BPERFORMING OPERATIONS; TRANSPORTING
    • B60VEHICLES IN GENERAL
    • B60YINDEXING SCHEME RELATING TO ASPECTS CROSS-CUTTING VEHICLE TECHNOLOGY
    • B60Y2400/00Special features of vehicle units
    • B60Y2400/90Driver alarms

Abstract

차량 주변의 장애물들(주변 자동차 또는 사람 등) 간의 충돌 사고 위험을 빠르게 예측하여 2차 사고를 예방할 수 있는 차량 주행 위험 예측 시스템 및 그 방법이 개시된다. 본 발명의 실시예에 따른 차량 주행 위험 예측 시스템은: 주행 중인 차량의 주행 위험을 예측하기 위한 차량 주행 위험 예측 시스템으로서, 상기 차량의 주위에 위치하는 객체들에 대해 순차적으로 영상들을 획득하도록 구성되는 영상 획득부; 상기 영상들을 분석하여 이동 객체들을 추출하도록 구성되는 이동 객체 추출부; 상기 이동 객체들에 대해 각각 시간에 따른 움직임 벡터에 해당하는 움직임 벡터 프로파일을 산출하도록 구성되는 움직임 벡터 산출부; 상기 이동 객체들에 대해 산출된 움직임 벡터 프로파일을 기반으로 인공신경망에 의해 상기 차량의 사고 위험을 예측하도록 구성되는 사고 위험 예측부; 및 사고 위험 예측시 사고 위험을 상기 차량의 운전자에게 알리도록 구성되는 위험 알림부를 포함한다.A vehicle driving risk prediction system and method capable of preventing a secondary accident by quickly predicting the risk of a collision between obstacles (surrounding vehicles or people) around the vehicle are disclosed. A vehicle driving risk prediction system according to an embodiment of the present invention is a vehicle driving risk prediction system for predicting the driving risk of a running vehicle, which is configured to sequentially acquire images of objects located around the vehicle. image acquisition unit; a moving object extraction unit configured to extract moving objects by analyzing the images; a motion vector calculation unit configured to calculate motion vector profiles corresponding to motion vectors according to time for each of the moving objects; an accident risk prediction unit configured to predict an accident risk of the vehicle by an artificial neural network based on motion vector profiles calculated for the moving objects; and a danger notification unit configured to inform the driver of the accident risk when the accident risk is predicted.

Description

차량 주행 위험 예측 시스템 및 그 방법{System and method for predicting danger during driving of vehicle}Vehicle driving risk prediction system and method {System and method for predicting danger during driving of vehicle}

본 발명은 차량 주행 위험 예측을 위한 것으로, 보다 상세하게는 차량 주변의 장애물들(주변 자동차 또는 사람 등) 간의 충돌 사고 위험을 빠르게 예측하여 2차 사고를 예방할 수 있는 차량 주행 위험 예측 시스템 및 그 방법에 관한 것이다.The present invention is for predicting vehicle driving risk, and more particularly, a vehicle driving risk prediction system and method capable of preventing secondary accidents by quickly predicting the risk of collision between obstacles (surrounding vehicles or people) around the vehicle and its method It is about.

차량에 스테레오 카메라, 라이다 센서 등의 센서를 장착하여 주변 객체를 인식하고 분석하여 장애물 탐지 등에 활용하는 기술이 연구되고 있다. 종래의 기술은 주로 차량과 주변 차량 간의 충돌 위험을 예측하는 것에 집중되어 있으며, 주변 차량들 간 혹은 주변 차량과 사람 간의 충돌 사고로 인해 유발되는 2차 사고의 위험 예측에 관한 연구는 부족한 실정이다.A technology for detecting obstacles by mounting sensors such as a stereo camera and lidar sensor on a vehicle to recognize and analyze surrounding objects is being researched. Conventional technology is mainly focused on predicting the risk of collision between a vehicle and a nearby vehicle, and research on the risk prediction of a secondary accident caused by a collision between nearby vehicles or between a nearby vehicle and a person is lacking.

또한, 차량 주행 중에 실시간으로 교통 사고 위험을 예측하기 위해서는 스테레오 카메라, 라이다 센서 등의 영상 센서를 통해 수집된 데이터로부터 빠르게 사고 위험을 예측할 필요가 있으나, 종래의 기술은 영상 센서로부터 수집된 데이터로부터 사고 위험을 예측하기 위해 소요되는 시간이 길어 실제 주행 환경에 적용되기 어려운 한계가 있다.In addition, in order to predict the risk of a traffic accident in real time while driving a vehicle, it is necessary to quickly predict the risk of an accident from data collected through an image sensor such as a stereo camera or lidar sensor. There is a limitation that it is difficult to apply to the actual driving environment because the time required to predict the risk of an accident is long.

본 발명은 차량 주변의 장애물들(주변 자동차 또는 사람 등) 간의 충돌 사고 위험을 빠르게 예측하여 2차 사고를 예방할 수 있는 차량 주행 위험 예측 시스템 및 그 방법을 제공하기 위한 것이다.An object of the present invention is to provide a vehicle driving risk prediction system and method capable of preventing a secondary accident by quickly predicting the risk of a collision between obstacles (surrounding vehicles or people) around the vehicle and its method.

본 발명의 실시예에 따른 차량 주행 위험 예측 시스템은: 주행 중인 차량의 주행 위험을 예측하기 위한 차량 주행 위험 예측 시스템으로서, 상기 차량의 주위에 위치하는 객체들에 대해 순차적으로 영상들을 획득하도록 구성되는 영상 획득부; 상기 영상들을 분석하여 이동 객체들을 추출하도록 구성되는 이동 객체 추출부; 상기 이동 객체들에 대해 각각 시간에 따른 움직임 벡터에 해당하는 움직임 벡터 프로파일을 산출하도록 구성되는 움직임 벡터 산출부; 상기 이동 객체들에 대해 산출된 움직임 벡터 프로파일을 기반으로 인공신경망에 의해 상기 차량의 사고 위험을 예측하도록 구성되는 사고 위험 예측부; 및 사고 위험 예측시 사고 위험을 상기 차량의 운전자에게 알리도록 구성되는 위험 알림부를 포함한다.A vehicle driving risk prediction system according to an embodiment of the present invention is a vehicle driving risk prediction system for predicting the driving risk of a running vehicle, which is configured to sequentially acquire images of objects located around the vehicle. image acquisition unit; a moving object extraction unit configured to extract moving objects by analyzing the images; a motion vector calculation unit configured to calculate motion vector profiles corresponding to motion vectors according to time for each of the moving objects; an accident risk prediction unit configured to predict an accident risk of the vehicle by an artificial neural network based on motion vector profiles calculated for the moving objects; and a risk notification unit configured to inform the driver of the accident risk when the accident risk is predicted.

상기 사고 위험 예측부는: 상기 이동 객체들 중 제1 이동 객체에 대해 산출된 제1 움직임 벡터 프로파일과, 상기 이동 객체들 중 제2 이동 객체에 대해 산출된 제2 움직임 벡터 프로파일 간의 차이값인 차분 움직임 벡터 프로파일을 산출하고; 상기 제1 움직임 벡터 프로파일, 상기 제2 움직임 벡터 프로파일, 및 상기 차분 움직임 벡터 프로파일을 기반으로, 상기 인공신경망에 의해 상기 제1 이동 객체와 상기 제2 이동 객체의 충돌 확률, 충돌 예상 위치, 및 충돌 후 이동 경로를 포함하는 충돌 위험 정보를 예측하고; 그리고 예측된 상기 충돌 위험 정보, 및 상기 차량의 주행 정보를 기반으로, 상기 차량의 제동 제어 관련 정보, 및 상기 차량의 방향 전환 관련 정보를 포함하여 상기 차량의 사고 예방을 위한 대응 조치를 결정하도록 구성될 수 있다.The accident risk prediction unit: Differential motion that is a difference value between a first motion vector profile calculated for a first moving object among the moving objects and a second motion vector profile calculated for a second moving object among the moving objects. calculate a vector profile; Based on the first motion vector profile, the second motion vector profile, and the differential motion vector profile, a collision probability between the first moving object and the second moving object, a predicted collision position, and a collision by the artificial neural network Predicting collision risk information including a post-movement path; And based on the predicted collision risk information and the driving information of the vehicle, configured to determine a countermeasure for preventing an accident of the vehicle, including braking control-related information of the vehicle and direction change-related information of the vehicle. It can be.

상기 사고 위험 예측부는: 상기 차량이 주행 중인 도로와 관련된 정보, 및 상기 차량이 주행 중인 시점에서 상기 차량이 주행 중인 시점의 날씨와 관련된 정보를 포함하는 주변 환경 정보를 수집하고; 상기 영상들을 처리하여 상기 제1 이동 객체의 유형, 상기 제2 이동 객체의 유형, 및 상기 제1 이동 객체 및 상기 제2 이동 객체의 추정 중량 또는 차량 종류를 포함하는 이동 객체 관련 정보를 분석하고; 상기 영상들을 처리하여 상기 제1 이동 객체의 시간에 따른 방향 정보를 나타내는 제1 방향 프로파일, 및 상기 제2 이동 객체의 시간에 따른 방향 정보를 나타내는 제2 방향 프로파일을 산출하고; 그리고 상기 주변 환경 정보, 상기 이동 객체 관련 정보, 상기 제1 방향 프로파일 및 상기 제2 방향 프로파일을 기반으로, 상기 인공신경망에 의해 상기 충돌 위험 정보를 예측하도록 구성될 수 있다.The accident risk prediction unit: collects information related to the road on which the vehicle is driving, and surrounding environment information including information related to weather at the time the vehicle is driving at the time the vehicle is driving; processing the images to analyze moving object related information including a type of the first moving object, a type of the second moving object, and an estimated weight or vehicle type of the first and second moving objects; processing the images to calculate a first direction profile representing direction information of the first moving object over time and a second direction profile representing direction information of the second moving object over time; The collision risk information may be predicted by the artificial neural network based on the surrounding environment information, the moving object related information, the first direction profile, and the second direction profile.

본 발명의 실시예에 따른 차량 주행 위험 예측 방법은: 주행 중인 차량의 주행 위험을 예측하기 위한 차량 주행 위험 예측 방법으로서, 영상 획득부에 의해, 상기 차량의 주위에 위치하는 객체들에 대해 순차적으로 영상들을 획득하는 단계; 이동 객체 추출부에 의해, 상기 영상들을 분석하여 이동 객체들을 추출하는 단계; 움직임 벡터 산출부에 의해, 상기 이동 객체들에 대해 각각 시간에 따른 움직임 벡터에 해당하는 움직임 벡터 프로파일을 산출하는 단계; 사고 위험 예측부에 의해, 상기 이동 객체들에 대해 산출된 움직임 벡터 프로파일을 기반으로 인공신경망에 의해 상기 차량의 사고 위험을 예측하는 단계; 및 위험 알림부에 의해, 사고 위험 예측시 사고 위험을 상기 차량의 운전자에게 알리는 단계를 포함한다.A vehicle driving risk prediction method according to an embodiment of the present invention is a vehicle driving risk prediction method for predicting the driving risk of a vehicle in motion, and sequentially detects objects located around the vehicle by an image acquisition unit. acquiring images; extracting moving objects by analyzing the images by a moving object extraction unit; calculating, by a motion vector calculation unit, motion vector profiles corresponding to motion vectors of each of the moving objects according to time; predicting, by an accident risk predictor, an accident risk of the vehicle based on motion vector profiles calculated for the moving objects by an artificial neural network; and notifying the driver of the vehicle of the accident risk when the accident risk is predicted by the risk notification unit.

상기 사고 위험을 예측하는 단계는: 상기 이동 객체들 중 제1 이동 객체에 대해 산출된 제1 움직임 벡터 프로파일과, 상기 이동 객체들 중 제2 이동 객체에 대해 산출된 제2 움직임 벡터 프로파일 간의 차이값인 차분 움직임 벡터 프로파일을 산출하는 단계; 상기 제1 움직임 벡터 프로파일, 상기 제2 움직임 벡터 프로파일, 및 상기 차분 움직임 벡터 프로파일을 기반으로, 상기 인공신경망에 의해 상기 제1 이동 객체와 상기 제2 이동 객체의 충돌 확률, 충돌 예상 위치, 및 충돌 후 이동 경로를 포함하는 충돌 위험 정보를 예측하는 단계; 및 예측된 상기 충돌 위험 정보, 및 상기 차량의 주행 정보를 기반으로, 상기 차량의 제동 제어 관련 정보, 및 상기 차량의 방향 전환 관련 정보를 포함하여 상기 차량의 사고 예방을 위한 대응 조치를 결정하는 단계를 포함할 수 있다.The step of predicting the accident risk may include: a difference between a first motion vector profile calculated for a first moving object among the moving objects and a second motion vector profile calculated for a second moving object among the moving objects. Calculating a differential motion vector profile of Based on the first motion vector profile, the second motion vector profile, and the differential motion vector profile, a collision probability between the first moving object and the second moving object, a predicted collision position, and a collision by the artificial neural network Predicting collision risk information including a post-movement path; and determining a countermeasure for preventing an accident of the vehicle, including braking control-related information of the vehicle and direction change-related information of the vehicle, based on the predicted collision risk information and driving information of the vehicle. can include

상기 사고 위험을 예측하는 단계는: 상기 차량이 주행 중인 도로와 관련된 정보, 및 상기 차량이 주행 중인 시점에서 상기 차량이 주행 중인 시점의 날씨와 관련된 정보를 포함하는 주변 환경 정보를 수집하는 단계; 상기 영상들을 처리하여 상기 제1 이동 객체의 유형, 상기 제2 이동 객체의 유형, 및 상기 제1 이동 객체 및 상기 제2 이동 객체의 추정 중량 또는 차량 종류를 포함하는 이동 객체 관련 정보를 분석하는 단계; 상기 영상들을 처리하여 상기 제1 이동 객체의 시간에 따른 방향 정보를 나타내는 제1 방향 프로파일, 및 상기 제2 이동 객체의 시간에 따른 방향 정보를 나타내는 제2 방향 프로파일을 산출하는 단계; 및 상기 주변 환경 정보, 상기 이동 객체 관련 정보, 상기 제1 방향 프로파일 및 상기 제2 방향 프로파일을 기반으로, 상기 인공신경망에 의해 상기 충돌 위험 정보를 예측하는 단계를 포함할 수 있다.The predicting the risk of an accident may include: collecting surrounding environment information including information related to a road on which the vehicle is driving and information related to weather at a point in time when the vehicle is driving; Processing the images to analyze moving object-related information including the type of the first moving object, the type of the second moving object, and estimated weights or vehicle types of the first and second moving objects; ; processing the images to calculate a first direction profile representing direction information of the first moving object over time and a second direction profile representing direction information of the second moving object over time; and predicting the collision risk information by the artificial neural network based on the surrounding environment information, the moving object related information, the first direction profile, and the second direction profile.

본 발명의 실시예에 따르면, 상기 차량 주행 위험 예측 방법을 실행하기 위한 프로그램이 기록된 컴퓨터로 판독 가능한 기록 매체가 제공된다.According to an embodiment of the present invention, a computer-readable recording medium on which a program for executing the vehicle driving risk prediction method is recorded is provided.

본 발명의 실시예에 의하면, 차량 주변의 장애물들(주변 자동차 또는 사람 등) 간의 충돌 사고 위험을 빠르게 예측하여 2차 사고를 예방할 수 있는 차량 주행 위험 예측 시스템 및 그 방법이 제공된다.According to an embodiment of the present invention, a vehicle driving risk prediction system and method capable of preventing a secondary accident by quickly predicting the risk of a collision between obstacles (surrounding vehicles or people) around the vehicle are provided.

도 1은 본 발명의 실시예에 따른 차량 주행 위험 예측 시스템의 구성도이다.
도 2는 본 발명의 실시예에 따른 차량 주행 위험 예측 시스템을 구성하는 사고 위험 예측부의 구성도이다.
도 3은 본 발명의 실시예에 따른 차량 주행 위험 예측 방법의 순서도이다.
도 4는 본 발명의 실시예에 따른 차량 주행 위험 예측 방법을 설명하기 위한 개념도이다.
도 5는 본 발명의 일 실시예에 따라 도 3의 단계 S140을 나타낸 순서도이다.
도 6은 본 발명의 다른 실시예에 따라 도 3의 단계 S140을 나타낸 순서도이다.
도 7은 도 6의 단계 S147을 설명하기 위한 개념도이다.
1 is a block diagram of a vehicle driving risk prediction system according to an embodiment of the present invention.
2 is a configuration diagram of an accident risk prediction unit constituting a vehicle driving risk prediction system according to an embodiment of the present invention.
3 is a flowchart of a vehicle driving risk prediction method according to an embodiment of the present invention.
4 is a conceptual diagram for explaining a vehicle driving risk prediction method according to an embodiment of the present invention.
5 is a flowchart illustrating step S140 of FIG. 3 according to an embodiment of the present invention.
6 is a flowchart illustrating step S140 of FIG. 3 according to another embodiment of the present invention.
FIG. 7 is a conceptual diagram for explaining step S147 of FIG. 6 .

본 발명의 이점 및 특징, 그리고 그것들을 달성하는 방법은 첨부되는 도면과 함께 상세하게 후술되어 있는 실시예들을 참조하면 명확해질 것이다. 그러나 본 발명은 이하에서 개시되는 실시예들에 한정되는 것이 아니라 서로 다른 다양한 형태로 구현될 수 있으며, 단지 본 실시예들은 본 발명의 개시가 완전하도록 하고, 본 발명이 속하는 기술분야에서 통상의 지식을 가진 자에게 발명의 범주를 완전하게 알려주기 위해 제공되는 것이며, 본 발명은 청구항의 범주에 의해 정의될 뿐이다. 명세서 전체에 걸쳐 동일 참조 부호는 동일 구성 요소를 지칭한다.Advantages and features of the present invention, and methods of achieving them, will become clear with reference to the detailed description of the following embodiments taken in conjunction with the accompanying drawings. However, the present invention is not limited to the embodiments disclosed below, but may be implemented in various different forms, and only these embodiments make the disclosure of the present invention complete, and common knowledge in the art to which the present invention belongs. It is provided to completely inform the person who has the scope of the invention, and the present invention is only defined by the scope of the claims. Like reference numbers designate like elements throughout the specification.

본 명세서에서, 어떤 부분이 어떤 구성요소를 "포함"한다고 할 때, 이는 특별히 반대되는 기재가 없는 한 다른 구성요소를 제외하는 것이 아니라 다른 구성요소를 더 포함할 수 있는 것을 의미한다. 본 명세서에서 사용되는 '~부'는 적어도 하나의 기능이나 동작을 처리하는 단위로서, 예를 들어 소프트웨어, FPGA 또는 하드웨어 구성요소를 의미할 수 있다. '~부'에서 제공하는 기능은 복수의 구성요소에 의해 분리되어 수행되거나, 다른 추가적인 구성요소와 통합될 수도 있다. 본 명세서의 '~부'는 반드시 소프트웨어 또는 하드웨어에 한정되지 않으며, 어드레싱할 수 있는 저장 매체에 있도록 구성될 수도 있고, 하나 또는 그 이상의 프로세서들을 재생시키도록 구성될 수도 있다. 이하에서는 도면을 참조하여 본 발명의 실시예에 대해서 구체적으로 설명하기로 한다.In this specification, when a certain component is said to "include", it means that it may further include other components, not excluding other components unless otherwise stated. '~ unit' used in this specification is a unit that processes at least one function or operation, and may mean, for example, software, an FPGA, or a hardware component. Functions provided by '~unit' may be performed separately by a plurality of components or may be integrated with other additional components. '~unit' in this specification is not necessarily limited to software or hardware, and may be configured to be in an addressable storage medium or configured to reproduce one or more processors. Hereinafter, embodiments of the present invention will be described in detail with reference to the drawings.

도 1은 본 발명의 실시예에 따른 차량 주행 위험 예측 시스템의 구성도이다. 도 1을 참조하면, 본 발명의 실시예에 따른 차량 주행 위험 예측 시스템(100)은 주행 중인 차량의 주행 위험을 예측하고 차량 사각지대 또는 주변 상황에 대해 장애물을 감지하고 알려주기 위한 것으로, 영상 획득부(110), 이동 객체 추출부(120), 움직임 벡터 산출부(130), 사고 위험 예측부(140), 인공신경망(150), 인공신경망 학습부(160), 및 위험 알림부(170)를 포함할 수 있다.1 is a block diagram of a vehicle driving risk prediction system according to an embodiment of the present invention. Referring to FIG. 1 , the vehicle driving risk prediction system 100 according to an embodiment of the present invention predicts the driving risk of a vehicle while driving, detects and informs obstacles in the vehicle's blind spots or surrounding situations, and obtains an image. unit 110, moving object extraction unit 120, motion vector calculation unit 130, accident risk prediction unit 140, artificial neural network 150, artificial neural network learning unit 160, and risk notification unit 170 can include

영상 획득부(110)는 차량에 장착될 수 있다. 영상 획득부(110)는 주행 중인 차량의 주위에 위치하는 객체들(예를 들어, 자동차, 사람, 주변 구조물 등)에 대해 순차적으로 영상들을 획득할 수 있다. 영상 획득부(110)는 3차원 영상을 획득하기 위한 장치, 예를 들어, 스테레오 카메라(stereo camera)와 같은 3차원 카메라, 라이다 센서(lidar sensor) 등을 포함할 수 있다.The image acquisition unit 110 may be mounted on a vehicle. The image acquisition unit 110 may sequentially acquire images of objects (eg, a car, a person, a surrounding structure, etc.) located around a vehicle in motion. The image acquisition unit 110 may include a device for obtaining a 3D image, for example, a 3D camera such as a stereo camera, a lidar sensor, and the like.

이동 객체 추출부(120)는 영상 획득부(110)에 의해 획득된 영상들을 분석하여 주변 자동차, 사람 등의 이동 객체들을 추출할 수 있다. 일 실시예에서, 이동 객체 추출부(120)는 딥러닝(deep learning) 알고리즘 및/또는 영상에서 객체를 추출하는 알고리즘을 이용하여 이동 객체들을 추출할 수 있다.The moving object extractor 120 may analyze the images acquired by the image acquirer 110 and extract moving objects such as nearby cars and people. In one embodiment, the moving object extractor 120 may extract moving objects using a deep learning algorithm and/or an algorithm for extracting objects from an image.

움직임 벡터 산출부(130)는 이동 객체 추출부(120)에 의해 추출된 이동 객체들에 대해 각각 시간에 따른 움직임 벡터에 해당하는 움직임 벡터 프로파일을 산출할 수 있다. 움직임 벡터 프로파일은 일정한 시간 간격으로 순차적인 움직임 벡터들의 변화 정보를 나타낼 수 있다. 움직임 벡터는 차량 주변에서 이동하는 이동 객체의 이동 방향 정보, 및 이동 속도(속력) 정보를 포함할 수 있다.The motion vector calculator 130 may calculate a motion vector profile corresponding to a motion vector according to time for each of the moving objects extracted by the moving object extractor 120 . The motion vector profile may indicate change information of sequential motion vectors at regular time intervals. The motion vector may include movement direction information and movement speed (speed) information of a moving object moving around the vehicle.

사고 위험 예측부(140)는 주행 중인 차량의 주위에 위치하는 이동 객체들에 대해 산출된 움직임 벡터 프로파일을 기반으로 인공신경망(artificial neural network)(150)에 의해, 이동 객체들 간의 충돌 사고에 따른 차량의 사고 위험(2차 사고 위험)을 예측할 수 있다.The accident risk prediction unit 140 is configured according to a collision accident between moving objects by an artificial neural network 150 based on motion vector profiles calculated for moving objects located around a vehicle in motion. The accident risk (secondary accident risk) of the vehicle can be predicted.

인공신경망 학습부(160)는 학습 데이터를 이용하여 차량의 사고 위험 예측을 위한 인공신경망을 학습할 수 있다. 인공신경망(150)의 학습을 위한 데이터는 예를 들어, 차량들 간의 충돌 시뮬레이션, 실제 발생된 교통 사고에 해당하는 데이터를 포함할 수 있다. 인공신경망 학습부(160)는 수집된 학습 데이터를 기반으로, 차량의 주행 전 및/또는 주행 후에 인공신경망(150)을 학습할 수 있다.The artificial neural network learning unit 160 may learn an artificial neural network for predicting an accident risk of a vehicle using learning data. Data for learning of the artificial neural network 150 may include, for example, data corresponding to a simulation of a collision between vehicles and an actual traffic accident. The artificial neural network learning unit 160 may learn the artificial neural network 150 before and/or after driving of the vehicle based on the collected learning data.

인공신경망(150)의 학습에 사용되는 학습 데이터는 도로 관련 정보, 날씨 관련 정보, 이동 객체 관련 정보 등을 포함하는 입력 변수들과, 충돌 발생 여부, 충돌 위치, 충돌 후 이동 객체(충돌한 차량들)의 이동 경로를 포함하는 출력 변수들을 포함할 수 있다. 이러한 학습 데이터는 과거의 교통 사고에 관한 정보들로부터 수집되거나, 교통 사고를 시뮬레이션하는 시뮬레이션 장치에 의해 생성될 수 있다.Learning data used for learning of the artificial neural network 150 includes input variables including road-related information, weather-related information, moving object-related information, etc. ) may include output variables including the movement path. Such learning data may be collected from information about past traffic accidents or generated by a simulation device simulating traffic accidents.

실시예에서, 인공신경망 학습부(160)는 도로 관련 정보(예를 들어, 도로의 경사, 도로 유형, 제한 속도 등), 날씨 관련 정보(우천 정보, 강설 정보, 적설량 등)를 포함하는 주변 환경 정보, 이동 객체의 유형(자동차, 트럭, 버스, 오토바이, 사람 등), 이동 객체의 중량이나, 차종(예를 들어, 제조사, 차량 모델 등)를 포함하는 이동 객체 관련 정보, 이동 객체의 시간에 따른 방향 정보에 해당하는 방향 프로파일, 이동 객체의 움직임 벡터 프로파일, 이동 객체들 간의 움직임 벡터 프로파일의 차분값인 차분 움직임 벡터 프로파일을 포함하는 입력 변수들과, 충돌 예상 위치, 및 충돌 후 이동 경로를 포함하는 출력 변수들 간의 가중치를 학습하여 인공신경망(150)을 학습할 수 있다.In an embodiment, the artificial neural network learning unit 160 includes road-related information (eg, road slope, road type, speed limit, etc.) and weather-related information (rainy weather information, snowfall information, snowfall amount, etc.) information, moving object-related information including the type of moving object (car, truck, bus, motorcycle, person, etc.), the weight of the moving object, or the type of vehicle (eg, make, vehicle model, etc.), the time of the moving object It includes input variables including a direction profile corresponding to directional information, a motion vector profile of a moving object, and a differential motion vector profile that is a difference between motion vector profiles between moving objects, a collision predicted position, and a movement path after collision. The artificial neural network 150 may be learned by learning weights between the output variables.

인공 신경망(150)은 예를 들어, 입력층과 하나 이상의 은닉층, 및 출력층이 가중치들로 연결된 완전연결층(fully connected layer) 인공신경망, 컨볼루션 처리에 의해 특징 맵을 추출하는 컨볼루셔널(convolutional) 인공신경망 등으로 구현될 수 있으나, 이에 한정되는 것은 아니다.The artificial neural network 150 is, for example, a fully connected layer artificial neural network in which an input layer, one or more hidden layers, and an output layer are connected with weights, and a convolutional method for extracting feature maps by convolution processing. ) may be implemented with an artificial neural network, etc., but is not limited thereto.

위험 알림부(170)는 사고 위험 예측부(140)에 의해 사고 위험 예측시, 사고 위험을 차량의 운전자에게 알릴 수 있다. 위험 알림부(170)는 경고음, 경고음성, 경고등을 통해 운전자에게 사고 위험을 알리거나, 차량 내비게이션, 디스플레이 화면 등을 통해 운전자에게 사고 위험을 알릴 수 있다.The danger notification unit 170 may inform the driver of the accident risk when the accident risk is predicted by the accident risk prediction unit 140 . The danger notification unit 170 may notify the driver of the danger of an accident through a warning sound, a warning voice, or a warning light, or notify the driver of the danger of an accident through a vehicle navigation system or a display screen.

또한, 위험 알림부(170)는 주변의 이동 객체들(주위 차량 또는 사람 등)의 충돌 확률, 충돌 예상 위치, 충돌 후 이동 객체들의 예측 이동 경로에 따라 이동 객체의 주위(예를 들어, 후방)에서 주행 중인 차량이 차선을 변경하도록 하는 등, 2차 충돌 방지를 위해 차량을 자동적으로 제어하거나, 차량의 제어를 운전자에게 안내할 수 있다.In addition, the danger notification unit 170 monitors the surroundings (eg, the rear) of the moving objects according to the collision probability of the surrounding moving objects (surrounding vehicles or people, etc.), the predicted location of the collision, and the predicted movement path of the moving objects after the collision. The vehicle may be automatically controlled to prevent a secondary collision, such as having the vehicle in motion change lanes, or the driver may be guided to control the vehicle.

도 2는 본 발명의 실시예에 따른 차량 주행 위험 예측 시스템을 구성하는 사고 위험 예측부의 구성도이다. 도 1 및 도 2를 참조하면, 사고 위험 예측부(140)는 차분 움직임 벡터 산출부(141), 주변 환경 정보 수집부(142), 이동 객체 정보 분석부(143), 방향 프로파일 산출부(144), 및 충돌 위험 정보 예측부(145)를 포함할 수 있다.2 is a configuration diagram of an accident risk prediction unit constituting a vehicle driving risk prediction system according to an embodiment of the present invention. Referring to FIGS. 1 and 2 , the accident risk prediction unit 140 includes a differential motion vector calculation unit 141, a surrounding environment information collection unit 142, a moving object information analysis unit 143, and a direction profile calculation unit 144. ), and a collision risk information prediction unit 145.

차분 움직임 벡터 산출부(141)는 차량 주변에서 이동하고 있는 이동 객체들 중 제1 이동 객체에 대해 산출된 제1 움직임 벡터 프로파일과, 이동 객체들 중 제2 이동 객체에 대해 산출된 제2 움직임 벡터 프로파일 간의 차이값(벡터 차연산 결과)에 해당하는 차분 움직임 벡터 프로파일을 산출할 수 있다.The differential motion vector calculation unit 141 includes a first motion vector profile calculated for a first moving object among moving objects moving around the vehicle and a second motion vector calculated for a second moving object among the moving objects. A differential motion vector profile corresponding to the difference between the profiles (vector difference operation result) may be calculated.

주변 환경 정보 수집부(142)는 차량이 주행 중인 도로와 관련된 정보(예를 들어, 도로의 경사(오르막길, 내리막길, 평지, 경사각 등), 터널, 도로 유형(직선 도로, 곡선 도로, 교차로, 고속도로 등), 제한 속도 등, 차량이 주행 중인 시점에서 차량이 주행 중인 시점의 날씨와 관련된 정보(우천 정보, 강설 정보, 적설량 등)를 포함하는 주변 환경 정보를 수집할 수 있다. 주변 환경 정보 수집부(142)는 차량의 주행 환경과 관련된 정보를 제공하는 하나 이상의 서버(기상청 서버, 전자지도 서버 등) 혹은 네비게이션 시스템 등으로부터 주변 환경 정보를 수집할 수 있다.The surrounding environment information collection unit 142 includes information related to the road on which the vehicle is driving (eg, the slope of the road (uphill road, downhill road, flat land, slope angle, etc.), tunnel, road type (straight road, curved road, intersection, Highway, etc.), speed limit, etc., surrounding environment information including weather related information (rainy weather information, snowfall information, snowfall information, etc.) at the time the vehicle is driving may be collected. The unit 142 may collect surrounding environment information from one or more servers (meteorological office server, electronic map server, etc.) or a navigation system providing information related to the driving environment of the vehicle.

이동 객체 정보 분석부(143)는 영상 획득부(110)에 의해 획득된 영상들을 처리하여 제1 및 제2 이동 객체의 유형(대형 자동차, 중형 자동차, 경사, 트럭, 버스, 오토바이, 사람 등), 제1 및 제2 이동 객체의 추정 중량 또는 차량 종류(예를 들어, 제조사, 차량 모델 등)를 포함하는 이동 객체 관련 정보를 분석할 수 있다. 이동 객체 정보 분석부(143)는 영상에서 이동 객체의 크기, 제조사 심볼 등을 추출함으로서 이동 객체 관련 정보를 분석할 수 있다.The moving object information analyzer 143 processes the images acquired by the image acquisition unit 110 to determine the types of first and second moving objects (large car, mid-size car, slope, truck, bus, motorcycle, person, etc.) , moving object-related information including estimated weights of the first and second moving objects or vehicle types (eg, manufacturer, vehicle model, etc.) may be analyzed. The moving object information analyzer 143 may analyze information related to the moving object by extracting the size, manufacturer's symbol, etc. of the moving object from the image.

주변 환경 정보와 이동 객체 관련 정보는 차량의 주행 중에 이동 객체들의 충돌 위험이 발생되기 수초 전, 또는 수십초 이상 전에 미리 분석될 수 있다. 따라서 실제 이동 객체들의 충돌 위험 발생 시점에서는 기존에 분석된 주변 환경 정보와 이동 객체 관련 정보와 함께, 충돌 위험 상황 시의 움직임 벡터 프로파일만 추가로 인공신경망(150)에 입력되는 순간과 거의 동시에 혹은 그로부터 수초 이내에 사고 위험 예측 결과가 인공신경망(150)으로부터 실시간으로 출력될 수 있다.The surrounding environment information and information related to the moving object may be analyzed in advance several seconds or more than tens of seconds before a risk of collision between the moving objects occurs while the vehicle is driving. Therefore, at the time of occurrence of risk of collision of real moving objects, the motion vector profile in the risk of collision situation is added to the artificial neural network 150 along with the previously analyzed surrounding environment information and information related to the moving object. Accident risk prediction results may be output in real time from the artificial neural network 150 within a few seconds.

방향 프로파일 산출부(144)는 영상 획득부(110)에 의해 획득된 영상들을 처리하여 제1 이동 객체의 시간에 따른 방향 정보를 나타내는 제1 방향 프로파일, 및 제2 이동 객체의 시간에 따른 방향 정보를 나타내는 제2 방향 프로파일을 산출할 수 있다.The direction profile calculation unit 144 processes the images acquired by the image acquisition unit 110 to obtain a first direction profile representing direction information over time of the first moving object and direction information over time of the second moving object. A second direction profile representing can be calculated.

충돌 위험 정보 예측부(145)는 움직임 벡터 산출부(130)에 의해 산출된 제1 및 제2 이동 객체의 움직임 벡터 프로파일, 차분 움직임 벡터 산출부(141)에 의해 산출된 차분 움직임 벡터 프로파일, 주변 환경 정보 수집부(142)에 의해 수집된 주변 환경 정보, 이동 객체 정보 분석부(143)에 의해 분석된 이동 객체 관련 정보, 방향 프로파일 산출부(144)에 의해 산출된 제1 및 제2 이동 객체의 방향 프로파일 기반으로, 인공신경망(150)에 의해 제1 이동 객체와 제2 이동 객체의 충돌 확률, 충돌 예상 위치, 및 충돌 후 이동 경로를 포함하는 충돌 위험 정보를 예측할 수 있다.The collision risk information prediction unit 145 includes the motion vector profiles of the first and second moving objects calculated by the motion vector calculator 130, the differential motion vector profiles calculated by the differential motion vector calculator 141, and the surroundings. Surrounding environment information collected by the environment information collection unit 142, moving object related information analyzed by the moving object information analysis unit 143, and first and second moving objects calculated by the direction profile calculation unit 144 Based on the direction profile of the artificial neural network 150, collision risk information including a collision probability between the first moving object and the second moving object, an expected collision position, and a movement path after collision may be predicted.

또한, 충돌 위험 정보 예측부(145)는 예측된 충돌 위험 정보(충돌 사고 발생 확률) 및 차량의 주행 정보를 기반으로, 차량의 예측 제동 거리를 고려하여 차량 관련 정보, 및 차량의 방향 전환 관련 정보(차선 변경 여부 및 변경할 차선)를 포함하여, 차량의 사고 예방을 위한 대응 조치를 결정할 수 있다.In addition, the collision risk information prediction unit 145 considers the predicted braking distance of the vehicle based on the predicted collision risk information (probability of occurrence of a collision) and the driving information of the vehicle, and provides vehicle-related information and vehicle direction change-related information. It is possible to determine countermeasures for vehicle accident prevention, including whether to change lanes and which lanes to change.

본 발명의 실시예에 따른 차량 주행 위험 예측 시스템은 차량 주행 중에 차량 충돌 시뮬레이션을 위한 연산을 수행하지 않고, 영상 처리를 통해 빠르게 수집할 수 있는 정보들만을 기반으로 인공신경망에 의해 고속으로 충돌 확률, 충돌 예상 위치, 충돌 후 이동 경로를 예측할 수 있으며, 차량의 주행 중에 실시간으로 사고 위험을 예측할 수 있다.The vehicle driving risk prediction system according to an embodiment of the present invention does not perform calculations for vehicle collision simulation while driving, and based on only information that can be quickly collected through image processing, collision probability, collision probability, It is possible to predict the predicted location of the collision, the movement path after the collision, and predict the risk of an accident in real time while driving the vehicle.

도 3은 본 발명의 실시예에 따른 차량 주행 위험 예측 방법의 순서도이다. 도 4는 본 발명의 실시예에 따른 차량 주행 위험 예측 방법을 설명하기 위한 개념도이다. 도 1 내지 도 4를 참조하면, 본 발명의 실시예에 따른 차량 주행 위험 예측 방법은 차량 주행 위험 예측을 위해 먼저 영상 획득부(110)에 의해, 주행 중인 차량(10)의 주위에 위치하는 객체들(예를 들어, 자동차, 사람, 주변 구조물 등)에 대해 순차적으로 영상들을 획득할 수 있다(S110).3 is a flowchart of a vehicle driving risk prediction method according to an embodiment of the present invention. 4 is a conceptual diagram for explaining a vehicle driving risk prediction method according to an embodiment of the present invention. 1 to 4 , in the vehicle driving risk prediction method according to an embodiment of the present invention, an object located around the vehicle 10 while driving is first performed by the image acquisition unit 110 to predict the vehicle driving risk. Images (eg, cars, people, surrounding structures, etc.) may be sequentially obtained (S110).

이동 객체 추출부(120)는 영상 획득부(110)에 의해 획득된 영상들을 분석하여 주변 자동차, 사람 등의 이동 객체들(20, 30)을 추출할 수 있다(S120). 일 실시예에서, 이동 객체 추출부(120)는 딥러닝(deep learning) 알고리즘 또는 영상 객체 추출 알고리즘을 이용하여 이동 객체들(20, 30)을 추출할 수 있다.The moving object extractor 120 may analyze the images acquired by the image acquirer 110 and extract moving objects 20 and 30 such as nearby cars and people (S120). In one embodiment, the moving object extractor 120 may extract the moving objects 20 and 30 using a deep learning algorithm or an image object extraction algorithm.

움직임 벡터 산출부(130)는 이동 객체 추출부(120)에 의해 추출된 이동 객체들(20, 30)에 대해 각각 시간에 따른 움직임 벡터(24, 34)에 해당하는 움직임 벡터 프로파일을 산출할 수 있다(S130). 움직임 벡터(24, 34)는 차량 주변에서 이동하는 이동 객체(20, 30)의 이동 방향 정보, 및 이동 속도 정보를 포함할 수 있다.The motion vector calculator 130 may calculate motion vector profiles corresponding to motion vectors 24 and 34 according to time, respectively, for the moving objects 20 and 30 extracted by the moving object extractor 120. Yes (S130). The motion vectors 24 and 34 may include movement direction information and movement speed information of the moving objects 20 and 30 moving around the vehicle.

실시예에서, 이동 객체들(20, 30)의 움직임 벡터(24, 34)는 차량(10)에서 측정한 이동 객체들(20, 30)의 움직임 벡터(22, 32)들에서 각각 차량(10)의 움직임 벡터(12)를 차 연산한 벡터일 수 있다. 차량(10)의 움직임 벡터(12)는 차량의 이동 방향, 이동 속도를 기반으로 산출된 벡터일 수 있으며, 이는 차량(10)의 각종 센서나 영상 센서 등에 의해 수집될 수 있다.In the embodiment, the motion vectors 24 and 34 of the moving objects 20 and 30 are the motion vectors 22 and 32 of the moving objects 20 and 30 measured by the vehicle 10, respectively. ) may be a vector obtained by subtracting the motion vector 12 of The motion vector 12 of the vehicle 10 may be a vector calculated based on the moving direction and speed of the vehicle, and may be collected by various sensors or image sensors of the vehicle 10 .

사고 위험 예측부(140)는 주행 중인 차량의 주위에 위치하는 이동 객체들에 대해 산출된 움직임 벡터 프로파일을 기반으로 인공신경망(artificial neural network)(150)에 의해, 이동 객체들 간의 충돌 사고에 따른 차량의 사고 위험(2차 사고 위험), 및 충돌 예상 위치(40)를 예측할 수 있다(S140).The accident risk prediction unit 140 is configured according to a collision accident between moving objects by an artificial neural network 150 based on motion vector profiles calculated for moving objects located around a vehicle in motion. The accident risk of the vehicle (secondary accident risk) and the predicted collision position 40 may be predicted (S140).

인공신경망 학습부(160)는 학습 데이터를 이용하여 차량의 사고 위험 예측을 위한 인공신경망을 학습할 수 있다. 인공신경망(150)의 학습을 위한 데이터는 예를 들어, 차량들 간의 충돌 시뮬레이션, 실제 발생된 교통 사고에 해당하는 데이터를 포함할 수 있다.The artificial neural network learning unit 160 may learn an artificial neural network for predicting an accident risk of a vehicle using learning data. Data for learning of the artificial neural network 150 may include, for example, data corresponding to a simulation of a collision between vehicles and an actual traffic accident.

위험 알림부(170)는 사고 위험 예측부(140)에 의해 사고 위험 예측시, 사고 위험을 차량의 운전자에게 알릴 수 있다(S150). 위험 알림부(170)는 경고음, 경고음성, 경고등을 통해 사고 위험을 알리거나, 차량 내비게이션, 디스플레이 화면 등을 통해 사고 위험을 알릴 수 있다.The danger notification unit 170 may inform the driver of the accident risk when the accident risk is predicted by the accident risk prediction unit 140 (S150). The danger notification unit 170 may notify the danger of an accident through a warning sound, a warning voice, or a warning light, or through a vehicle navigation system or a display screen.

도 5는 본 발명의 일 실시예에 따라 도 3의 단계 S140을 나타낸 순서도이다. 도 1 내지 도 5를 참조하면, 차분 움직임 벡터 산출부(141)는 차량 주변에서 이동하고 있는 이동 객체들 중 제1 이동 객체에 대해 산출된 제1 움직임 벡터 프로파일과, 이동 객체들 중 제2 이동 객체에 대해 산출된 제2 움직임 벡터 프로파일 간의 차이값인 차분 움직임 벡터 프로파일을 산출할 수 있다(S141).5 is a flowchart illustrating step S140 of FIG. 3 according to an embodiment of the present invention. Referring to FIGS. 1 to 5 , the differential motion vector calculation unit 141 calculates a first motion vector profile calculated for a first moving object among moving objects moving around the vehicle and a second movement among the moving objects. A differential motion vector profile, which is a difference value between the second motion vector profiles calculated for the object, may be calculated (S141).

충돌 위험 정보 예측부(145)는 움직임 벡터 산출부(130)에 의해 산출된 제1 및 제2 이동 객체의 움직임 벡터 프로파일, 차분 움직임 벡터 산출부(141)에 의해 산출된 차분 움직임 벡터 프로파일을 기반으로, 인공신경망(150)에 의해 제1 이동 객체(20)와 제2 이동 객체(30)의 충돌 확률, 충돌 예상 위치(40), 및 충돌 후 이동 경로를 포함하는 충돌 위험 정보를 예측할 수 있다(S142).The collision risk information prediction unit 145 is based on the motion vector profiles of the first and second moving objects calculated by the motion vector calculator 130 and the differential motion vector profiles calculated by the differential motion vector calculator 141. As a result, it is possible to predict collision risk information including the probability of collision between the first moving object 20 and the second moving object 30, the expected collision position 40, and the moving path after the collision by the artificial neural network 150. (S142).

충돌 위험 정보 예측부(145)는 예측된 충돌 위험 정보, 및 차량의 주행 정보를 기반으로, 차량의 제동 제어 관련 정보, 및 차량의 방향 전환 관련 정보(차선 변경 여부 및 변경할 차선)를 포함하여, 차량의 사고 예방을 위한 대응 조치를 결정할 수 있다(S143).The collision risk information prediction unit 145 includes information related to braking control of the vehicle and information related to direction change of the vehicle (whether lane is changed and which lane to change) based on the predicted collision risk information and driving information of the vehicle, A countermeasure for preventing a vehicle accident may be determined (S143).

도 6은 본 발명의 다른 실시예에 따라 도 3의 단계 S140을 나타낸 순서도이다. 도 7은 도 6의 단계 S147을 설명하기 위한 개념도이다. 도 1 내지 도 7을 참조하면, 주변 환경 정보 수집부(142)는 차량이 주행 중인 도로와 관련된 정보(예를 들어, 도로의 경사(오르막길, 내리막길, 평지, 경사각 등), 터널, 도로 유형(직선 도로, 곡선 도로, 교차로, 고속도로 등), 제한 속도 등, 차량이 주행 중인 시점에서 차량이 주행 중인 시점의 날씨와 관련된 정보(우천 정보, 강설 정보, 적설량 등)를 포함하는 주변 환경 정보를 수집할 수 있다(S144).6 is a flowchart illustrating step S140 of FIG. 3 according to another embodiment of the present invention. FIG. 7 is a conceptual diagram for explaining step S147 of FIG. 6 . 1 to 7 , the surrounding environment information collection unit 142 provides information related to the road on which the vehicle is driving (eg, road slope (uphill, downhill, flat, slope angle, etc.), tunnel, and road type). (straight roads, curved roads, intersections, highways, etc.), speed limit, etc., and surrounding environment information including information related to the weather (rain information, snowfall information, snowfall, etc.) It can be collected (S144).

이동 객체 정보 분석부(143)는 영상 획득부(110)에 의해 획득된 영상들을 처리하여 제1 및 제2 이동 객체의 유형(대형 자동차, 중형 자동차, 경사, 트럭, 버스, 오토바이, 사람 등), 제1 및 제2 이동 객체의 추정 중량 또는 차량 종류(예를 들어, 제조사, 차량 모델 등)를 포함하는 이동 객체 관련 정보를 분석할 수 있다(S145).The moving object information analyzer 143 processes the images acquired by the image acquisition unit 110 to determine the types of first and second moving objects (large car, mid-size car, slope, truck, bus, motorcycle, person, etc.) , moving object related information including estimated weights of the first and second moving objects or vehicle types (eg, manufacturer, vehicle model, etc.) may be analyzed (S145).

방향 프로파일 산출부(144)는 영상 획득부(110)에 의해 획득된 영상들을 처리하여 제1 이동 객체의 시간에 따른 방향 정보를 나타내는 제1 방향 프로파일, 및 제2 이동 객체의 시간에 따른 방향 정보를 나타내는 제2 방향 프로파일을 산출할 수 있다(S146).The direction profile calculation unit 144 processes the images acquired by the image acquisition unit 110 to obtain a first direction profile representing direction information over time of the first moving object and direction information over time of the second moving object. It is possible to calculate a second direction profile representing (S146).

충돌 위험 정보 예측부(145)는 움직임 벡터 산출부(130)에 의해 산출된 제1 및 제2 이동 객체의 움직임 벡터 프로파일, 차분 움직임 벡터 산출부(141)에 의해 산출된 차분 움직임 벡터 프로파일, 주변 환경 정보 수집부(142)에 의해 수집된 주변 환경 정보, 이동 객체 정보 분석부(143)에 의해 분석된 이동 객체 관련 정보, 방향 프로파일 산출부(144)에 의해 산출된 제1 및 제2 이동 객체의 방향 프로파일 기반으로, 인공신경망(150)에 의해 제1 이동 객체와 제2 이동 객체의 충돌 확률, 충돌 예상 위치, 및 충돌 후 이동 경로를 포함하는 충돌 위험 정보를 예측할 수 있다(S147).The collision risk information prediction unit 145 includes the motion vector profiles of the first and second moving objects calculated by the motion vector calculator 130, the differential motion vector profiles calculated by the differential motion vector calculator 141, and the surroundings. Surrounding environment information collected by the environment information collection unit 142, moving object related information analyzed by the moving object information analysis unit 143, and first and second moving objects calculated by the direction profile calculation unit 144 Based on the direction profile of the artificial neural network 150, collision risk information including a collision probability between the first moving object and the second moving object, an expected collision position, and a moving path after the collision may be predicted (S147).

상술한 바와 같은 본 발명의 실시예에 따른 차량 주행 위험 예측 시스템 및 방법에 의하면, 차량의 주행 중에 실시간으로 차량 주변의 장애물들(주변 자동차 또는 사람 등) 간의 충돌 사고 위험을 빠르게 예측할 수 있으며, 주변 장애물들 간의 충돌 사고에 이은 차량의 2차 사고를 효과적으로 예방할 수 있다.According to the vehicle driving risk prediction system and method according to an embodiment of the present invention as described above, it is possible to quickly predict the risk of a collision accident between obstacles (surrounding cars or people, etc.) around the vehicle in real time while the vehicle is driving. A secondary accident of a vehicle following a collision between obstacles can be effectively prevented.

이상에서 설명된 실시예들의 구성 중 적어도 일부는 하드웨어 구성요소, 소프트웨어 구성요소, 및/ 또는 하드웨어 구성요소 및 소프트웨어 구성요소의 조합으로 구현될 수 있다. 예를 들어, 실시예들에서 설명된 장치, 방법 및 구성요소는, 예를 들어, 프로세서, 콘트롤러, ALU(Arithmetic Logic Unit), 디지털 신호 프로세서(Digital Signal Processor), 마이크로컴퓨터, FPGA(Field Programmable Gate Array), PLU(Programmable Logic Unit), 마이크로프로세서, 또는 명령(instruction)을 실행하고 응답할 수 있는 다른 어떠한 장치와 같이, 하나 이상의 범용 컴퓨터 또는 특수 목적 컴퓨터를 이용하여 구현될 수 있다.At least some of the configurations of the embodiments described above may be implemented as hardware components, software components, and/or a combination of hardware components and software components. For example, the devices, methods and components described in the embodiments may include, for example, a processor, a controller, an arithmetic logic unit (ALU), a digital signal processor, a microcomputer, a field programmable gate (FPGA) array), programmable logic units (PLUs), microprocessors, or any other device capable of executing and responding to instructions.

처리 장치는 운영 체제 및 상기 운영 체제 상에서 수행되는 하나 이상의 소프트웨어 애플리케이션을 수행할 수 있다. 또한, 처리 장치는 소프트웨어의 실행에 응답하여, 데이터를 접근, 저장, 조작, 처리 및 생성할 수도 있다. 이해의 편의를 위하여, 처리 장치는 하나가 사용되는 것으로 설명된 경우도 있지만, 해당 기술 분야에서 통상의 지식을 가진 자는 처리 장치가 복수 개의 처리 요소(Processing Element) 및/또는 복수 유형의 처리요소를 포함할 수 있음을 이해할 것이다.A processing device may run an operating system and one or more software applications running on the operating system. A processing device may also access, store, manipulate, process, and generate data in response to execution of software. For convenience of understanding, there are cases in which one processing device is used, but those skilled in the art know that a processing device includes a plurality of processing elements and/or a plurality of types of processing elements. It will be understood that it can include

예를 들어, 처리 장치는 복수 개의 프로세서 또는 하나의 프로세서 및 하나의 콘트롤러를 포함할 수 있다. 또한, 병렬 프로세서(Parallel Processor) 와 같은, 다른 처리 구성(Processing configuration)도 가능하다. 소프트웨어는 컴퓨터 프로그램(Computer Program), 코드(code), 명령(instruction), 또는 이들 중 하나 이상의 조합을 포함할 수 있으며, 원하는 대로 동작하도록 처리 장치를 구성하거나 독립적으로 또는 결합적으로(collectively) 처리 장치를 명령할 수 있다.For example, a processing device may include a plurality of processors or a processor and a controller. Also, other processing configurations are possible, such as a parallel processor. Software may include a computer program, code, instructions, or a combination of one or more of the foregoing, which configures a processing device to operate as desired or processes independently or collectively. The device can be commanded.

소프트웨어 및/ 또는 데이터는, 처리 장치에 의하여 해석되거나 처리 장치에 명령 또는 데이터를 제공하기 위하여, 어떤 유형의 기계, 구성요소(component), 물리적 장치, 가상 장치(virtual equipment), 컴퓨터 저장 매체 또는 장치, 또는 전송되는 신호파(signal wave)에 영구적으로, 또는 일시적으로 구체화(embody) 될 수 있다. 소프트웨어는 네트워크로 연결된 컴퓨터 시스템 상에 분산되어서, 분산된 방법으로 저장되거나 실행될 수도 있다. 소프트웨어 및 데이터는 하나 이상의 컴퓨터 판독 가능 기록 매체에 저장될 수 있다.Software and/or data may be any tangible machine, component, physical device, virtual equipment, computer storage medium or device, intended to be interpreted by or provide instructions or data to a processing device. , or may be permanently or temporarily embodied in a transmitted signal wave. Software may be distributed on networked computer systems and stored or executed in a distributed manner. Software and data may be stored on one or more computer readable media.

실시예에 따른 방법은 다양한 컴퓨터 수단을 통하여 수행될 수 있는 프로그램 명령 형태로 구현되어 컴퓨터 판독 가능 매체에 기록될 수 있다. 컴퓨터 판독 가능 매체는 프로그램 명령, 데이터 파일, 데이터 구조 등을 단독으로 또는 조합하여 포함할 수 있다. 매체에 기록되는 프로그램 명령은 실시예를 위하여 특별히 설계되고 구성된 것들이거나 컴퓨터 소프트웨어 당업자에게 공지되어 사용 가능한 것일 수도 있다.The method according to the embodiment may be implemented in the form of program instructions that can be executed through various computer means and recorded on a computer readable medium. Computer readable media may include program instructions, data files, data structures, etc. alone or in combination. Program commands recorded on the medium may be specially designed and configured for the embodiment or may be known and usable to those skilled in computer software.

컴퓨터 판독 가능 기록 매체의 예에는 하드 디스크, 플로피 디스크 및 자기 테이프와 같은 자기 매체(magnetic media), CDROM, DVD와 같은 광기록 매체(optical media) 및 롬(ROM), 램(RAM), 플래시 메모리 등과 같은 프로그램 명령을 저장하고 수행하도록 특별히 구성된 하드웨어 장치가 포함된다. 프로그램 명령의 예에는 컴파일러에 의해 만들어지는 것과 같은 기계어 코드뿐만 아니라 인터프리터 등을 사용해서 컴퓨터에 의해서 실행될 수 있는 고급 언어 코드를 포함한다. 상기된 하드웨어 장치는 실시예의 동작을 수행하기 위해 하나 이상의 소프트웨어 모듈로서 작동하도록 구성될 수 있으며, 그 역도 마찬가지이다.Examples of computer-readable recording media include magnetic media such as hard disks, floppy disks and magnetic tapes, optical media such as CDROMs and DVDs, and ROMs, RAMs, and flash memories. hardware devices specially configured to store and execute program instructions, such as; Examples of program instructions include high-level language codes that can be executed by a computer using an interpreter, as well as machine language codes such as those produced by a compiler. The hardware devices described above may be configured to operate as one or more software modules to perform the operations of the embodiments, and vice versa.

이상과 같이 실시예들이 비록 한정된 실시예와 도면에 의해 설명되었으나, 해당 기술분야에서 통상의 지식을 가진 자라면 상기의 기재로부터 다양한 수정 및 변형이 가능하다. 예를 들어, 설명된 기술들이 설명된 방법과 다른 순서로 수행되거나, 및/또는 설명된 시스템, 구조, 장치, 회로 등의 구성요소들이 설명된 방법과 다른 형태로 결합 또는 조합되거나, 다른 구성요소 또는 균등물에 의하여 대치되거나 치환되더라도 적절한 결과가 달성될 수 있다. 그러므로, 다른 구현들, 다른 실시예들 및 청구범위와 균등한 것들도 후술하는 청구범위의 범위에 속한다.As described above, although the embodiments have been described with limited examples and drawings, those skilled in the art can make various modifications and variations from the above description. For example, the described techniques may be performed in an order different from the method described, and/or components of the described system, structure, device, circuit, etc. may be combined or combined in a different form than the method described, or other components may be used. Or even if it is replaced or substituted by equivalents, appropriate results can be achieved. Therefore, other implementations, other embodiments, and equivalents of the claims are within the scope of the following claims.

10: 차량
20, 30: 이동 객체
100: 차량 주행 위험 예측 시스템
110: 영상 획득부
120: 이동 객체 추출부
130: 움직임 벡터 산출부
140: 사고 위험 예측부
141: 차분 움직임 벡터 산출부
142: 주변 환경 정보 수집부
143: 이동 객체 정보 분석부
144: 방향 프로파일 산출부
145: 충돌 위험 정보 예측부
150: 인공신경망
160: 인공신경망 학습부
170: 위험 알림부
10: vehicle
20, 30: moving object
100: vehicle driving risk prediction system
110: image acquisition unit
120: moving object extraction unit
130: motion vector calculator
140: accident risk prediction unit
141: differential motion vector calculator
142: surrounding environment information collection unit
143: moving object information analysis unit
144: direction profile calculator
145: collision risk information prediction unit
150: artificial neural network
160: artificial neural network learning unit
170: danger notification unit

Claims (7)

주행 중인 차량의 주행 위험을 예측하기 위한 차량 주행 위험 예측 시스템으로서,
상기 차량의 주위에 위치하는 객체들에 대해 순차적으로 영상들을 획득하도록 구성되는 영상 획득부;
상기 영상들을 분석하여 이동 객체들을 추출하도록 구성되는 이동 객체 추출부;
상기 이동 객체들에 대해 각각 시간에 따른 움직임 벡터에 해당하는 움직임 벡터 프로파일을 산출하도록 구성되는 움직임 벡터 산출부;
상기 이동 객체들에 대해 산출된 움직임 벡터 프로파일을 기반으로 인공신경망에 의해 상기 차량의 사고 위험을 예측하도록 구성되는 사고 위험 예측부; 및
사고 위험 예측시 사고 위험을 상기 차량의 운전자에게 알리도록 구성되는 위험 알림부를 포함하고,
상기 사고 위험 예측부는:
상기 이동 객체들 중 제1 이동 객체에 대해 산출된 제1 움직임 벡터 프로파일과, 상기 이동 객체들 중 제2 이동 객체에 대해 산출된 제2 움직임 벡터 프로파일 간의 차이값인 차분 움직임 벡터 프로파일을 산출하도록 구성되는 차분 움직임 벡터 산출부; 및
상기 제1 움직임 벡터 프로파일, 상기 제2 움직임 벡터 프로파일, 및 상기 차분 움직임 벡터 프로파일을 기반으로, 상기 인공신경망에 의해 상기 제1 이동 객체와 상기 제2 이동 객체의 충돌 확률, 충돌 예상 위치, 및 충돌 후 이동 경로를 포함하는 충돌 위험 정보를 예측하고; 예측된 상기 충돌 위험 정보, 및 상기 차량의 주행 정보를 기반으로, 상기 차량의 제동 제어 관련 정보, 및 상기 차량의 방향 전환 관련 정보를 포함하여 상기 차량의 사고 예방을 위한 대응 조치를 결정하도록 구성되는 충돌 위험 정보 예측부를 포함하고,
상기 사고 위험 예측부는:
상기 차량이 주행 중인 도로와 관련된 정보, 및 상기 차량이 주행 중인 시점에서 상기 차량이 주행 중인 시점의 날씨와 관련된 정보를 포함하는 주변 환경 정보를 수집하도록 구성되는 주변 환경 정보 수집부;
상기 영상들을 처리하여 상기 제1 이동 객체의 유형, 상기 제2 이동 객체의 유형, 및 상기 제1 이동 객체 및 상기 제2 이동 객체의 추정 중량 또는 차량 종류를 포함하는 이동 객체 관련 정보를 분석하도록 구성되는 이동 객체 정보 분석부; 및
상기 영상들을 처리하여 상기 제1 이동 객체의 시간에 따른 방향 정보를 나타내는 제1 방향 프로파일, 및 상기 제2 이동 객체의 시간에 따른 방향 정보를 나타내는 제2 방향 프로파일을 산출하도록 구성되는 방향 프로파일 산출부를 더 포함하고,
상기 충돌 위험 정보 예측부는 상기 주변 환경 정보, 상기 이동 객체 관련 정보, 상기 제1 방향 프로파일 및 상기 제2 방향 프로파일을 기반으로, 상기 인공신경망에 의해 상기 충돌 위험 정보를 예측하도록 구성되고,
상기 주변 환경 정보 수집부는 상기 차량이 주행 중인 도로와 관련된 정보 - 상기 도로와 관련된 정보는 오르막길, 내리막길 또는 평지 여부와 경사각을 포함하는 경사 정보를 포함함 -; 터널 여부; 직선 도로, 곡선 도로, 교차로 또는 고속도로에 해당하는 도로 유형; 도로 제한 속도; 및 상기 차량이 주행 중인 시점의 날씨와 관련된 정보 - 상기 날씨와 관련된 정보는 우천 정보, 강설 정보 또는 적설량을 포함함 -;를 포함하는 상기 주변 환경 정보를 수집하도록 구성되고,
상기 이동 객체 정보 분석부는 상기 영상 획득부에 의해 획득된 영상들에서 이동 객체의 크기 및 제조사 심볼을 추출하여 처리함으로써, 상기 제1 이동 객체 및 상기 제2 이동 객체의 유형 - 상기 제1 이동 객체 및 상기 제2 이동 객체의 유형은 대형 자동차, 중형 자동차, 경사, 트럭, 버스, 오토바이 및 사람을 포함함 -; 상기 제1 이동 객체 및 상기 제2 이동 객체의 추정 중량; 상기 제1 이동 객체 및 상기 제2 이동 객체의 차량 종류 - 상기 차량 종류는 상기 제1 이동 객체 및 상기 제2 이동 객체의 제조사 및 차량 모델을 포함함 -;를 포함하는 상기 이동 객체 관련 정보를 분석하도록 구성되고,
상기 주변 환경 정보와 상기 이동 객체 관련 정보는 상기 차량의 주행 중에 상기 이동 객체들의 충돌 위험이 발생되기 전에 미리 분석되어 상기 이동 객체들의 충돌 위험 발생 시점에서 미리 분석된 주변 환경 정보 및 이동 객체 관련 정보와 함께, 충돌 위험 상황 시의 움직임 벡터 프로파일이 추가로 상기 인공신경망에 입력되어 사고 위험 예측 결과가 상기 인공신경망으로부터 실시간으로 출력되고,
상기 충돌 위험 정보 예측부는 예측된 충돌 위험 정보 및 차량의 주행 정보를 기반으로, 차량의 예측 제동 거리를 고려하여 차량의 사고 예방을 위한 대응 조치 - 상기 대응 조치는 차량의 제동 제어 관련 정보, 그리고 차선 변경 여부와 변경할 차선을 포함하는 차량의 방향 전환 관련 정보를 포함함 -를 결정하도록 구성되는, 차량 주행 위험 예측 시스템.
A vehicle driving risk prediction system for predicting the driving risk of a vehicle in motion,
an image acquisition unit configured to sequentially acquire images of objects located around the vehicle;
a moving object extraction unit configured to extract moving objects by analyzing the images;
a motion vector calculation unit configured to calculate motion vector profiles corresponding to motion vectors according to time for each of the moving objects;
an accident risk prediction unit configured to predict an accident risk of the vehicle by an artificial neural network based on motion vector profiles calculated for the moving objects; and
Including a risk notification unit configured to notify the driver of the vehicle of the risk of an accident when predicting the risk of an accident;
The accident risk prediction unit:
A differential motion vector profile that is a difference value between a first motion vector profile calculated for a first one of the moving objects and a second motion vector profile calculated for a second one among the moving objects is configured to be calculated. a differential motion vector calculation unit that is; and
Based on the first motion vector profile, the second motion vector profile, and the differential motion vector profile, a collision probability between the first moving object and the second moving object, a predicted collision position, and a collision by the artificial neural network Predicting collision risk information including a post-movement path; Based on the predicted collision risk information and the driving information of the vehicle, determining a countermeasure for preventing an accident of the vehicle, including braking control-related information of the vehicle and direction change-related information of the vehicle Including a collision risk information prediction unit,
The accident risk prediction unit:
a surrounding environment information collecting unit configured to collect surrounding environment information including information related to a road on which the vehicle is driving and information related to weather at a time when the vehicle is driving;
To process the images to analyze moving object related information including the type of the first moving object, the type of the second moving object, and the estimated weight or vehicle type of the first and second moving objects a moving object information analysis unit; and
A direction profile calculator configured to process the images to calculate a first direction profile representing direction information of the first moving object over time and a second direction profile representing direction information of the second moving object over time. include more,
The collision risk information prediction unit is configured to predict the collision risk information by the artificial neural network based on the surrounding environment information, the moving object related information, the first direction profile, and the second direction profile,
The surrounding environment information collection unit may include information related to a road on which the vehicle is driving, the information related to the road including whether the road is uphill, downhill, or flat and inclination information including an angle of inclination; tunnel or not; road types corresponding to straight roads, curved roads, intersections or highways; road speed limit; and information related to weather at the time the vehicle is driving, wherein the information related to weather includes rain information, snowfall information, or snowfall information.
The moving object information analyzer extracts and processes the size and manufacturer symbol of the moving object from the images acquired by the image acquisition unit, so that the types of the first moving object and the second moving object - the first moving object and the type of the second moving object includes a large car, a medium car, a ramp, a truck, a bus, a motorcycle, and a person; estimated weights of the first moving object and the second moving object; Analyzing the information related to the moving object including vehicle types of the first moving object and the second moving object - the vehicle types include manufacturers and vehicle models of the first moving object and the second moving object - configured to
The surrounding environment information and the moving object-related information are pre-analyzed before the collision risk of the moving objects occurs while the vehicle is driving, and the surrounding environment information and the moving object-related information analyzed in advance at the time of occurrence of the collision risk of the moving objects Together, a motion vector profile in a collision risk situation is additionally input to the artificial neural network, and an accident risk prediction result is output in real time from the artificial neural network,
The collision risk information prediction unit considers the predicted braking distance of the vehicle based on the predicted collision risk information and the driving information of the vehicle, and takes countermeasures for preventing accidents of the vehicle - the countermeasures include information related to braking control of the vehicle and lane A vehicle driving risk prediction system, configured to determine whether to change and information related to turning of the vehicle including a lane to change.
삭제delete 삭제delete 주행 중인 차량의 주행 위험을 예측하기 위한 차량 주행 위험 예측 방법으로서,
영상 획득부에 의해, 상기 차량의 주위에 위치하는 객체들에 대해 순차적으로 영상들을 획득하는 단계;
이동 객체 추출부에 의해, 상기 영상들을 분석하여 이동 객체들을 추출하는 단계;
움직임 벡터 산출부에 의해, 상기 이동 객체들에 대해 각각 시간에 따른 움직임 벡터에 해당하는 움직임 벡터 프로파일을 산출하는 단계;
사고 위험 예측부에 의해, 상기 이동 객체들에 대해 산출된 움직임 벡터 프로파일을 기반으로 인공신경망에 의해 상기 차량의 사고 위험을 예측하는 단계; 및
위험 알림부에 의해, 사고 위험 예측시 사고 위험을 상기 차량의 운전자에게 알리는 단계를 포함하고,
상기 사고 위험을 예측하는 단계는:
차분 움직임 벡터 산출부에 의해, 상기 이동 객체들 중 제1 이동 객체에 대해 산출된 제1 움직임 벡터 프로파일과, 상기 이동 객체들 중 제2 이동 객체에 대해 산출된 제2 움직임 벡터 프로파일 간의 차이값인 차분 움직임 벡터 프로파일을 산출하는 단계;
충돌 위험 정보 예측부에 의해, 상기 제1 움직임 벡터 프로파일, 상기 제2 움직임 벡터 프로파일, 및 상기 차분 움직임 벡터 프로파일을 기반으로, 상기 인공신경망에 의해 상기 제1 이동 객체와 상기 제2 이동 객체의 충돌 확률, 충돌 예상 위치, 및 충돌 후 이동 경로를 포함하는 충돌 위험 정보를 예측하는 단계; 및
상기 충돌 위험 정보 예측부에 의해, 예측된 상기 충돌 위험 정보, 및 상기 차량의 주행 정보를 기반으로, 상기 차량의 제동 제어 관련 정보, 및 상기 차량의 방향 전환 관련 정보를 포함하여 상기 차량의 사고 예방을 위한 대응 조치를 결정하는 단계를 포함하고,
상기 사고 위험을 예측하는 단계는:
주변 환경 정보 수집부에 의해, 상기 차량이 주행 중인 도로와 관련된 정보, 및 상기 차량이 주행 중인 시점에서 상기 차량이 주행 중인 시점의 날씨와 관련된 정보를 포함하는 주변 환경 정보를 수집하는 단계;
이동 객체 정보 분석부에 의해, 상기 영상들을 처리하여 상기 제1 이동 객체의 유형, 상기 제2 이동 객체의 유형, 및 상기 제1 이동 객체 및 상기 제2 이동 객체의 추정 중량 또는 차량 종류를 포함하는 이동 객체 관련 정보를 분석하는 단계;
방향 프로파일 산출부에 의해, 상기 영상들을 처리하여 상기 제1 이동 객체의 시간에 따른 방향 정보를 나타내는 제1 방향 프로파일, 및 상기 제2 이동 객체의 시간에 따른 방향 정보를 나타내는 제2 방향 프로파일을 산출하는 단계; 및
상기 충돌 위험 정보 예측부에 의해, 상기 주변 환경 정보, 상기 이동 객체 관련 정보, 상기 제1 방향 프로파일 및 상기 제2 방향 프로파일을 기반으로, 상기 인공신경망에 의해 상기 충돌 위험 정보를 예측하는 단계를 포함하고,
상기 주변 환경 정보를 수집하는 단계는 상기 차량이 주행 중인 도로와 관련된 정보 - 상기 도로와 관련된 정보는 오르막길, 내리막길 또는 평지 여부와 경사각을 포함하는 경사 정보를 포함함 -; 터널 여부; 직선 도로, 곡선 도로, 교차로 또는 고속도로에 해당하는 도로 유형; 도로 제한 속도; 상기 차량이 주행 중인 시점의 날씨와 관련된 정보 - 상기 날씨와 관련된 정보는 우천 정보, 강설 정보 또는 적설량을 포함함 -;를 포함하는 상기 주변 환경 정보를 수집하는 단계를 포함하고,
상기 이동 객체 관련 정보를 분석하는 단계는 상기 영상 획득부에 의해 획득된 영상들에서 이동 객체의 크기 및 제조사 심볼을 추출하여 처리함으로써, 상기 제1 이동 객체 및 상기 제2 이동 객체의 유형 - 상기 제1 이동 객체 및 상기 제2 이동 객체의 유형은 대형 자동차, 중형 자동차, 경사, 트럭, 버스, 오토바이 및 사람을 포함함 -; 상기 제1 이동 객체 및 상기 제2 이동 객체의 추정 중량; 상기 제1 이동 객체 및 상기 제2 이동 객체의 차량 종류 - 상기 차량 종류는 상기 제1 이동 객체 및 상기 제2 이동 객체의 제조사 및 차량 모델을 포함함 -;를 포함하는 상기 이동 객체 관련 정보를 분석하는 단계를 포함하고,
상기 주변 환경 정보와 상기 이동 객체 관련 정보는 상기 차량의 주행 중에 상기 이동 객체들의 충돌 위험이 발생되기 전에 미리 분석되어 상기 이동 객체들의 충돌 위험 발생 시점에서 미리 분석된 주변 환경 정보 및 이동 객체 관련 정보와 함께, 충돌 위험 상황 시의 움직임 벡터 프로파일이 추가로 상기 인공신경망에 입력되어 사고 위험 예측 결과가 상기 인공신경망으로부터 실시간으로 출력되고,
상기 충돌 위험 정보를 예측하는 단계는 예측된 충돌 위험 정보 및 차량의 주행 정보를 기반으로, 차량의 예측 제동 거리를 고려하여 차량의 사고 예방을 위한 대응 조치 - 상기 대응 조치는 차량의 제동 제어 관련 정보, 그리고 차선 변경 여부와 변경할 차선을 포함하는 차량의 방향 전환 관련 정보를 포함함 -를 결정하는 단계를 포함하는, 차량 주행 위험 예측 방법.
A vehicle driving risk prediction method for predicting the driving risk of a vehicle in motion,
sequentially acquiring images of objects located around the vehicle by an image acquiring unit;
extracting moving objects by analyzing the images by a moving object extraction unit;
calculating, by a motion vector calculation unit, motion vector profiles corresponding to motion vectors of each of the moving objects according to time;
predicting, by an accident risk predictor, an accident risk of the vehicle based on motion vector profiles calculated for the moving objects by an artificial neural network; and
Informing the driver of the vehicle of the accident risk when the accident risk is predicted by the risk notification unit,
The step of predicting the accident risk is:
A difference value between a first motion vector profile calculated for a first moving object among the moving objects and a second motion vector profile calculated for a second moving object among the moving objects by the differential motion vector calculator, calculating differential motion vector profiles;
Collision between the first moving object and the second moving object is performed by the artificial neural network based on the first motion vector profile, the second motion vector profile, and the differential motion vector profile by a collision risk information prediction unit. predicting collision risk information including a probability, an expected location of a collision, and a movement path after a collision; and
Based on the collision risk information predicted by the collision risk information prediction unit and the driving information of the vehicle, accident prevention of the vehicle includes braking control related information of the vehicle and direction change related information of the vehicle. Determining countermeasures for
The step of predicting the accident risk is:
Collecting, by a surrounding environment information collection unit, surrounding environment information including information related to a road on which the vehicle is driving and information related to weather at a time point when the vehicle is driving;
The moving object information analysis unit processes the images to include the type of the first moving object, the type of the second moving object, and the estimated weight or vehicle type of the first moving object and the second moving object. Analyzing moving object related information;
A direction profile calculation unit processes the images to calculate a first direction profile representing direction information of the first moving object over time and a second direction profile representing direction information of the second moving object over time. doing; and
Predicting the collision risk information by the artificial neural network based on the surrounding environment information, the moving object related information, the first direction profile, and the second direction profile by the collision risk information prediction unit do,
The collecting of the surrounding environment information may include information related to a road on which the vehicle is driving, the information related to the road including whether the road is uphill, downhill, or flat and inclination information including an angle of inclination; tunnel or not; road types corresponding to straight roads, curved roads, intersections or highways; road speed limit; Collecting the surrounding environment information including information related to weather at the time the vehicle is driving, wherein the information related to weather includes rain information, snowfall information, or amount of snow,
Analyzing the moving object-related information includes extracting and processing the size and manufacturer symbol of the moving object from the images acquired by the image acquisition unit, so that the type of the first moving object and the second moving object - the first moving object. 1 type of the moving object and the second moving object include a large car, a mid-sized car, a ramp, a truck, a bus, a motorcycle, and a person; estimated weights of the first moving object and the second moving object; Analyzing the information related to the moving object including vehicle types of the first moving object and the second moving object - the vehicle types include manufacturers and vehicle models of the first moving object and the second moving object - including the steps of
The surrounding environment information and the moving object-related information are pre-analyzed before the collision risk of the moving objects occurs while the vehicle is driving, and the surrounding environment information and the moving object-related information analyzed in advance at the time of occurrence of the collision risk of the moving objects Together, a motion vector profile in a collision risk situation is additionally input to the artificial neural network, and an accident risk prediction result is output in real time from the artificial neural network,
The step of estimating the collision risk information may include a response measure for preventing an accident of the vehicle in consideration of a predicted braking distance of the vehicle based on the predicted collision risk information and driving information of the vehicle - the response action is information related to braking control of the vehicle. , and including information related to direction change of the vehicle including whether or not to change a lane and the lane to be changed.
삭제delete 삭제delete 제4항의 차량 주행 위험 예측 방법을 실행하기 위한 프로그램이 기록된 컴퓨터로 판독 가능한 기록 매체.A computer-readable recording medium on which a program for executing the vehicle driving risk prediction method of claim 4 is recorded.
KR1020210012409A 2021-01-28 2021-01-28 System and method for predicting danger during driving of vehicle KR102517546B1 (en)

Priority Applications (1)

Application Number Priority Date Filing Date Title
KR1020210012409A KR102517546B1 (en) 2021-01-28 2021-01-28 System and method for predicting danger during driving of vehicle

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
KR1020210012409A KR102517546B1 (en) 2021-01-28 2021-01-28 System and method for predicting danger during driving of vehicle

Publications (2)

Publication Number Publication Date
KR20220109526A KR20220109526A (en) 2022-08-05
KR102517546B1 true KR102517546B1 (en) 2023-04-04

Family

ID=82826193

Family Applications (1)

Application Number Title Priority Date Filing Date
KR1020210012409A KR102517546B1 (en) 2021-01-28 2021-01-28 System and method for predicting danger during driving of vehicle

Country Status (1)

Country Link
KR (1) KR102517546B1 (en)

Families Citing this family (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
KR102587505B1 (en) 2022-11-01 2023-10-11 주식회사 동성엔지니어링 File conversion method for generating multi-agent driving simulation data
KR102587503B1 (en) 2022-11-01 2023-10-11 주식회사 동성엔지니어링 File conversion system for generating multi-agent driving simulation data
KR102591288B1 (en) * 2023-05-24 2023-10-20 (주)트리포스 Vehicle control system and method using black box

Citations (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2016051465A (en) * 2014-09-01 2016-04-11 ホンダ リサーチ インスティテュート ヨーロッパ ゲーエムベーハーHonda Research Institute Europe GmbH Method and system for performing post-crash maneuvering plan, and vehicle with the system

Family Cites Families (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
KR102442061B1 (en) * 2017-04-06 2022-09-13 삼성전자주식회사 Electronic apparatus, alert message providing method of thereof and non-transitory computer readable recording medium
KR102540436B1 (en) * 2017-12-15 2023-06-05 현대자동차 주식회사 System and method for predicting vehicle accidents

Patent Citations (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2016051465A (en) * 2014-09-01 2016-04-11 ホンダ リサーチ インスティテュート ヨーロッパ ゲーエムベーハーHonda Research Institute Europe GmbH Method and system for performing post-crash maneuvering plan, and vehicle with the system

Also Published As

Publication number Publication date
KR20220109526A (en) 2022-08-05

Similar Documents

Publication Publication Date Title
KR102517546B1 (en) System and method for predicting danger during driving of vehicle
JP6925796B2 (en) Methods and systems, vehicles, and computer programs that assist the driver of the vehicle in driving the vehicle.
JP6591842B2 (en) Method and system for performing adaptive ray-based scene analysis on semantic traffic space, and vehicle comprising such a system
CN110171405B (en) System and method for braking vehicle based on detection object
JP7172619B2 (en) Road surface condition estimation device and road surface condition estimation method
US11087144B2 (en) System and method for determining vehicle data set familiarity
KR102288312B1 (en) Method and apparatus for detecting black ice
US20170083794A1 (en) Virtual, road-surface-perception test bed
CN114077541A (en) Method and system for validating automatic control software for an autonomous vehicle
US11884279B2 (en) System and method for providing vehicle safety distance and speed alerts under slippery road conditions
JP6418574B2 (en) Risk estimation device, risk estimation method, and computer program for risk estimation
US10839263B2 (en) System and method for evaluating a trained vehicle data set familiarity of a driver assitance system
CN113247014B (en) Confidence identification method and system for automatic driving system
US11645360B2 (en) Neural network image processing
EP3842307A1 (en) System and method for providing vehicle safety distance and speed alerts under slippery road conditions
CN115618932A (en) Traffic incident prediction method and device based on internet automatic driving and electronic equipment
US11531349B2 (en) Corner case detection and collection for a path planning system
KR101891725B1 (en) Method for producing virtual lane based on short-range radar sensor
CN114730494A (en) Method for estimating the coverage of a space of a traffic scene
US20210032922A1 (en) Vehicle window control
JP7454685B2 (en) Detection of debris in vehicle travel paths
CN114684197A (en) Detection method, device and equipment for obstacle avoidance scene and storage medium
CN113569778A (en) Pavement slippery area detection and early warning method based on multi-mode data fusion
EP3989031B1 (en) Systems and methods for fusing road friction data to enhance vehicle maneuvering
Patil et al. Driving Automation System Test Scenario Development Process Creation and Software-in-the-Loop Implementation

Legal Events

Date Code Title Description
E902 Notification of reason for refusal
E701 Decision to grant or registration of patent right
GRNT Written decision to grant