KR102560301B1 - Server and Method for prevent collisions between pedestrians and vehicles thereof - Google Patents

Server and Method for prevent collisions between pedestrians and vehicles thereof Download PDF

Info

Publication number
KR102560301B1
KR102560301B1 KR1020200168807A KR20200168807A KR102560301B1 KR 102560301 B1 KR102560301 B1 KR 102560301B1 KR 1020200168807 A KR1020200168807 A KR 1020200168807A KR 20200168807 A KR20200168807 A KR 20200168807A KR 102560301 B1 KR102560301 B1 KR 102560301B1
Authority
KR
South Korea
Prior art keywords
detected
pedestrian
vehicle
collision
warning message
Prior art date
Application number
KR1020200168807A
Other languages
Korean (ko)
Other versions
KR20220079241A (en
Inventor
안영선
이충희
Original Assignee
재단법인대구경북과학기술원
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by 재단법인대구경북과학기술원 filed Critical 재단법인대구경북과학기술원
Priority to KR1020200168807A priority Critical patent/KR102560301B1/en
Publication of KR20220079241A publication Critical patent/KR20220079241A/en
Application granted granted Critical
Publication of KR102560301B1 publication Critical patent/KR102560301B1/en

Links

Images

Classifications

    • GPHYSICS
    • G08SIGNALLING
    • G08GTRAFFIC CONTROL SYSTEMS
    • G08G1/00Traffic control systems for road vehicles
    • G08G1/16Anti-collision systems
    • G08G1/166Anti-collision systems for active traffic, e.g. moving vehicles, pedestrians, bikes
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06QINFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR ADMINISTRATIVE, COMMERCIAL, FINANCIAL, MANAGERIAL OR SUPERVISORY PURPOSES; SYSTEMS OR METHODS SPECIALLY ADAPTED FOR ADMINISTRATIVE, COMMERCIAL, FINANCIAL, MANAGERIAL OR SUPERVISORY PURPOSES, NOT OTHERWISE PROVIDED FOR
    • G06Q50/00Systems or methods specially adapted for specific business sectors, e.g. utilities or tourism
    • G06Q50/30Transportation; Communications
    • G06Q50/40

Landscapes

  • General Physics & Mathematics (AREA)
  • Business, Economics & Management (AREA)
  • Physics & Mathematics (AREA)
  • Tourism & Hospitality (AREA)
  • Engineering & Computer Science (AREA)
  • General Health & Medical Sciences (AREA)
  • Health & Medical Sciences (AREA)
  • Economics (AREA)
  • Operations Research (AREA)
  • Human Resources & Organizations (AREA)
  • Marketing (AREA)
  • Primary Health Care (AREA)
  • Strategic Management (AREA)
  • General Business, Economics & Management (AREA)
  • Theoretical Computer Science (AREA)
  • Traffic Control Systems (AREA)

Abstract

보행자와 차량의 충돌 방지를 위한 서버 및 이의 제어 방법이 제공된다. 본 서버의 제어 방법은 촬영 장치로부터 보행자와 차량을 포함하는 영상을 획득하는 단계, 영상 중 상기 보행자와 상기 차량을 검출하는 단계, 검출된 보행자와 차량 각각의 이동 방향 및 속도를 예측하는 단계, 예측된 이동 방향 및 속도를 바탕으로 검출된 보행자와 검출된 차량 간의 충돌 가능성을 판단하는 단계, 검출된 보행자와 검출된 차량 사이에 충돌이 가능하다고 판단된 경우, 검출된 차량의 차량 번호를 인식하는 단계 및 차량 번호에 대응되는 사용자 단말로 경고 메시지를 전송하는 단계를 포함한다.A server and a control method for preventing a collision between a pedestrian and a vehicle are provided. The control method of the present server includes acquiring an image including a pedestrian and a vehicle from a photographing device, detecting the pedestrian and the vehicle in the image, predicting the moving direction and speed of each of the detected pedestrian and vehicle, determining the possibility of collision between the detected pedestrian and the detected vehicle based on the predicted moving direction and speed, recognizing the license plate number of the detected vehicle when it is determined that a collision between the detected pedestrian and the detected vehicle is possible, and sending a warning message to a user terminal corresponding to the vehicle number.

Description

보행자와 차량의 충돌 방지를 위한 서버 및 이의 제어 방법{Server and Method for prevent collisions between pedestrians and vehicles thereof}Server and method for preventing collisions between pedestrians and vehicles

본 개시는 보행자와 차량의 충돌 방지를 위한 서버 및 이의 제어 방법에 관한 것으로, 더욱 상세하게는 촬영 장치를 통해 촬영된 영상을 통해 보행자와 차량의 충돌 가능성을 판단하여 경고 메시지를 제공하는 서버 및 이의 제어 방법에 관한 것이다.The present disclosure relates to a server for preventing collision between a pedestrian and a vehicle and a control method thereof, and more particularly, to a server for determining the possibility of a collision between a pedestrian and a vehicle through an image captured by a photographing device and providing a warning message, and a control method thereof.

근래에는 스쿨존의 횡단보도 등에서 보행자 신호등이 녹색 신호로 바뀌기 전에 보행자(예를 들어, 어린이들)이 차도로 들어가거나 신호가 바뀐 후 주위를 살피지 않고 앞만 보고 횡단보도로 뛰어들어가다가 신호 위반 차량이나 과속 차량에 부딪히는 사고가 다수 발생하고 있다. 특히, 보행자 사망사고 중 무단횡단 사망 사고가 40%에 달하는 점을 고려해 보았을 때, 무단횡단 사망 사고는 큰 사회 문제로 대두될 수 있다.In recent years, pedestrians (eg, children) enter the roadway before the pedestrian traffic light turns green at the crosswalk in the school zone, or after the signal changes, they run into the crosswalk without looking around and see only the front, and there are many accidents where they run into traffic violations or speeding vehicles. In particular, considering that jaywalking fatal accidents account for 40% of pedestrian fatal accidents, jaywalking fatal accidents can emerge as a major social problem.

이를 해결하기 위해, 종래 기술의 일 예로, 스쿨존의 횡단보도에서 보행자와 차량 간의 사고를 예방하기 위해 현재 신호등의 상태와 카메라 그리고 차량의 속도를 인식하여 경고 메시지를 제공하는 기술이 존재한다. 이 경우, 차량 속도를 인식하기 위해 2차 코일을 설치해야 한다. 즉, 다양한 센서들을 사용하는 것이 안정적이고 정확하지만 시스템의 설치 비용이 많이 드는 한계가 존재한다.In order to solve this problem, as an example of the prior art, there is a technology for providing a warning message by recognizing the current state of a traffic light, camera, and vehicle speed in order to prevent an accident between a pedestrian and a vehicle at a crosswalk in a school zone. In this case, a secondary coil must be installed to recognize the vehicle speed. That is, using various sensors is stable and accurate, but there is a limitation in that the installation cost of the system is high.

또한, 종래의 다른 예로, 전광판의 문자와 청각신호로 경고 메시지를 제공하는 기술이 존재하고 있다. 하지만 전광판의 적절한 위치와 크기를 고려하여 설치해야하기 때문에 운전자에게 즉각적인 주의를 주기 힘들고, 청각신호는 소음으로 발생될 수 있는 한계가 존재한다.In addition, as another example of the prior art, a technology for providing a warning message using text and auditory signals on an electric signboard exists. However, it is difficult to give immediate attention to the driver because the electric signboard must be installed considering the appropriate location and size, and there is a limit to the acoustic signal that can be generated as noise.

뿐만 아니라, 종래의 다른 예로, 보행자 인식을 위해 도로에 움직임 패턴 인식을 위한 센서를 설치하여 보행자의 진행 방향을 예측한 뒤 음성신호로 경고 메시지를 제공하는 기술이 존재한다. 그러나, 이러한 시스템을 구축하기 위한 공사의 비용적 문제와 유지 및 보수관리가 힘들고, 경고 신호가 음향이기 때문에 복잡한 도심이나 소음이 심한 장소에서 사용하기 어려운 문제점이 존재한다.In addition, as another example of the prior art, there is a technology for providing a warning message with a voice signal after predicting the direction of movement of the pedestrian by installing a sensor for recognizing a movement pattern on the road for recognizing the pedestrian. However, there are problems in terms of cost of constructing such a system, difficulty in maintenance and repair, and difficulty in using the system in a crowded city center or in a noisy place because the warning signal is acoustic.

본 개시는 상술한 문제점 들을 해결하기 위한 것으로, 본 개시의 목적은 별도의 센서 없이 CCTV를 통해 획득한 영상을 통해 보행자와 차량 간의 충돌 가능성을 판단하여 사용자 단말로 경고 메시지를 제공할 수 있는 서버 및 이의 제어 방법을 제공함에 있다.The present disclosure is intended to solve the above-described problems, and an object of the present disclosure is to provide a warning message to a user terminal by determining the possibility of collision between a pedestrian and a vehicle through an image obtained through CCTV without a separate sensor. It is to provide a server and a control method thereof.

본 개시의 일 실시예에 따른, 보행자와 차량의 충돌 방지를 위한 서버의 제어 방법은, 촬영 장치로부터 영상을 획득하는 단계; 상기 영상에 포함된 보행자와 차량을 검출하는 단계; 상기 검출된 보행자와 상기 검출된 차량 각각의 이동 방향 및 속도를 예측하는 단계; 상기 예측된 이동 방향 및 속도를 바탕으로 상기 검출된 보행자와 상기 검출된 차량 간의 충돌 가능성을 판단하는 단계; 상기 검출된 보행자와 상기 검출된 차량 사이에 충돌이 가능하다고 판단된 경우, 상기 검출된 차량의 차량 번호를 인식하는 단계; 및 상기 차량 번호에 대응되는 사용자 단말로 경고 메시지를 전송하는 단계;를 포함한다.According to an embodiment of the present disclosure, a control method of a server for preventing collision between a pedestrian and a vehicle includes obtaining an image from a photographing device; detecting pedestrians and vehicles included in the image; predicting a moving direction and speed of each of the detected pedestrian and the detected vehicle; determining a possibility of collision between the detected pedestrian and the detected vehicle based on the predicted moving direction and speed; recognizing a license plate number of the detected vehicle when it is determined that a collision is possible between the detected pedestrian and the detected vehicle; and transmitting a warning message to a user terminal corresponding to the license plate number.

그리고, 상기 예측하는 단계는, 임계 시간 동안 획득된 복수의 영상 프레임에 포함된 상기 검출된 보행자 및 상기 검출된 차량의 위치를 바탕으로 상기 검출된 보행자와 상기 검출된 차량 각각의 이동 방향 및 속도를 예측할 수 있다.The predicting may include determining the moving direction and speed of the detected pedestrian and the detected vehicle, respectively, based on the positions of the detected pedestrian and the detected vehicle included in a plurality of image frames acquired for a critical period of time. Predictable.

또한, 상기 판단하는 단계는, 상기 예측된 이동 방향 및 속도를 바탕으로 상기 검출된 보행자와 상기 검출된 차량 각각의 예상 경로를 생성하고, 동일한 시점에 상기 검출된 보행자와 상기 검출된 차량 각각에 대해 생성된 예상 경로의 교점이 존재하는지 여부를 바탕으로 상기 검출된 보행자와 상기 검출된 차량 간의 충돌 가능성을 판단할 수 있다.In addition, the determining step may generate an expected path of each of the detected pedestrian and the detected vehicle based on the predicted moving direction and speed, and determine the possibility of collision between the detected pedestrian and the detected vehicle based on whether or not an intersection of the predicted path generated for each of the detected pedestrian and the detected vehicle exists at the same time point.

그리고, 상기 촬영 장치의 GPS 정보를 식별하는 단계; 및 상기 GPS 정보를 바탕으로 상기 충돌이 발생할 지점에 위치하는 액세스 포인트(Access point)를 식별하는 단계; 상기 식별된 액세스 포인트로 경고 메시지를 브로드캐스팅하라는 신호를 전송하는 단계;를 포함할 수 있다.Then, identifying GPS information of the photographing device; and identifying an access point located at a point where the collision occurs based on the GPS information. Transmitting a signal to broadcast a warning message to the identified access point; may include.

또한, 상기 검출된 보행자의 사용자 단말이 상기 브로드캐스팅된 경고 메시지를 수신한 경우, 상기 검출된 보행자의 사용자 단말에 설치된 어플리케이션을 통해 경고 메시지가 출력될 수 있다.In addition, when the user terminal of the detected pedestrian receives the broadcast warning message, a warning message may be output through an application installed in the user terminal of the detected pedestrian.

그리고, 상기 경고 메시지는, 상기 사용자 단말에 설치된 어플리케이션을 통해 출력되며, 시각, 청각 및 촉각 중 적어도 하나의 형태로 출력될 수 있다.And, the warning message is output through an application installed in the user terminal, and may be output in at least one of visual, auditory, and tactile forms.

또한, 상기 검출된 보행자와 상기 검출된 차량 사이에 충돌이 가능하다고 판단된 경우, 상기 획득된 영상 및 상기 검출된 차량 번호를 저장하는 단계;를 포함할 수 있다.In addition, when it is determined that a collision is possible between the detected pedestrian and the detected vehicle, storing the obtained image and the detected vehicle number; may include.

본 개시의 일 실시예에 따른, 보행자와 차량의 충돌 방지를 위한 서버는, 통신 인터페이스; 적어도 하나의 인스트럭션을 저장하는 메모리; 및 상기 통신 인터페이스와 상기 메모리를 바탕으로 상기 서버를 제어하는 프로세서;를 포함하며, 상기 프로세서는, 상기 적어도 하나의 인스트럭션을 실행함으로써, 상기 통신 인터페이스를 통해 촬영 장치로부터 영상을 획득하고, 상기 영상에 포함된 보행자와 차량을 검출하며, 상기 검출된 보행자와 상기 검출된 차량 각각의 이동 방향 및 속도를 예측하고, 상기 예측된 이동 방향 및 속도를 바탕으로 상기 검출된 보행자와 상기 검출된 차량 간의 충돌 가능성을 판단하며, 상기 검출된 보행자와 상기 검출된 차량 사이에 충돌이 가능하다고 판단된 경우, 상기 검출된 차량의 차량 번호를 인식하고, 상기 차량 번호에 대응되는 사용자 단말로 경고 메시지를 전송하도록 상기 통신 인터페이스를 제어할 수 있다.According to an embodiment of the present disclosure, a server for preventing collision between a pedestrian and a vehicle includes a communication interface; a memory storing at least one instruction; and a processor controlling the server based on the communication interface and the memory, wherein the processor, by executing the at least one instruction, obtains an image from the photographing device through the communication interface, detects a pedestrian and a vehicle included in the image, predicts a moving direction and speed of each of the detected pedestrian and the detected vehicle, determines a possibility of collision between the detected pedestrian and the detected vehicle based on the predicted moving direction and speed, and determines that a collision between the detected pedestrian and the detected vehicle is possible. In this case, the communication interface may be controlled to recognize the vehicle number of the detected vehicle and transmit a warning message to a user terminal corresponding to the vehicle number.

또한, 상기 프로세서는, 임계 시간 동안 획득된 복수의 영상 프레임에 포함된 상기 검출된 보행자 및 상기 검출된 차량의 위치를 바탕으로 상기 검출된 보행자와 상기 검출된 차량 각각의 이동 방향 및 속도를 예측할 수 있다.In addition, the processor may predict the moving direction and speed of the detected pedestrian and the detected vehicle, respectively, based on the positions of the detected pedestrian and the detected vehicle included in a plurality of image frames acquired for a critical period of time.

그리고, 상기 프로세서는, 상기 예측된 이동 방향 및 속도를 바탕으로 상기 검출된 보행자와 상기 검출된 차량 각각의 예상 경로를 생성하고, 동일한 시점에 상기 검출된 보행자와 상기 검출된 차량 각각에 대해 생성된 예상 경로의 교점이 존재하는지 여부를 바탕으로 상기 검출된 보행자와 상기 검출된 차량 간의 충돌 가능성을 판단할 수 있다.In addition, the processor generates an expected path of each of the detected pedestrian and the detected vehicle based on the predicted moving direction and speed, and determines the possibility of collision between the detected pedestrian and the detected vehicle based on whether or not an intersection of the predicted path generated for each of the detected pedestrian and the detected vehicle exists at the same time point.

또한, 상기 프로세서는, 상기 촬영 장치의 GPS 정보를 식별하고, 상기 GPS 정보를 바탕으로 상기 충돌이 발생할 지점에 위치하는 액세스 포인트(Access point)를 식별하며, 상기 식별된 액세스 포인트로 경고 메시지를 브로드캐스팅하라는 신호를 전송하도록 상기 통신 인터페이스를 제어할 수 있다.In addition, the processor identifies GPS information of the photographing device, identifies an access point located at a point where the collision occurs based on the GPS information, and broadcasts a warning message to the identified access point. It can control the communication interface to transmit a signal to broadcast.

그리고, 상기 검출된 보행자의 사용자 단말이 상기 브로드캐스팅된 경고 메시지를 수신한 경우, 상기 검출된 보행자의 사용자 단말에 설치된 어플리케이션을 통해 경고 메시지가 출력될 수 있다.And, when the user terminal of the detected pedestrian receives the broadcast warning message, a warning message may be output through an application installed in the user terminal of the detected pedestrian.

또한, 상기 경고 메시지는, 상기 사용자 단말에 설치된 어플리케이션을 통해 출력되며, 시각, 청각 및 촉각 중 적어도 하나의 형태로 출력될 수 있다.In addition, the warning message is output through an application installed in the user terminal, and may be output in at least one of visual, auditory, and tactile forms.

그리고, 상기 프로세서는, 상기 검출된 보행자와 상기 검출된 차량 사이에 충돌이 가능하다고 판단된 경우, 상기 획득된 영상 및 상기 검출된 차량의 차량 번호를 상기 메모리에 저장할 수 있다.And, when it is determined that a collision is possible between the detected pedestrian and the detected vehicle, the processor may store the obtained image and the license plate number of the detected vehicle in the memory.

상술한 바와 같이, 본 개시의 다양한 실시예에 따라, 사용자 단말을 통해 청각 및 촉각 경고를 하기 때문에 시끄러운 주변환경이나 사용자가 주의 집중을 하지 않고 있는 상황에서도 보행자나 운전자가 즉각 경고를 인지할 수 있다. 또한, 충돌 경고시 주변 보행자 모두에게 경고방송을 함으로써 사고 발생 시 빠른 대처에 도움을 줄 수 있다. 뿐만 아니라, 높은 위치에 설치된 촬영 장치를 활용하기 때문에 운전자의 사각지대에서 갑작스럽게 발생할 수 있는 사고를 예방할 수 있다.As described above, according to various embodiments of the present disclosure, since audible and tactile warnings are issued through a user terminal, a pedestrian or driver can immediately recognize a warning even in a noisy environment or in a situation where the user is not paying attention. In addition, by broadcasting a warning to all nearby pedestrians in the event of a collision warning, it is possible to help in quick response in the event of an accident. In addition, since a photographing device installed at a high location is used, an accident that may suddenly occur in a driver's blind spot can be prevented.

도 1은 본 개시의 일 실시예에 따른, 교통 사고 예방 시스템을 설명하기 위한 도면,
도 2는 본 개시의 일 실시예에 따른, 보행자와 차량의 충돌을 방지하기 위한 서버의 구성을 설명하기 위한 블록도,
도 3은 본 개시의 일 실시예에 따른, 촬영 장치에 의해 촬영된 영상 프레임을 도시한 도면,
도 4는 본 개시의 일 실시예에 따른, 보행자와 차량의 예상 경로를 바탕으로 충돌 가능성을 판단하는 방법을 설명하기 위한 도면,
도 5는 본 개시의 일 실시예에 따른, 차량의 차량번호를 인식하는 실시예를 설명하기 위한 도면,
도 6은 본 개시의 일 실시예에 따른, 보행자와 차량의 충돌을 방지하기 위한 서버의 제어 방법을 설명하기 위한 흐름도이다.
1 is a diagram for explaining a traffic accident prevention system according to an embodiment of the present disclosure;
2 is a block diagram for explaining the configuration of a server for preventing a collision between a pedestrian and a vehicle according to an embodiment of the present disclosure;
3 is a diagram illustrating an image frame photographed by a photographing device according to an embodiment of the present disclosure;
4 is a diagram for explaining a method for determining a possibility of collision based on an expected path between a pedestrian and a vehicle according to an embodiment of the present disclosure;
5 is a view for explaining an embodiment of recognizing a license plate number of a vehicle according to an embodiment of the present disclosure;
6 is a flowchart illustrating a control method of a server for preventing a collision between a pedestrian and a vehicle according to an embodiment of the present disclosure.

본 실시 예들은 다양한 변환을 가할 수 있고 여러 가지 실시 예를 가질 수 있는바, 특정 실시 예들을 도면에 예시하고 상세한 설명에 상세하게 설명하고자 한다. 그러나 이는 특정한 실시 형태에 대해 범위를 한정하려는 것이 아니며, 본 개시의 실시 예의 다양한 변경(modifications), 균등물(equivalents), 및/또는 대체물(alternatives)을 포함하는 것으로 이해되어야 한다. 도면의 설명과 관련하여, 유사한 구성요소에 대해서는 유사한 참조 부호가 사용될 수 있다.Since the present embodiments can apply various transformations and have various embodiments, specific embodiments will be illustrated in the drawings and described in detail in the detailed description. However, this is not intended to limit the scope to the specific embodiments, and should be understood to include various modifications, equivalents, and/or alternatives of the embodiments of the present disclosure. In connection with the description of the drawings, like reference numerals may be used for like elements.

본 개시를 설명함에 있어서, 관련된 공지 기능 혹은 구성에 대한 구체적인 설명이 본 개시의 요지를 불필요하게 흐릴 수 있다고 판단되는 경우 그에 대한 상세한 설명은 생략한다. In describing the present disclosure, if it is determined that a detailed description of a related known function or configuration may unnecessarily obscure the gist of the present disclosure, a detailed description thereof will be omitted.

덧붙여, 하기 실시 예는 여러 가지 다른 형태로 변형될 수 있으며, 본 개시의 기술적 사상의 범위가 하기 실시 예에 한정되는 것은 아니다. 오히려, 이들 실시 예는 본 개시를 더욱 충실하고 완전하게 하고, 당업자에게 본 개시의 기술적 사상을 완전하게 전달하기 위하여 제공되는 것이다.In addition, the following embodiments may be modified in many different forms, and the scope of the technical idea of the present disclosure is not limited to the following embodiments. Rather, these embodiments are provided so that this disclosure will be thorough and complete, and will fully convey the spirit of the disclosure to those skilled in the art.

본 개시에서 사용한 용어는 단지 특정한 실시 예를 설명하기 위해 사용된 것으로, 권리범위를 한정하려는 의도가 아니다. 단수의 표현은 문맥상 명백하게 다르게 뜻하지 않는 한, 복수의 표현을 포함한다.Terms used in this disclosure are only used to describe specific embodiments, and are not intended to limit the scope of rights. Singular expressions include plural expressions unless the context clearly dictates otherwise.

본 개시에서, "가진다," "가질 수 있다," "포함한다," 또는 "포함할 수 있다" 등의 표현은 해당 특징(예: 수치, 기능, 동작, 또는 부품 등의 구성요소)의 존재를 가리키며, 추가적인 특징의 존재를 배제하지 않는다. In the present disclosure, expressions such as “has,” “can have,” “includes,” or “may include” indicate the presence of corresponding features (eg, numerical values, functions, operations, or components such as parts), and do not exclude the presence of additional features.

본 개시에서, "A 또는 B," "A 또는/및 B 중 적어도 하나," 또는 "A 또는/및 B 중 하나 또는 그 이상"등의 표현은 함께 나열된 항목들의 모든 가능한 조합을 포함할 수 있다. 예를 들면, "A 또는 B," "A 및 B 중 적어도 하나," 또는 "A 또는 B 중 적어도 하나"는, (1) 적어도 하나의 A를 포함, (2) 적어도 하나의 B를 포함, 또는 (3) 적어도 하나의 A 및 적어도 하나의 B 모두를 포함하는 경우를 모두 지칭할 수 있다.In this disclosure, expressions such as “A or B,” “at least one of A and/and B,” or “one or more of A or/and B” may include all possible combinations of the items listed together. For example, “A or B,” “at least one of A and B,” or “at least one of A or B” can refer to (1) including at least one A, (2) including at least one B, or (3) including both at least one A and at least one B.

본 개시에서 사용된 "제1," "제2," "첫째," 또는 "둘째,"등의 표현들은 다양한 구성요소들을, 순서 및/또는 중요도에 상관없이 수식할 수 있고, 한 구성요소를 다른 구성요소와 구분하기 위해 사용될 뿐 해당 구성요소들을 한정하지 않는다. Expressions such as “first,” “second,” “first,” or “second,” used in the present disclosure may modify various components regardless of order and/or importance, and are used to distinguish one component from another component, but do not limit the components.

어떤 구성요소(예: 제1 구성요소)가 다른 구성요소(예: 제2 구성요소)에 "(기능적으로 또는 통신적으로) 연결되어((operatively or communicatively) coupled with/to)" 있다거나 "접속되어(connected to)" 있다고 언급된 때에는, 상기 어떤 구성요소가 상기 다른 구성요소에 직접적으로 연결되거나, 다른 구성요소(예: 제3 구성요소)를 통하여 연결될 수 있다고 이해되어야 할 것이다. When it is said that an element (eg, a first element) is "(functionally or communicatively) coupled with/to" or "connected to" another element (eg, a second element), it will be understood that the element may be directly connected to the other element or connected through another element (eg, a third element).

반면에, 어떤 구성요소(예: 제1 구성요소)가 다른 구성요소(예: 제2 구성요소)에 "직접 연결되어" 있다거나 "직접 접속되어" 있다고 언급된 때에는, 상기 어떤 구성요소와 상기 다른 구성요소 사이에 다른 구성요소(예: 제3 구성요소)가 존재하지 않는 것으로 이해될 수 있다.On the other hand, when an element (eg, a first element) is referred to as being “directly connected” or “directly connected” to another element (eg, a second element), it may be understood that no other element (eg, a third element) exists between the element and the other element.

본 개시에서 사용된 표현 "~하도록 구성된(또는 설정된)(configured to)"은 상황에 따라, 예를 들면, "~에 적합한(suitable for)," "~하는 능력을 가지는(having the capacity to)," "~하도록 설계된(designed to)," "~하도록 변경된(adapted to)," "~하도록 만들어진(made to)," 또는 "~를 할 수 있는(capable of)"과 바꾸어 사용될 수 있다. 용어 "~하도록 구성된(또는 설정된)"은 하드웨어적으로 "특별히 설계된(specifically designed to)" 것만을 반드시 의미하지 않을 수 있다. The expression “configured to (or configured to)” used in this disclosure may be used interchangeably with, for example, “suitable for,” “having the capacity to,” “designed to,” “adapted to,” “made to,” or “capable of” depending on the circumstances. The term "configured (or set) to" may not necessarily mean only "specifically designed to" hardware.

대신, 어떤 상황에서는, "~하도록 구성된 장치"라는 표현은, 그 장치가 다른 장치 또는 부품들과 함께 "~할 수 있는" 것을 의미할 수 있다. 예를 들면, 문구 "A, B, 및 C를 수행하도록 구성된(또는 설정된) 프로세서"는 해당 동작을 수행하기 위한 전용 프로세서(예: 임베디드 프로세서), 또는 메모리 장치에 저장된 하나 이상의 소프트웨어 프로그램들을 실행함으로써, 해당 동작들을 수행할 수 있는 범용 프로세서(generic-purpose processor)(예: CPU 또는 application processor)를 의미할 수 있다.Instead, in some contexts, the phrase "device configured to" may mean that the device is "capable of" in conjunction with other devices or components. For example, the phrase "a processor configured (or configured) to perform A, B, and C" may refer to a dedicated processor (e.g., embedded processor) for performing the corresponding operation, or a generic-purpose processor (e.g., CPU or application processor) capable of performing the corresponding operations by executing one or more software programs stored in a memory device.

실시 예에 있어서 '모듈' 혹은 '부'는 적어도 하나의 기능이나 동작을 수행하며, 하드웨어 또는 소프트웨어로 구현되거나 하드웨어와 소프트웨어의 결합으로 구현될 수 있다. 또한, 복수의 '모듈' 혹은 복수의 '부'는 특정한 하드웨어로 구현될 필요가 있는 '모듈' 혹은 '부'를 제외하고는 적어도 하나의 모듈로 일체화되어 적어도 하나의 프로세서로 구현될 수 있다.In an embodiment, a 'module' or 'unit' performs at least one function or operation, and may be implemented with hardware or software, or a combination of hardware and software. In addition, a plurality of 'modules' or a plurality of 'units' may be integrated into at least one module and implemented by at least one processor, except for 'modules' or 'units' that need to be implemented with specific hardware.

한편, 도면에서의 다양한 요소와 영역은 개략적으로 그려진 것이다. 따라서, 본 발명의 기술적 사상은 첨부한 도면에 그려진 상대적인 크기나 간격에 의해 제한되지 않는다. Meanwhile, various elements and areas in the drawings are schematically drawn. Therefore, the technical spirit of the present invention is not limited by the relative size or spacing drawn in the accompanying drawings.

이하에서는 첨부한 도면을 참고하여 본 개시에 따른 실시 예에 대하여 본 개시가 속하는 기술 분야에서 통상의 지식을 가진 자가 용이하게 실시할 수 있도록 상세히 설명한다.Hereinafter, with reference to the accompanying drawings, an embodiment according to the present disclosure will be described in detail so that those skilled in the art can easily implement it.

도 1은 본 개시의 일 실시예에 따른, 교통 사고 예방 시스템을 설명하기 위한 도면이다. 도 1에 도시된 바와 같이, 교통 사고 예방 시스템(1)은 촬영 장치(10), 서버(100). 운전자의 사용자 단말(20), 액세스 포인트(30) 및 보행자의 사용자 단말(40)을 포함할 수 있다. 1 is a diagram for explaining a traffic accident prevention system according to an embodiment of the present disclosure. As shown in FIG. 1 , the traffic accident prevention system 1 includes a photographing device 10 and a server 100. It may include a driver's user terminal 20, an access point 30, and a pedestrian's user terminal 40.

촬영 장치(10)는 도로 상에 설치되어 차량 및 보행자 중 적어도 하나를 포함하는 영상을 촬영할 수 있다. 촬영 장치(10)는 촬영된 영상을 실시간으로 모든 영상을 서버(100)로 전송할 수 있으나, 이는 일 실시예에 불과할 뿐, 차량 및 보행자 중 적어도 하나가 감지된 경우 영상을 서버(100)로 전송할 수 있다. 촬영 장치(10)는 CCTV로 구현될 수 있으나, 이는 일 실시예에 불과할 뿐, 다른 차량의 블랙박스와 같은 장치로 구현될 수 있다. 또한, 촬영 장치(10-1,10-2,..)는 임의의 위치에 복수개 존재할 수 있다.The photographing device 10 may be installed on a road and capture an image including at least one of a vehicle and a pedestrian. The photographing device 10 may transmit all captured images to the server 100 in real time, but this is only an example, and the image may be transmitted to the server 100 when at least one of a vehicle and a pedestrian is detected. The photographing device 10 may be implemented as a CCTV, but this is only an example and may be implemented as a device such as a black box of another vehicle. In addition, a plurality of photographing devices 10-1, 10-2, ... may be present at an arbitrary position.

서버(100)는 촬영 장치(10)로부터 수신된 영상으로부터 보행자 및 차량을 검출할 수 있다. 그리고, 서버(100)는 보행자 및 차량이 검출된 복수의 영상 프레임으로부터 보행자 및 차량 각각의 이동 방향 및 속도를 검출할 수 있다. 그리고, 서버(100)는 보행자 및 차량 각각의 이동 방향 및 속도를 바탕으로 보행자 및 차량 간의 충돌 가능성을 판단할 수 있다. 보행자와 차량이 충돌할 것으로 판단되면, 서버(100)는 차량의 차량 번호를 인식하고, 인식된 차량 번호에 대응되는 사용자 단말(20)로 경고 메시지를 제공할 수 있다. The server 100 may detect pedestrians and vehicles from images received from the photographing device 10 . In addition, the server 100 may detect the moving direction and speed of each of the pedestrian and the vehicle from the plurality of image frames in which the pedestrian and the vehicle are detected. In addition, the server 100 may determine the possibility of collision between the pedestrian and the vehicle based on the moving direction and speed of the pedestrian and the vehicle, respectively. If it is determined that the pedestrian and the vehicle will collide, the server 100 may recognize the license plate number of the vehicle and provide a warning message to the user terminal 20 corresponding to the recognized license plate number.

또한, 서버(100)는 보행자에게도 경고 메시지를 제공하기 위하여, 촬영 장치(100)의 GPS 정보를 식별하고, GPS 정보를 바탕으로 충돌이 발생할 지점에 위치하는 액세스 포인트(Access point)를 식별할 수 있다. 그리고, 서버(100)는 식별된 액세스 포인트(30)로 경고 메시지를 브로드캐스팅하라는 신호를 전송할 수 있다. 또한, 서버(100)는 경고 상황이 발생된 상황에 대한 정보(예로, 차량의 차량 번호, 영상 등)를 저장할 수 있다. In addition, the server 100 may identify GPS information of the photographing device 100 and identify an access point located at a point where a collision occurs based on the GPS information in order to provide a warning message to pedestrians as well. Then, the server 100 may transmit a signal to broadcast a warning message to the identified access point 30 . In addition, the server 100 may store information (eg, vehicle number, image, etc.) on a situation in which a warning situation occurs.

운전자의 사용자 단말(20)은 서버로부터 수신된 경고 메시지를 어플리케이션을 통해 출력할 수 있다. 이때, 운전자의 사용자 단말(20)은 시각적인 형태(예를 들어, 화면 상에 텍스트 메시지 또는 이미지 메시지를 표시)의 경고 메시지를 제공할 수 있을 뿐만 아니라, 청각적인 형태(예를 들어, "전방에 사람이 있습니다"이라는 음성 메시지를 출력)의 경고 메시지, 촉각적인 형태(예를 들어, 진동 메시지)의 경고 메시지를 제공할 수 있다. The driver's user terminal 20 may output the warning message received from the server through the application. In this case, the driver's user terminal 20 may provide a warning message in a visual form (eg, displaying a text message or an image message on the screen), as well as an audible warning message (eg, outputting a voice message saying “there is a person ahead”) or a tactile form (eg, a vibration message).

한편, 운전자의 사용자 단말(20)에 설치된 어플리케이션은 백그라운드에서 항상 실행된 상태일 수 있으나, 이는 일 실시예에 불과할 뿐, 운전자가 차량을 주행하는 것으로 판단된 경우 백그라운드에서 실행될 수 있다. 또한, 어플리케이션 설치시, 차량 정보를 서버(100)에 제공할 수 있으며, 접근 권한(예를 들어, 위치, 카메라 등)에 대한 정보를 서버(100)에 제공할 수 있다.Meanwhile, the application installed in the driver's user terminal 20 may always be executed in the background, but this is only an example and may be executed in the background when it is determined that the driver is driving the vehicle. In addition, when installing the application, vehicle information may be provided to the server 100, and information on access rights (eg, location, camera, etc.) may be provided to the server 100.

액세스 포인트(30)는 촬영 장치(10) 주위에 설치될 수 있으며, 서버(100)로부터 수신된 신호를 바탕으로 경고 메시지를 브로드 캐스팅할 수 있다. 이에 의해, 촬영 장치(10) 주위의 임의의 영역에 위치하는 모든 보행자의 사용자 단말(40-1,40-2,..)은 경고 메시지를 출력할 수 있다.The access point 30 may be installed around the photographing device 10 and may broadcast a warning message based on a signal received from the server 100 . Accordingly, all pedestrian user terminals 40 - 1 , 40 - 2 , ... located in an arbitrary area around the photographing device 10 may output a warning message.

보행자의 사용자 단말(40) 역시 어플리케이션을 통해 경고 메시지를 출력할 수 있으며, 시각적인 형태, 청각적인 형태 및 촉각적인 형태 중 적어도 하나의 형태로 경고 메시지를 제공할 수 있게 된다. The pedestrian's user terminal 40 may also output a warning message through an application, and may provide the warning message in at least one form among a visual form, an auditory form, and a tactile form.

도 2는 본 개시의 일 실시예에 따른, 보행자와 차량의 충돌을 방지하기 위한 서버의 구성을 설명하기 위한 블록도이다. 도 2에 도시된 바와 같이, 서버(100)는 통신 인터페이스(110), 메모리(120) 및 프로세서(130)를 포함할 수 있다. 2 is a block diagram illustrating a configuration of a server for preventing a collision between a pedestrian and a vehicle according to an embodiment of the present disclosure. As shown in FIG. 2 , the server 100 may include a communication interface 110 , a memory 120 and a processor 130 .

통신 인터페이스(110)는 회로를 포함하며, 외부 장치(예로, 촬영 장치(10), 사용자 단말(20), 액세스 포인트(30)와의 통신을 수행할 수 있다. 구체적으로, 프로세서(120)는 통신 인터페이스(110)를 통해 연결된 외부 장치로부터 각종 데이터 또는 정보를 수신할 수 있으며, 외부 장치로 각종 데이터 또는 정보를 전송할 수도 있다.The communication interface 110 includes a circuit and can perform communication with an external device (eg, the photographing device 10, the user terminal 20, and the access point 30. Specifically, the processor 120 can receive various data or information from an external device connected through the communication interface 110, and can also transmit various data or information to the external device.

통신 인터페이스(110)는 WiFi 모듈 또는 무선 통신 모듈중 적어도 하나를 포함할 수 있다. 구체적으로, WiFi 모듈은 WiFi 방식, Bluetooth 방식으로 통신을 수행할 수 있다. WiFi 모듈을 이용하는 경우에는 SSID 등과 같은 각종 연결 정보를 먼저 송수신하여, 이를 이용하여 통신 연결한 후 각종 정보들을 송수신할 수 있다. 또한, 무선 통신 모듈은 IEEE, Zigbee, 3G(3rd Generation), 3GPP(3rd Generation Partnership Project), LTE(Long Term Evolution), 5G(5th Generation) 등과 같은 다양한 통신 규격에 따라 통신을 수행할 수 있다. The communication interface 110 may include at least one of a WiFi module or a wireless communication module. Specifically, the WiFi module may perform communication using a WiFi method or a Bluetooth method. In the case of using the WiFi module, various connection information such as SSID is first transmitted and received, and various information can be transmitted and received after communication is connected using this. In addition, the wireless communication module may perform communication according to various communication standards such as IEEE, Zigbee, 3rd Generation (3G), 3rd Generation Partnership Project (3GPP), Long Term Evolution (LTE), and 5th Generation (5G).

메모리(120)는 보행자와 차량 간의 교통사고를 예방하기 위한 다양한 데이터를 저장할 수 있다. 구체적으로, 메모리(120)는 객체 감지 모듈(131), 움직임 예측 모듈(133), 충돌 예측 모듈(135) 및 경고 메시지 제공 모듈(137) 등을 저장할 수 있으며, 각종 신경망 모델을 저장할 수 있다. 또한, 메모리(120)는 경고 상황 발생시 상황 정보(예를 들어, 영상, 차량 번호 등) 등을 저장할 수 있다. 또한, 메모리(120)(특히, 버퍼)는 통신 인터페이스(110)를 통해 수신된 영상을 저장할 수 있다.The memory 120 may store various data for preventing a traffic accident between a pedestrian and a vehicle. Specifically, the memory 120 may store an object detection module 131, a motion prediction module 133, a collision prediction module 135, a warning message providing module 137, and the like, and may store various neural network models. In addition, the memory 120 may store situation information (eg, image, vehicle number, etc.) when a warning situation occurs. Also, the memory 120 (particularly, a buffer) may store an image received through the communication interface 110 .

메모리(120)는 프로세서(130)에 포함된 롬(ROM)(예를 들어, EEPROM(electrically erasable programmable read-only memory)), 램(RAM) 등의 내부 메모리로 구현되거나, 프로세서(130)와 별도의 메모리로 구현될 수도 있다. 이 경우, 메모리(120)는 데이터 저장 용도에 따라 서버(100)에 임베디드된 메모리 형태로 구현되거나, 서버(100)에 탈부착이 가능한 메모리 형태로 구현될 수도 있다. 예를 들어, 서버(100)의 구동을 위한 데이터의 경우 서버(100)에 임베디드된 메모리에 저장되고, 서버(100)의 확장 기능을 위한 데이터의 경우 서버(100)에 탈부착이 가능한 메모리에 저장될 수 있다. The memory 120 may be implemented as an internal memory such as a ROM (e.g., electrically erasable programmable read-only memory (EEPROM)) or RAM included in the processor 130, or may be implemented as a separate memory from the processor 130. In this case, the memory 120 may be implemented in the form of a memory embedded in the server 100 or in the form of a removable memory in the server 100 depending on the data storage purpose. For example, data for driving the server 100 is stored in a memory embedded in the server 100, and data for an extended function of the server 100 is removable from the server 100. It can be stored in a memory.

한편, 서버(100)에 임베디드된 메모리의 경우 휘발성 메모리(예: DRAM(dynamic RAM), SRAM(static RAM), 또는 SDRAM(synchronous dynamic RAM) 등), 비휘발성 메모리(non-volatile Memory)(예: OTPROM(one time programmable ROM), PROM(programmable ROM), EPROM(erasable and programmable ROM), EEPROM(electrically erasable and programmable ROM), mask ROM, flash ROM, 플래시 메모리(예: NAND flash 또는 NOR flash 등), 하드 드라이브, 또는 솔리드 스테이트 드라이브(solid state drive(SSD)) 중 적어도 하나로 구현되고, 서버(100)에 탈부착이 가능한 메모리의 경우 메모리 카드(예를 들어, CF(compact flash), SD(secure digital), Micro-SD(micro secure digital), Mini-SD(mini secure digital), xD(extreme digital), MMC(multi-media card) 등), USB 포트에 연결 가능한 외부 메모리(예를 들어, USB 메모리) 등과 같은 형태로 구현될 수 있다.Meanwhile, in the case of memory embedded in the server 100, volatile memory (e.g., dynamic RAM (DRAM), static RAM (SRAM), or synchronous dynamic RAM (SDRAM)), non-volatile memory (e.g., one time programmable ROM (OTPROM), programmable ROM (PROM), erasable and programmable ROM (EPROM), electrically erasable and programmable ROM (EEPROM), mask ROM, flash ROM, flash memory ( Example: NAND flash or NOR flash, etc.), a hard drive, or a solid state drive (solid state drive (SSD)), in the case of a memory that is removable from the server 100, a memory card (eg, CF (compact flash), SD (secure digital), Micro-SD (micro secure digital), Mini-SD (mini secure digital), xD (extreme digital), MMC (multi-media card), etc.), external memory (eg, USB memory) connectable to a USB port It may be implemented in a form such as the like.

프로세서(130)는 메모리(120)와 전기적으로 연결되어 서버(100)의 전반적인 기능 및 동작을 제어할 수 있다. 특히, 프로세서(130)는 객체 감지 모듈(131), 움직임 예측 모듈(133), 충돌 예측 모듈(135) 및 경고 메시지 제공 모듈(137)을 포함할 수 있다. The processor 130 may be electrically connected to the memory 120 to control overall functions and operations of the server 100 . In particular, the processor 130 may include an object detection module 131, a motion prediction module 133, a collision prediction module 135, and a warning message providing module 137.

프로세서(130)는 객체 감지 모듈(131)을 통해 촬영 장치(10)로부터 수신된 영상 프레임에 포함된 적어도 하나의 보행자 및 적어도 하나의 차량을 검출할 수 있다. 이때, 객체 감지 모듈(131)은 도로 내의 오브젝트(예를 들어, 보행자, 차량, 오토바이, 동물 등)를 감지하도록 학습된 신경망 모델을 이용하여 적어도 하나의 보행자 및 적어도 하나의 차량을 검출할 수 있다. 신경망 모델은 합성곱 신경망(Convolution Neural Network, CNN) 모델로 구현될 수 있으나, 이는 일 실시예에 불과할 뿐, 심층 신경망(Deep Neural Network, DNN), 순환 신경망(Recurrent Neural Network, RNN) 및 생성적 적대 신경망(Generative Adversarial Networks, GAN) 중 적어도 하나의 인공 신경망 모델로 구현될 수 있다.The processor 130 may detect at least one pedestrian and at least one vehicle included in an image frame received from the photographing device 10 through the object detection module 131 . In this case, the object detection module 131 may detect at least one pedestrian and at least one vehicle by using a neural network model learned to detect an object (eg, a pedestrian, a vehicle, a motorcycle, an animal, etc.) on the road. The neural network model may be implemented as a Convolution Neural Network (CNN) model, but this is only an example, and may be implemented as at least one artificial neural network model of a deep neural network (DNN), a recurrent neural network (RNN), and a generative adversarial network (GAN).

객체 감지 모듈(131)은 기설정된 시간동안 수신된 복수의 영상 프레임으로부터 적어도 하나의 보행자 및 적어도 하나의 차량을 검출할 수 있다. 객체 감지 모듈(131)은 검출된 적어도 하나의 보행자 및 적어도 하나의 차량 각각에 ID를 부여할 수 있다. The object detection module 131 may detect at least one pedestrian and at least one vehicle from a plurality of image frames received during a predetermined period of time. The object detection module 131 may assign an ID to each of the detected at least one pedestrian and at least one vehicle.

프로세서(130)는 움직임 예측 모듈(133)을 통해 검출된 적어도 하나의 보행자 및 적어도 하나의 차량의 위치 및 이동 시간을 바탕으로 적어도 하나의 보행자 및 적어도 하나의 차량의 이동 방향 및 속도를 예측할 수 있다. 예로, 도 3에 도시된 바와 같이, 제1 영상 프레임(310-1) 내지 제n 영상 프레임(310-n)에 포함된 보행자(310)와 차량(320)의 위치 및 이동 시간을 바탕으로 보행자(310)와 차량(320)의 이동 방향과 속도를 예측할 수 있다. The processor 130 may predict the moving direction and speed of at least one pedestrian and at least one vehicle based on the positions and moving times of at least one pedestrian and at least one vehicle detected by the motion estimation module 133 . For example, as shown in FIG. 3 , based on the positions and movement times of the pedestrian 310 and the vehicle 320 included in the first image frame 310-1 to the n-th image frame 310-n, the movement direction and speed of the pedestrian 310 and the vehicle 320 can be predicted.

프로세서(130)는 충돌 예측 모듈(135)을 통해 적어도 하나의 보행자 및 적어도 하나의 차량의 이동 방량과 속도를 바탕으로 충돌 가능성을 판단할 수 있다. 구체적으로, 충돌 예측 모듈(135)은 적어도 하나의 보행자 및 적어도 하나의 차량의 이동 방량과 속도를 바탕으로 적어도 하나의 보행자 및 적어도 하나의 차량의 예상 경로를 획득할 수 있다. 그리고, 충돌 예측 모듈(135)은 동일한 시점에 보행자와 차량 각각에 대해 생성된 예상 경로의 교점이 존재하는지 여부를 바탕으로 보행자와 차량 간의 충돌 가능성을 판단할 수 있다. 예로, 도 4에 도시된 바와 같이, 충돌 예측 모듈(135)은 보행자(310)의 이동 방향 및 이동 속도를 바탕으로 보행자의 제1 예상 경로(410)를 판단하고, 차량의 이동 방향 및 이동 속도를 바탕으로 보행자의 제2 예상 경로(420)를 판단할 수 있다. 동일한 시점(예를 들어, 2초 후)에 제1 예상 경고(410)와 제2 예상 경로(420)에 교점(430)이 발생하는 것으로 판단되면, 충돌 예측 모듈(135)은 보행자(310)와 차량(320)이 충돌할 수 있음을 예측할 수 있다. The processor 130 may determine the possibility of collision based on the moving distance and speed of at least one pedestrian and at least one vehicle through the collision prediction module 135 . Specifically, the collision prediction module 135 may obtain the predicted path of the at least one pedestrian and the at least one vehicle based on the moving distance and speed of the at least one pedestrian and the at least one vehicle. In addition, the collision prediction module 135 may determine the possibility of collision between the pedestrian and the vehicle based on whether there exists an intersection of the predicted paths generated for each of the pedestrian and the vehicle at the same time point. For example, as shown in FIG. 4 , the collision prediction module 135 determines the first predicted path 410 of the pedestrian based on the moving direction and moving speed of the pedestrian 310, and the moving direction and moving speed of the vehicle. Based on the predicted second expected path 420 of the pedestrian. If it is determined that the intersection 430 occurs between the first expected warning 410 and the second predicted path 420 at the same time point (for example, 2 seconds later), the collision prediction module 135 may predict that the pedestrian 310 and the vehicle 320 may collide.

프로세서(130)는 경고 메시지 제공 모듈(137)을 통해 차량의 운전자와 보행자에게 경고 메시지를 제공할 수 있다. 구체적으로, 차량이 충돌된 것으로 판단되면, 경고 메시지 제공 모듈(327)은 차량의 번호를 식별할 수 있다. 예로, 도 5에 도시된 바와 같이, 경고 메시지 제공 모듈(137) 검출된 차량(510)의 특정 위치(예를 들어, 앞 범퍼 주위)에 위치하는 번호판을 인식할 수 있으며, 숫자 인식을 위해 학습된 신경망 모델을 통해 번호판에 포함된 차량 번호를 인식할 수 있다. 한편, 차량의 차량 번호는 충돌 가능성이 높은 경우 식별될 수 있으나, 이는 일 실시예에 불과할 뿐, 객체 인식 모듈(131)이 객체를 인식하여 ID를 부여할 때 식별될 수 있다. The processor 130 may provide a warning message to the driver and pedestrians of the vehicle through the warning message providing module 137 . Specifically, if it is determined that the vehicle has collided, the warning message providing module 327 may identify the vehicle number. For example, as shown in FIG. 5, the warning message providing module 137 may recognize a license plate located at a specific location (e.g., around the front bumper) of the detected vehicle 510, and may recognize a vehicle number included in a license plate through a neural network model trained for number recognition. Meanwhile, the license plate number of the vehicle may be identified when the possibility of collision is high, but this is only an example, and may be identified when the object recognition module 131 recognizes the object and assigns an ID.

경고 메시지 제공 모듈(137)은 식별된 차량 번호에 대응되는 식별 정보(예를 들어, 연락처, ID 등)를 가지는 운전자에 대한 정보를 검색할 수 있다. 운전자가 검색되면, 경고 메시지 제공 모듈(137)은 운전자에 대한 정보를 바탕으로 운전자의 사용자 단말(20)로 경고 메시지를 출력할 수 있다.The warning message providing module 137 may retrieve information about a driver having identification information (eg, contact number, ID, etc.) corresponding to the identified vehicle number. When the driver is searched for, the warning message providing module 137 may output a warning message to the driver's user terminal 20 based on information about the driver.

또한, 경고 메시지 제공 모듈(137)은 촬영 장치(10) 주위의 액세스 포인트(30)를 검색하기 위해 영상을 전송한 촬영 장치(20)의 GPS 정보를 식별할 수 있다. 그리고, 경고 메시지 제공 모듈(137)은 식별된 GPS 정보를 바탕으로 촬영 장치(10) 주위의 액세스 포인트(30)를 식별할 수 있다. 그리고, 경고 메시지 제공 모듈(137)은 식별된 액세스 포인트(30)로 경고 메시지를 브로드캐스팅하라는 신호를 전송할 수 있다. 이에 의해, 검출된 보행자의 사용자 단말이 브로드캐스팅된 경고 메시지를 수신한 경우, 검출된 보행자의 사용자 단말에 설치된 어플리케이션을 통해 경고 메시지가 출력될 수 있다. 뿐만 아니라, 검출된 보행자 뿐만 아니라 촬영 장치(10) 주위에 위치하는 모든 보행자의 사용자 단말에 경고 메시지가 출력될 수 있다. Also, the warning message providing module 137 may identify GPS information of the photographing device 20 that has transmitted the image in order to search for an access point 30 around the photographing device 10 . Also, the warning message providing module 137 may identify the access point 30 around the photographing device 10 based on the identified GPS information. And, the warning message providing module 137 may transmit a signal to broadcast the warning message to the identified access point 30 . Accordingly, when the user terminal of the detected pedestrian receives the broadcast warning message, the warning message may be output through an application installed in the user terminal of the detected pedestrian. In addition, a warning message may be output to user terminals of not only the detected pedestrian but also all pedestrians located around the photographing device 10 .

경고 상황이 발생하거나 사고 상황이 발생된 것으로 판단되면, 프로세서(130)는 상황 정보를 저장할 수 있다. 이때, 상황 정보라 함은 영상, 차량 번호, 촬영 장치(10)의 GPS 정보 중 적어도 하나를 포함할 수 있다. When it is determined that a warning situation occurs or an accident situation occurs, the processor 130 may store situation information. In this case, the situation information may include at least one of an image, a vehicle number, and GPS information of the photographing device 10 .

한편, 서버(10)의 시스템 하드웨어는 임베디드 보드를 활용할 수 있으며, 이를 통해 15 W이하의 저전력을 통해 보행자와 차량 간의 충돌 가능성을 감지할 수 있다.Meanwhile, the system hardware of the server 10 may utilize an embedded board, and through this, it is possible to detect the possibility of a collision between a pedestrian and a vehicle through low power of 15 W or less.

도 6은 본 개시의 일 실시예에 따른, 보행자와 차량의 충돌을 방지하기 위한 서버의 제어 방법을 설명하기 위한 흐름도이다.6 is a flowchart illustrating a control method of a server for preventing a collision between a pedestrian and a vehicle according to an embodiment of the present disclosure.

우선, 서버(100)는 촬영 장치(10)로부터 영상을 획득할 수 있다(S605).First, the server 100 may obtain an image from the photographing device 10 (S605).

서버(100)는 획득된 영상으로부터 보행자 및 차량을 검출할 수 있다(S610). 이때, 서버(100)는 딥러닝을 통해 학습된 신경망 모델을 이용하여 획득된 영상으로부터 보행자 및 차량을 검출할 수 있다.The server 100 may detect pedestrians and vehicles from the obtained image (S610). At this time, the server 100 may detect pedestrians and vehicles from the obtained image using a neural network model learned through deep learning.

서버(100)는 보행자 및 차량의 위치 및 시간에 대한 데이터를 수집할 수 있다(S615). 즉, 서버(100)는 촬영 장치(10)로부터 실시간으로 수신되는 영상 프레임으로부터 보행자 및 차량의 위치 및 시간에 대한 데이터를 수집할 수 있다.The server 100 may collect data on the location and time of pedestrians and vehicles (S615). That is, the server 100 may collect data on the location and time of pedestrians and vehicles from image frames received in real time from the photographing device 10 .

데이터의 개수가 임계값(N) 이상 획득되면(S620-Y), 서버(100)는 보행자 및 차량의 위치 및 시간에 대한 데이터를 바탕으로 보행자 및 차량의 이동 방향 및 속도를 예측할 수 있다(S625). When the number of data is obtained equal to or greater than the threshold value N (S620-Y), the server 100 may predict the moving direction and speed of the pedestrian and vehicle based on the location and time data of the pedestrian and vehicle (S625).

서버(100)는 보행자 및 차량의 이동 방향 및 속도를 바탕으로 충돌 가능성을 예측할 수 있다(S630). 구체적으로, 서버(100)는 예측된 이동 방향 및 속도를 바탕으로 보행자와 차량 각각의 예상 경로를 생성하고, 동일한 시점에 검출된 보행자와 검출된 차량 각각에 대해 생성된 예상 경로의 교점이 존재하는지 여부를 바탕으로 보행자와 차량 간의 충돌 가능성을 판단할 수 있다.The server 100 may predict the possibility of collision based on the moving direction and speed of the pedestrian and the vehicle (S630). Specifically, the server 100 generates an expected path for each pedestrian and vehicle based on the predicted moving direction and speed, and determines the possibility of collision between the pedestrian and the vehicle based on whether or not there exists an intersection of the predicted path generated for each of the pedestrian and the detected vehicle detected at the same time.

보행자와 차량이 충돌할 것으로 판단된 경우(S635-Y), 서버(100)는 차량 번호판을 검출하고, 차량 번호를 인식할 수 있다(S640). 이때, 서버(100)는 차량 번호판 및 차량 번호를 인식하기 위해 딥러닝으로 학습된 신경망 모델을 이용할 수 있다.If it is determined that the pedestrian and the vehicle will collide (S635-Y), the server 100 may detect the vehicle license plate and recognize the vehicle number (S640). In this case, the server 100 may use a neural network model learned through deep learning to recognize license plates and vehicle numbers.

서버(100)는 운전자의 사용자 단말(20)로 경고 메시지를 전송할 수 있다(S645).The server 100 may transmit a warning message to the driver's user terminal 20 (S645).

또한, 서버(100)는 촬영 장치가 위치하는 액세스 포인트로 신호를 전송할 수 있다(S650). 이때, 신호에는 보행자의 사용자 단말로 경고 메시지를 전송하기 위해 경고 메시지를 브로드캐스팅하라는 제어 정보가 포함될 수 있다. Also, the server 100 may transmit a signal to the access point where the photographing device is located (S650). In this case, the signal may include control information to broadcast a warning message to transmit the warning message to the user terminal of the pedestrian.

서버(100)는 경고 상황에 대한 정보를 저장할 수 있다(S655). 구체적으로, 서버(100)는 경고 상황의 영상, 차량 정보 등을 저장할 수 있다.The server 100 may store information on the warning situation (S655). Specifically, the server 100 may store an image of a warning situation, vehicle information, and the like.

상술한 바와 같은 본 개시의 다양한 실시예에 따라, 서버(100)가 사용자 단말(20,40)을 통해 청각 및 촉각 경고를 하기 때문에 시끄러운 주변환경이나 사용자가 주의 집중을 하지 않고 있는 상황에서도 보행자나 운전자가 즉각 경고를 인지할 수 있다. 또한, 충돌 경고시 주변 보행자 모두에게 경고방송을 함으로써 사고 발생 시 빠른 대처에 도움을 줄 수 있다. 뿐만 아니라, 높은 위치에 설치된 촬영 장치를 활용하기 때문에 운전자의 사각지대에서 갑작스럽게 발생할 수 있는 사고를 예방할 수 있다. According to various embodiments of the present disclosure as described above, since the server 100 issues an audible and tactile warning through the user terminals 20 and 40, the pedestrian or driver can immediately recognize the warning even in a noisy environment or in a situation where the user is not paying attention. In addition, by broadcasting a warning to all nearby pedestrians in the event of a collision warning, it is possible to help in quick response in the event of an accident. In addition, since a photographing device installed at a high location is used, an accident that may suddenly occur in a driver's blind spot can be prevented.

한편, 본 개시에서 보행자와 차량 간의 충돌 가능성을 판단하여 경고 메시지를 제공하는 것으로 설명하였으나, 이는 일 실시예에 불과할 뿐, 별도의 단말(예를 들어, CCTV에 설치된 장치)에서 보행자와 차량 간의 충돌 가능성을 판단하여 경고 메시지를 제공할 수 있다.On the other hand, in the present disclosure, it has been described that a warning message is provided by determining the possibility of collision between a pedestrian and a vehicle, but this is only one embodiment, and a separate terminal (eg, a device installed in a CCTV) determines the possibility of collision between a pedestrian and a vehicle and provides a warning message.

한편, 이상에서 상술한 바와 같은 신경망 모델에 관련된 기능은 메모리 및 프로세서를 통해 수행될 수 있다. 프로세서는 하나 또는 복수의 프로세서로 구성될 수 있다. 이때, 하나 또는 복수의 프로세서는 CPU, AP 등과 같은 범용 프로세서, GPU. VPU 등과 같은 그래픽 전용 프로세서 또는 NPU와 같은 인공 지능 전용 프로세서일 수 있다. 하나 또는 복수의 프로세서는, 비휘발성 메모리 및 휘발성 메모리에 저장된 기 정의된 동작 규칙 또는 인공 지능 모델에 따라, 입력 데이터를 처리하도록 제어한다. 기 정의된 동작 규칙 또는 인공 지능 모델은 학습을 통해 만들어진 것을 특징으로 한다. Meanwhile, functions related to the neural network model as described above may be performed through a memory and a processor. A processor may consist of one or a plurality of processors. At this time, one or a plurality of processors are CPUs, general-purpose processors such as APs, GPUs. It may be a graphics-only processor, such as a VPU, or an artificial intelligence-only processor, such as an NPU. One or more processors control the input data to be processed according to predefined operating rules or artificial intelligence models stored in the non-volatile memory and the volatile memory. A predefined action rule or artificial intelligence model is characterized in that it is created through learning.

여기서, 학습을 통해 만들어진다는 것은, 다수의 학습 데이터들에 학습 알고리즘을 적용함으로써, 원하는 특성의 기 정의된 동작 규칙 또는 인공 지능 모델이 만들어짐을 의미한다. 이러한 학습은 본 개시에 따른 인공 지능이 수행되는 기기 자체에서 이루어질 수도 있고, 별도의 서버/시스템을 통해 이루어 질 수도 있다. Here, being created through learning means that a predefined operation rule or an artificial intelligence model having desired characteristics is created by applying a learning algorithm to a plurality of learning data. Such learning may be performed in the device itself in which artificial intelligence according to the present disclosure is performed, or may be performed through a separate server/system.

신경망 모델은, 복수의 신경망 레이어들로 구성될 수 있다. 각 레이어는 복수의 가중치(weight values)을 갖고 있으며, 이전(previous) 레이어의 연산 결과와 복수의 가중치의 연산을 통해 레이어의 연산을 수행한다. 신경망의 예로는, CNN (Convolutional Neural Network), DNN (Deep Neural Network), RNN (Recurrent Neural Network), RBM (Restricted Boltzmann Machine), DBN (Deep Belief Network), BRDNN(Bidirectional Recurrent Deep Neural Network), GAN(Generative Adversarial Networks) 및 심층 Q-네트워크 (Deep Q-Networks)이 있으며, 본 개시에서의 신경망은 명시한 경우를 제외하고 전술한 예에 한정되지 않는다.A neural network model may be composed of a plurality of neural network layers. Each layer has a plurality of weight values, and the layer operation is performed through the operation result of the previous layer and the plurality of weight values. Examples of neural networks include Convolutional Neural Network (CNN), Deep Neural Network (DNN), RNN (Recurrent Neural Network), RBM (RBM) Network), BRDNN (Bidirectional Recurrent Deep Neural Network), GAN (Generate Adversarial Networks), and Deep Q-Networks, except for the case of the nerve network in this disclosure. It is not limited to a drunken example.

학습 알고리즘은, 다수의 학습 데이터들을 이용하여 소정의 대상 기기(예컨대, 로봇)을 훈련시켜 소정의 대상 기기 스스로 결정을 내리거나 예측을 할 수 있도록 하는 방법이다. 학습 알고리즘의 예로는, 지도형 학습(supervised learning), 비지도형 학습(unsupervised learning), 준지도형 학습(semi-supervised learning) 또는 강화 학습(reinforcement learning)이 있으며, 본 개시에서의 학습 알고리즘은 명시한 경우를 제외하고 전술한 예에 한정되지 않는다.A learning algorithm is a method of training a predetermined target device (eg, a robot) using a plurality of learning data so that the predetermined target device can make a decision or make a prediction by itself. Examples of the learning algorithm include supervised learning, unsupervised learning, semi-supervised learning, or reinforcement learning, and the learning algorithm in the present disclosure is not limited to the above-described examples except for the cases specified.

기기로 읽을 수 있는 저장매체는, 비일시적(non-transitory) 저장매체의 형태로 제공될 수 있다. 여기서, '비일시적 저장매체'는 실재(tangible)하는 장치이고, 신호(signal)(예: 전자기파)를 포함하지 않는다는 것을 의미할 뿐이며, 이 용어는 데이터가 저장매체에 반영구적으로 저장되는 경우와 임시적으로 저장되는 경우를 구분하지 않는다. 예로, '비일시적 저장매체'는 데이터가 임시적으로 저장되는 버퍼를 포함할 수 있다.The device-readable storage medium may be provided in the form of a non-transitory storage medium. Here, 'non-temporary storage medium' only means that it is a tangible device and does not contain a signal (e.g., electromagnetic wave), and this term does not distinguish between the case where data is semi-permanently stored in the storage medium and the case where it is temporarily stored. For example, a 'non-temporary storage medium' may include a buffer in which data is temporarily stored.

일 실시 예에 따르면, 본 문서에 개시된 다양한 실시 예들에 따른 방법은 컴퓨터 프로그램 제품(computer program product)에 포함되어 제공될 수 있다. 컴퓨터 프로그램 제품은 상품으로서 판매자 및 구매자 간에 거래될 수 있다. 컴퓨터 프로그램 제품은 기기로 읽을 수 있는 저장 매체(예: compact disc read only memory (CD-ROM))의 형태로 배포되거나, 또는 어플리케이션 스토어(예: 플레이 스토어TM)를 통해 또는 두개의 사용자 장치들(예: 스마트폰들) 간에 직접, 온라인으로 배포(예: 다운로드 또는 업로드)될 수 있다. 온라인 배포의 경우에, 컴퓨터 프로그램 제품(예: 다운로더블 앱(downloadable app))의 적어도 일부는 제조사의 서버, 어플리케이션 스토어의 서버, 또는 중계 서버의 메모리와 같은 기기로 읽을 수 있는 저장 매체에 적어도 일시 저장되거나, 임시적으로 생성될 수 있다.According to one embodiment, the method according to various embodiments disclosed in this document may be included and provided in a computer program product. Computer program products may be traded between sellers and buyers as commodities. A computer program product may be distributed in the form of a device-readable storage medium (e.g., compact disc read only memory (CD-ROM)), or may be distributed (e.g., downloaded or uploaded) online, through an application store (e.g., Play Store™) or directly between two user devices (e.g., smartphones). In the case of online distribution, at least a part of a computer program product (e.g., a downloadable app) is at least temporarily stored in a device-readable storage medium, such as a manufacturer's server, an application store server, or a relay server's memory, or may be temporarily created.

이상에서 상술한 바와 같은 본 개시의 다양한 실시 예들에 따른 구성 요소(예: 모듈 또는 프로그램) 각각은 단수 또는 복수의 개체로 구성될 수 있으며, 전술한 해당 서브 구성 요소들 중 일부 서브 구성 요소가 생략되거나, 또는 다른 서브 구성 요소가 다양한 실시 예에 더 포함될 수 있다. 대체적으로 또는 추가적으로, 일부 구성 요소들(예: 모듈 또는 프로그램)은 하나의 개체로 통합되어, 통합되기 이전의 각각의 해당 구성 요소에 의해 수행되는 기능을 동일 또는 유사하게 수행할 수 있다. Each of the components (eg, modules or programs) according to various embodiments of the present disclosure as described above may be composed of a single object or a plurality of entities, and some of the sub-components may be omitted or other sub-components may be further included in various embodiments. Alternatively or additionally, some components (eg, modules or programs) may be integrated into one entity and perform the same or similar functions performed by each corresponding component prior to integration.

다양한 실시 예들에 따른, 모듈, 프로그램 또는 다른 구성 요소에 의해 수행되는 동작들은 순차적, 병렬적, 반복적 또는 휴리스틱하게 실행되거나, 적어도 일부 동작이 다른 순서로 실행되거나, 생략되거나, 또는 다른 동작이 추가될 수 있다.According to various embodiments, operations performed by modules, programs, or other components may be executed sequentially, in parallel, repetitively, or heuristically, or at least some operations may be executed in a different order, may be omitted, or other operations may be added.

한편, 본 개시에서 사용된 용어 "부" 또는 "모듈"은 하드웨어, 소프트웨어 또는 펌웨어로 구성된 유닛을 포함하며, 예를 들면, 로직, 논리 블록, 부품, 또는 회로 등의 용어와 상호 호환적으로 사용될 수 있다. "부" 또는 "모듈"은, 일체로 구성된 부품 또는 하나 또는 그 이상의 기능을 수행하는 최소 단위 또는 그 일부가 될 수 있다. 예를 들면, 모듈은 ASIC(application-specific integrated circuit)으로 구성될 수 있다.Meanwhile, the term “unit” or “module” used in the present disclosure includes a unit composed of hardware, software, or firmware, and may be used interchangeably with terms such as logic, logic block, component, or circuit. A “unit” or “module” may be an integrated component or a minimum unit or part thereof that performs one or more functions. For example, the module may be composed of an application-specific integrated circuit (ASIC).

본 개시의 다양한 실시 예들은 기기(machine)(예: 컴퓨터)로 읽을 수 있는 저장 매체(machine-readable storage media에 저장된 명령어를 포함하는 소프트웨어로 구현될 수 있다. 기기는 저장 매체로부터 저장된 명령어를 호출하고, 호출된 명령어에 따라 동작이 가능한 장치로서, 개시된 실시 예들에 따른 서버를 포함할 수 있다. Various embodiments of the present disclosure may be implemented as software including instructions stored in a storage medium readable by a machine (eg, a computer). A device is a device capable of calling instructions stored in the storage medium and operating according to the called instructions, and may include a server according to the disclosed embodiments.

상기 명령이 프로세서에 의해 실행될 경우, 프로세서가 직접 또는 상기 프로세서의 제어 하에 다른 구성요소들을 이용하여 상기 명령에 해당하는 기능을 수행할 수 있다. 명령은 컴파일러 또는 인터프리터에 의해 생성 또는 실행되는 코드를 포함할 수 있다. When the command is executed by a processor, the processor may directly or use other elements under the control of the processor to perform a function corresponding to the command. An instruction may include code generated or executed by a compiler or interpreter.

이상에서는 본 개시의 바람직한 실시 예에 대하여 도시하고 설명하였지만, 본 개시는 상술한 특정의 실시 예에 한정되지 아니하며, 청구범위에서 청구하는 본 개시의 요지를 벗어남이 없이 당해 개시가 속하는 기술분야에서 통상의 지식을 가진 자에 의해 다양한 변형실시가 가능한 것은 물론이고, 이러한 변형실시들은 본 개시의 기술적 사상이나 전망으로부터 개별적으로 이해되어서는 안 될 것이다.Although preferred embodiments of the present disclosure have been shown and described above, the present disclosure is not limited to the specific embodiments described above, and various modifications and implementations are possible by those skilled in the art without departing from the gist of the present disclosure claimed in the claims, and these modified implementations should not be individually understood from the technical spirit or prospect of the present disclosure.

10: 촬영 장치 100: 서버
20: 운전자의 사용자 단말 30: 액세스 포인트(AP)
40: 보행자의 사용자 단말
10: shooting device 100: server
20: driver's user terminal 30: access point (AP)
40: pedestrian user terminal

Claims (14)

보행자와 차량의 충돌 방지를 위한 서버의 제어 방법에 있어서,
촬영 장치로부터 영상을 획득하는 단계;
상기 영상에 포함된 보행자와 차량을 검출하는 단계;
상기 검출된 보행자와 상기 검출된 차량 각각의 이동 방향 및 속도를 예측하는 단계;
상기 예측된 이동 방향 및 속도를 바탕으로 상기 검출된 보행자와 상기 검출된 차량 간의 충돌 가능성을 판단하는 단계;
상기 검출된 보행자와 상기 검출된 차량 사이에 충돌이 가능하다고 판단된 경우, 상기 검출된 차량의 차량 번호를 인식하는 단계;
상기 차량 번호에 대응되는 사용자 단말로 경고 메시지를 전송하는 단계;
상기 촬영 장치의 GPS 정보를 식별하는 단계;
상기 GPS 정보를 바탕으로 상기 충돌이 발생할 지점에 위치하는 액세스 포인트(Access point)를 식별하는 단계;
상기 식별된 액세스 포인트로 경고 메시지를 브로드캐스팅하라는 신호를 전송하는 단계; 및
상기 검출된 보행자의 사용자 단말이 상기 브로드캐스팅된 경고 메시지를 수신한 경우, 상기 검출된 보행자의 사용자 단말에 설치된 어플리케이션을 통해 경고 메시지를 출력하는 단계;를 포함하고,
상기 판단하는 단계는,
상기 예측된 이동 방향 및 속도를 바탕으로 상기 검출된 보행자와 상기 검출된 차량 각각의 예상 경로를 생성하고,
동일한 시점에 상기 검출된 보행자와 상기 검출된 차량 각각에 대해 생성된 예상 경로의 교점이 존재하는지 여부를 바탕으로 상기 검출된 보행자와 상기 검출된 차량 간의 충돌 가능성을 판단하는, 방법.
In the server control method for preventing collision between a pedestrian and a vehicle,
Obtaining an image from a photographing device;
detecting pedestrians and vehicles included in the image;
predicting a moving direction and speed of each of the detected pedestrian and the detected vehicle;
determining a possibility of collision between the detected pedestrian and the detected vehicle based on the predicted moving direction and speed;
recognizing a license plate number of the detected vehicle when it is determined that a collision is possible between the detected pedestrian and the detected vehicle;
Transmitting a warning message to a user terminal corresponding to the vehicle number;
identifying GPS information of the photographing device;
identifying an access point located at a point where the collision occurs based on the GPS information;
transmitting a signal to broadcast a warning message to the identified access point; and
When the user terminal of the detected pedestrian receives the broadcast warning message, outputting a warning message through an application installed in the user terminal of the detected pedestrian;
The step of judging is
Based on the predicted moving direction and speed, an expected path of each of the detected pedestrian and the detected vehicle is generated;
The method of determining the possibility of collision between the detected pedestrian and the detected vehicle based on whether there is an intersection of the predicted path generated for each of the detected pedestrian and the detected vehicle at the same time point.
제1항에 있어서,
상기 예측하는 단계는,
임계 시간 동안 획득된 복수의 영상 프레임에 포함된 상기 검출된 보행자 및 상기 검출된 차량의 위치를 바탕으로 상기 검출된 보행자와 상기 검출된 차량 각각의 이동 방향 및 속도를 예측하는 방법.
According to claim 1,
The predicting step is
A method of predicting a moving direction and speed of each of the detected pedestrian and the detected vehicle based on the positions of the detected pedestrian and the detected vehicle included in a plurality of image frames acquired for a critical period of time.
삭제delete 삭제delete 삭제delete 제1항에 있어서,
상기 경고 메시지는,
상기 사용자 단말에 설치된 어플리케이션을 통해 출력되며, 시각, 청각 및 촉각 중 적어도 하나의 형태로 출력되는 방법.
According to claim 1,
The warning message is
A method of outputting through an application installed in the user terminal and outputting in the form of at least one of visual, auditory, and tactile.
제1항에 있어서,
상기 검출된 보행자와 상기 검출된 차량 사이에 충돌이 가능하다고 판단된 경우, 상기 획득된 영상 및 상기 검출된 차량 번호를 저장하는 단계;를 포함하는 방법.
According to claim 1,
and storing the obtained image and the detected vehicle number when it is determined that a collision is possible between the detected pedestrian and the detected vehicle.
보행자와 차량의 충돌 방지를 위한 서버의 제어 방법에 있어서,
통신 인터페이스;
적어도 하나의 인스트럭션을 저장하는 메모리; 및
상기 통신 인터페이스와 상기 메모리를 바탕으로 상기 서버를 제어하는 프로세서;를 포함하며,
상기 프로세서는, 상기 적어도 하나의 인스트럭션을 실행함으로써,
상기 통신 인터페이스를 통해 촬영 장치로부터 영상을 획득하고,
상기 영상에 포함된 보행자와 차량을 검출하며,
상기 검출된 보행자와 상기 검출된 차량 각각의 이동 방향 및 속도를 예측하고,
상기 예측된 이동 방향 및 속도를 바탕으로 상기 검출된 보행자와 상기 검출된 차량 각각의 예상 경로를 생성하고,
동일한 시점에 상기 검출된 보행자와 상기 검출된 차량 각각에 대해 생성된 예상 경로의 교점이 존재하는지 여부를 바탕으로 상기 검출된 보행자와 상기 검출된 차량 간의 충돌 가능성을 판단하고,
상기 검출된 보행자와 상기 검출된 차량 사이에 충돌이 가능하다고 판단된 경우, 상기 검출된 차량의 차량 번호를 인식하고,
상기 차량 번호에 대응되는 사용자 단말로 경고 메시지를 전송하도록 상기 통신 인터페이스를 제어하고,
상기 촬영 장치의 GPS 정보를 식별하고,
상기 GPS 정보를 바탕으로 상기 충돌이 발생할 지점에 위치하는 액세스 포인트(Access point)를 식별하고,
상기 식별된 액세스 포인트로 경고 메시지를 브로드캐스팅하라는 신호를 전송하고,
상기 검출된 보행자의 사용자 단말이 상기 브로드캐스팅된 경고 메시지를 수신한 경우, 상기 검출된 보행자의 사용자 단말에 설치된 어플리케이션을 통해 경고 메시지를 출력하는 서버.
In the server control method for preventing collision between a pedestrian and a vehicle,
communication interface;
a memory storing at least one instruction; and
A processor controlling the server based on the communication interface and the memory; includes,
The processor, by executing the at least one instruction,
Obtaining an image from a photographing device through the communication interface;
Detecting pedestrians and vehicles included in the image,
predicting the moving direction and speed of each of the detected pedestrian and the detected vehicle;
Based on the predicted moving direction and speed, generating an expected path of each of the detected pedestrian and the detected vehicle;
Determining a possibility of collision between the detected pedestrian and the detected vehicle based on whether there exists an intersection of an expected path generated for each of the detected pedestrian and the detected vehicle at the same time point;
When it is determined that a collision is possible between the detected pedestrian and the detected vehicle, recognizing the license plate number of the detected vehicle;
Controlling the communication interface to transmit a warning message to a user terminal corresponding to the vehicle number;
identifying GPS information of the photographing device;
Identifying an access point located at a point where the collision occurs based on the GPS information,
Sending a signal to broadcast a warning message to the identified access point;
When the user terminal of the detected pedestrian receives the broadcast warning message, the server outputs a warning message through an application installed in the user terminal of the detected pedestrian.
제8항에 있어서,
상기 프로세서는,
임계 시간 동안 획득된 복수의 영상 프레임에 포함된 상기 검출된 보행자 및 상기 검출된 차량의 위치를 바탕으로 상기 검출된 보행자와 상기 검출된 차량 각각의 이동 방향 및 속도를 예측하는 서버.
According to claim 8,
the processor,
A server for predicting a moving direction and speed of the detected pedestrian and the detected vehicle, respectively, based on the positions of the detected pedestrian and the detected vehicle included in a plurality of image frames acquired for a critical period of time.
삭제delete 삭제delete 삭제delete 제8항에 있어서,
상기 경고 메시지는,
상기 사용자 단말에 설치된 어플리케이션을 통해 출력되며, 시각, 청각 및 촉각 중 적어도 하나의 형태로 출력되는 서버.
According to claim 8,
The warning message is
A server that is output through an application installed in the user terminal and is output in the form of at least one of visual, auditory, and tactile.
제8항에 있어서,
상기 프로세서는,
상기 검출된 보행자와 상기 검출된 차량 사이에 충돌이 가능하다고 판단된 경우, 상기 획득된 영상 및 상기 검출된 차량의 차량 번호를 상기 메모리에 저장하는 서버.
According to claim 8,
the processor,
When it is determined that a collision is possible between the detected pedestrian and the detected vehicle, the server stores the obtained image and the license plate number of the detected vehicle in the memory.
KR1020200168807A 2020-12-04 2020-12-04 Server and Method for prevent collisions between pedestrians and vehicles thereof KR102560301B1 (en)

Priority Applications (1)

Application Number Priority Date Filing Date Title
KR1020200168807A KR102560301B1 (en) 2020-12-04 2020-12-04 Server and Method for prevent collisions between pedestrians and vehicles thereof

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
KR1020200168807A KR102560301B1 (en) 2020-12-04 2020-12-04 Server and Method for prevent collisions between pedestrians and vehicles thereof

Publications (2)

Publication Number Publication Date
KR20220079241A KR20220079241A (en) 2022-06-13
KR102560301B1 true KR102560301B1 (en) 2023-07-27

Family

ID=81984453

Family Applications (1)

Application Number Title Priority Date Filing Date
KR1020200168807A KR102560301B1 (en) 2020-12-04 2020-12-04 Server and Method for prevent collisions between pedestrians and vehicles thereof

Country Status (1)

Country Link
KR (1) KR102560301B1 (en)

Citations (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2019067282A (en) * 2017-10-04 2019-04-25 パナソニック株式会社 Roadside apparatus, communication system and risk detection method
KR102101956B1 (en) * 2019-12-27 2020-05-29 주식회사 한솔리드텍 Enforcement system for school-zone using pedestrian detection

Family Cites Families (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
KR20160147580A (en) * 2015-06-15 2016-12-23 인제대학교 산학협력단 Apparatus for overspeed warning to access the rear vehicle

Patent Citations (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2019067282A (en) * 2017-10-04 2019-04-25 パナソニック株式会社 Roadside apparatus, communication system and risk detection method
KR102101956B1 (en) * 2019-12-27 2020-05-29 주식회사 한솔리드텍 Enforcement system for school-zone using pedestrian detection

Also Published As

Publication number Publication date
KR20220079241A (en) 2022-06-13

Similar Documents

Publication Publication Date Title
US10495753B2 (en) Video to radar
KR102442061B1 (en) Electronic apparatus, alert message providing method of thereof and non-transitory computer readable recording medium
US11932274B2 (en) Electronic device and control method therefor
US20200062249A1 (en) Connected and Autonomous Vehicle (CAV) Behavioral Adaptive Driving
JP6888950B2 (en) Image processing device, external world recognition device
JP6625932B2 (en) Monitoring device and monitoring system
CN110910673B (en) Method and system for reminding pedestrian to collide with vehicle, camera and mobile terminal
CN109712431B (en) Driving support device and driving support system
KR102246706B1 (en) Autonomous driving device and method for operating autonomous driving device in anomaly situation
US20200094735A1 (en) System for generating warnings for road users
WO2018052714A2 (en) Video to radar
US11760387B2 (en) Driving policies determination
CN113516099A (en) Traffic behavior recognition method and device, electronic equipment and storage medium
CN116323366A (en) Method, apparatus and computer readable storage medium for providing three-dimensional stereo sound
JP6713349B2 (en) Image processing device, external recognition device
KR102560301B1 (en) Server and Method for prevent collisions between pedestrians and vehicles thereof
CN111278708A (en) Method and device for assisting driving
KR20180068462A (en) Traffic Light Control System and Method
KR102202665B1 (en) Method, apparatus and computer program for providing guide service using sonic communication to support pedestrian walking on a crosswalk
CN113053096B (en) Traffic accident early warning method and device, storage medium and intelligent lamp pole
CN113221800A (en) Monitoring and judging method and system for target to be detected
KR20130011350A (en) Method for guiding safe driving of car, apparatus and system for the same
JP6818948B1 (en) Driving support devices, driving support systems, driving support methods, and driving support programs
CN113808435B (en) Auxiliary device for a vehicle, corresponding method and storage medium
CN112384958A (en) Notification device and notification method

Legal Events

Date Code Title Description
E902 Notification of reason for refusal
AMND Amendment
E601 Decision to refuse application
AMND Amendment
X701 Decision to grant (after re-examination)
GRNT Written decision to grant