KR102155055B1 - 강화학습 기반 신호 제어 장치 및 신호 제어 방법 - Google Patents

강화학습 기반 신호 제어 장치 및 신호 제어 방법 Download PDF

Info

Publication number
KR102155055B1
KR102155055B1 KR1020190134942A KR20190134942A KR102155055B1 KR 102155055 B1 KR102155055 B1 KR 102155055B1 KR 1020190134942 A KR1020190134942 A KR 1020190134942A KR 20190134942 A KR20190134942 A KR 20190134942A KR 102155055 B1 KR102155055 B1 KR 102155055B1
Authority
KR
South Korea
Prior art keywords
information
intersection
signal
reinforcement learning
congestion
Prior art date
Application number
KR1020190134942A
Other languages
English (en)
Inventor
최태욱
Original Assignee
라온피플 주식회사
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by 라온피플 주식회사 filed Critical 라온피플 주식회사
Priority to KR1020190134942A priority Critical patent/KR102155055B1/ko
Application granted granted Critical
Publication of KR102155055B1 publication Critical patent/KR102155055B1/ko
Priority to CN202080008478.2A priority patent/CN113287156B/zh
Priority to PCT/KR2020/012363 priority patent/WO2021085848A1/ko
Priority to US17/422,984 priority patent/US11823573B2/en

Links

Images

Classifications

    • GPHYSICS
    • G08SIGNALLING
    • G08GTRAFFIC CONTROL SYSTEMS
    • G08G1/00Traffic control systems for road vehicles
    • G08G1/01Detecting movement of traffic to be counted or controlled
    • G08G1/0104Measuring and analyzing of parameters relative to traffic conditions
    • G08G1/0125Traffic data processing
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V20/00Scenes; Scene-specific elements
    • G06V20/50Context or environment of the image
    • G06V20/52Surveillance or monitoring of activities, e.g. for recognising suspicious objects
    • G06V20/53Recognition of crowd images, e.g. recognition of crowd congestion
    • GPHYSICS
    • G05CONTROLLING; REGULATING
    • G05BCONTROL OR REGULATING SYSTEMS IN GENERAL; FUNCTIONAL ELEMENTS OF SUCH SYSTEMS; MONITORING OR TESTING ARRANGEMENTS FOR SUCH SYSTEMS OR ELEMENTS
    • G05B13/00Adaptive control systems, i.e. systems automatically adjusting themselves to have a performance which is optimum according to some preassigned criterion
    • G05B13/02Adaptive control systems, i.e. systems automatically adjusting themselves to have a performance which is optimum according to some preassigned criterion electric
    • G05B13/0265Adaptive control systems, i.e. systems automatically adjusting themselves to have a performance which is optimum according to some preassigned criterion electric the criterion being a learning criterion
    • G05B13/027Adaptive control systems, i.e. systems automatically adjusting themselves to have a performance which is optimum according to some preassigned criterion electric the criterion being a learning criterion using neural networks only
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06NCOMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N3/00Computing arrangements based on biological models
    • G06N3/02Neural networks
    • G06N3/08Learning methods
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T1/00General purpose image data processing
    • G06T1/0007Image acquisition
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V10/00Arrangements for image or video recognition or understanding
    • G06V10/70Arrangements for image or video recognition or understanding using pattern recognition or machine learning
    • G06V10/82Arrangements for image or video recognition or understanding using pattern recognition or machine learning using neural networks
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V20/00Scenes; Scene-specific elements
    • G06V20/50Context or environment of the image
    • G06V20/52Surveillance or monitoring of activities, e.g. for recognising suspicious objects
    • G06V20/54Surveillance or monitoring of activities, e.g. for recognising suspicious objects of traffic, e.g. cars on the road, trains or boats
    • GPHYSICS
    • G08SIGNALLING
    • G08GTRAFFIC CONTROL SYSTEMS
    • G08G1/00Traffic control systems for road vehicles
    • G08G1/01Detecting movement of traffic to be counted or controlled
    • G08G1/0104Measuring and analyzing of parameters relative to traffic conditions
    • GPHYSICS
    • G08SIGNALLING
    • G08GTRAFFIC CONTROL SYSTEMS
    • G08G1/00Traffic control systems for road vehicles
    • G08G1/01Detecting movement of traffic to be counted or controlled
    • G08G1/0104Measuring and analyzing of parameters relative to traffic conditions
    • G08G1/0108Measuring and analyzing of parameters relative to traffic conditions based on the source of data
    • G08G1/0116Measuring and analyzing of parameters relative to traffic conditions based on the source of data from roadside infrastructure, e.g. beacons
    • GPHYSICS
    • G08SIGNALLING
    • G08GTRAFFIC CONTROL SYSTEMS
    • G08G1/00Traffic control systems for road vehicles
    • G08G1/01Detecting movement of traffic to be counted or controlled
    • G08G1/0104Measuring and analyzing of parameters relative to traffic conditions
    • G08G1/0125Traffic data processing
    • G08G1/0133Traffic data processing for classifying traffic situation
    • GPHYSICS
    • G08SIGNALLING
    • G08GTRAFFIC CONTROL SYSTEMS
    • G08G1/00Traffic control systems for road vehicles
    • G08G1/01Detecting movement of traffic to be counted or controlled
    • G08G1/0104Measuring and analyzing of parameters relative to traffic conditions
    • G08G1/0137Measuring and analyzing of parameters relative to traffic conditions for specific applications
    • G08G1/0145Measuring and analyzing of parameters relative to traffic conditions for specific applications for active traffic flow control
    • GPHYSICS
    • G08SIGNALLING
    • G08GTRAFFIC CONTROL SYSTEMS
    • G08G1/00Traffic control systems for road vehicles
    • G08G1/01Detecting movement of traffic to be counted or controlled
    • G08G1/04Detecting movement of traffic to be counted or controlled using optical or ultrasonic detectors
    • GPHYSICS
    • G08SIGNALLING
    • G08GTRAFFIC CONTROL SYSTEMS
    • G08G1/00Traffic control systems for road vehicles
    • G08G1/07Controlling traffic signals
    • GPHYSICS
    • G08SIGNALLING
    • G08GTRAFFIC CONTROL SYSTEMS
    • G08G1/00Traffic control systems for road vehicles
    • G08G1/07Controlling traffic signals
    • G08G1/075Ramp control
    • GPHYSICS
    • G08SIGNALLING
    • G08GTRAFFIC CONTROL SYSTEMS
    • G08G1/00Traffic control systems for road vehicles
    • G08G1/07Controlling traffic signals
    • G08G1/08Controlling traffic signals according to detected number or speed of vehicles
    • GPHYSICS
    • G08SIGNALLING
    • G08GTRAFFIC CONTROL SYSTEMS
    • G08G1/00Traffic control systems for road vehicles
    • G08G1/09Arrangements for giving variable traffic instructions
    • G08G1/095Traffic lights

Landscapes

  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Engineering & Computer Science (AREA)
  • Theoretical Computer Science (AREA)
  • Artificial Intelligence (AREA)
  • Evolutionary Computation (AREA)
  • Analytical Chemistry (AREA)
  • Chemical & Material Sciences (AREA)
  • Health & Medical Sciences (AREA)
  • Software Systems (AREA)
  • Computing Systems (AREA)
  • General Health & Medical Sciences (AREA)
  • Multimedia (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • Medical Informatics (AREA)
  • Life Sciences & Earth Sciences (AREA)
  • Biomedical Technology (AREA)
  • Biophysics (AREA)
  • Computational Linguistics (AREA)
  • Data Mining & Analysis (AREA)
  • Molecular Biology (AREA)
  • General Engineering & Computer Science (AREA)
  • Mathematical Physics (AREA)
  • Automation & Control Theory (AREA)
  • Databases & Information Systems (AREA)
  • Traffic Control Systems (AREA)

Abstract

강화학습 기반 신호 제어 장치 및 신호 제어 방법을 제시하며, 신호 제어 장치는 교차로의 영상을 촬영하여 교차로 이미지를 획득하는 촬영부; 상기 촬영부가 획득한 교차로 이미지를 분석하여 상기 교차로의 혼잡도 정보를 산출하고, 교차로의 혼잡도에 기초하여 연산되는 상태 정보와 리워드 정보를 입력 값으로 하여 트레이닝 되는 강화학습 모델과 상기 혼잡도 정보를 이용하여 다음 신호에 대한 제어 정보를 산출하는 제어부; 그리고 상기 제어부가 산출한 다음 신호에 대한 제어 정보에 따라 신호등을 구동시키는 구동부를 포함할 수 있다.

Description

강화학습 기반 신호 제어 장치 및 신호 제어 방법{APPARATUS AND METHOD FOR CONTROLLING TRAFFIC SIGNAL BASED ON REINFORCEMENT LEARNING}
본 명세서에서 개시되는 실시예들은 강화학습 기반 신호 제어 장치 및 신호 제어 방법에 관한 것으로, 보다 상세하게는 교차로의 혼잡도가 개선되도록 학습되는 강화학습 네트워크를 이용하여 교차로의 신호를 제어하는 강화학습 기반 신호 제어 장치 및 신호 제어 방법에 관한 것이다.
신호등은 도로에서의 질서를 유지하는데 필수적이지만, 신호등에 의해 교통 체증이 발생하는 경우가 많다. 특히 정체가 심한 차로의 이동방향에 대한 신호의 유지시간이 짧은 경우, 나머지 방향으로 이동하는 도로들도 함께 정체되는 경향이 있다.
그에 따라 최근에는 정체가 심한 이동 방향에 대한 신호 유지시간을 늘리고, 나머지 방향에 대한 신호 유지시간을 줄이는 등과 같이 실시간 교통량을 고려하여 제어되는 감응형 신호등이 설치되는 교차로가 늘고 있다.
특히 다른 교차로와 신호가 연동 제어되지 않는 독립 교차로에서는 해당 교차로의 현재 상태에 따라 교차로 신호를 단독으로 제어하는데, 이러한 경우 루프 검지기나 영상 검지기 등을 이용하여 해당 교차로의 상태를 파악하고, 교차로의 현재 상태에 맞게 교통 신호를 제어하기에 적절한 독립된 환경이 조성된다.
그러나 이와 같은 환경에서, 현재의 신호에 따른 교차로의 상태에 기초하여 적절한 다음 신호를 결정하는 것은 일반적인 지도학습이나 비지도학습 모델을 이용하여 수행하기 어려운 문제이다. 복잡하고 다양한 교차로의 환경과 교통 신호 체계에 의한 데이터들의 조합의 수가 매우 많이 때문에, 의미 있는 학습 결과를 산출하기 위해 과도하게 많은 학습 데이터가 필요하다. 또한 주어진 환경과 현재의 신호를 고려할 때 어떤 신호가 다음 신호로서 적절한 신호이고 어떤 신호가 적절하지 않은 신호인지를 구분하는 것은 거의 불가능하기 때문에, 종래의 지도 또는 비지도 학습 모델을 교차로 신호 제어에 활용하기 어렵다.
한국 공개특허 제 10-2009-0116172호 ‘인공지능 차량 신호등 제어장치’에는 영상 검지기를 이용하여 촬영된 영상을 분석하여 교통 신호등을 제어하는 방법이 기재되어 있다. 그러나 상기의 종래기술에서는 단순히 영상을 분석하여 특정 차로의 차량 존재 여부 등을 검출하기 위한 수단으로서 인공지능 모델이 이용될 뿐, 검출된 정보에 기반하여 다음 신호를 결정하는 것은 기존의 단편적인 연산에 의해 이루어지므로 신호 체계의 효율성을 도모하기 어렵다는 문제가 있다.
이처럼 종래에는 영상 분석뿐 아니라 구체적인 현시 신호를 결정하는 연산 자체에 기계 학습 모델을 적용함으로써, 교차로 내의 차로의 혼잡도를 전체적으로 개선할 수 있는 방법이 제시되지 못하고 있었다.
따라서 상술된 문제점을 해결하기 위한 기술이 필요하게 되었다.
한편, 전술한 배경기술은 발명자가 본 발명의 도출을 위해 보유하고 있었거나, 본 발명의 도출 과정에서 습득한 기술 정보로서, 반드시 본 발명의 출원 전에 일반 공중에게 공개된 공지기술이라 할 수는 없다.
본 명세서에서 개시되는 실시예들은, 강화학습 기반 신호 제어 장치 및 신호 제어 방법을 제시하는데 목적이 있다.
본 명세서에서 개시되는 실시예들은, 교차로의 상태를 검지하는 것뿐 아니라 교차로의 현재 상태에 따라 다음 신호를 제어하는 구체적인 연산에도 기계 학습 모델을 이용함으로써, 전체적인 신호 효율을 개선할 수 있는 강화학습 기반 신호 제어 장치 및 신호 제어 방법을 제시하는데 목적이 있다.
본 명세서에서 개시되는 실시예들은, 독립 교차로의 신호 제어에 혼잡도에 기반한 강화학습 모델을 이용하여, 효율적인 학습과 학습에 따른 신호 제어를 가능하게 하는 강화학습 기반 신호 제어 장치 및 신호 제어 방법을 제시하는데 목적이 있다.
상술한 기술적 과제를 달성하기 위한 기술적 수단으로서, 일 실시예에 따르면, 신호 제어 장치는 교차로의 영상을 촬영하여 교차로 이미지를 획득하는 촬영부; 상기 촬영부가 획득한 교차로 이미지를 분석하여 상기 교차로의 혼잡도 정보를 산출하고, 교차로의 혼잡도에 기초하여 연산되는 상태 정보와 리워드 정보를 입력 값으로 하여 트레이닝 되는 강화학습 모델과 상기 혼잡도 정보를 이용하여 다음 신호에 대한 제어 정보를 산출하는 제어부; 그리고 상기 제어부가 산출한 다음 신호에 대한 제어 정보에 따라 신호등을 구동시키는 구동부를 포함할 수 있다.
다른 실시예에 따르면, 신호 제어 장치에 의해 수행되는 신호 제어 방법은 가상 또는 실제의 학습대상 교차로의 혼잡도에 기초하여 강화학습 모델을 트레이닝하는 단계; 제어대상 교차로를 촬영하여 교차로 이미지를 획득하는 단계; 상기 교차로 이미지를 분석하여 각 차선영역 또는 주행방향 별 혼잡도 정보를 산출하는 단계; 상기 혼잡도 정보에 기초하여 상기 제어대상 교차로의 현재 상태정보를 연산하는 단계; 그리고 상기 강화학습 모델을 이용하여 상기 현재 상태정보와 현재 신호에 따른 다음 신호에 대한 제어 정보를 산출하는 단계; 그리고 산출된 제어 정보에 따라 상기 제어대상 교차로의 신호등을 구동시키는 단계를 포함할 수 있다.
다른 실시예에 따르면, 신호 제어 방법을 수행하는 프로그램이 기록된 컴퓨터 판독 가능한 기록 매체에서 신호 제어 방법은, 가상 또는 실제의 학습대상 교차로의 혼잡도에 기초하여 강화학습 모델을 트레이닝하는 단계; 제어대상 교차로를 촬영하여 교차로 이미지를 획득하는 단계; 상기 교차로 이미지를 분석하여 각 차선영역 또는 주행방향 별 혼잡도 정보를 산출하는 단계; 상기 혼잡도 정보에 기초하여 상기 제어대상 교차로의 현재 상태정보를 연산하는 단계; 그리고 상기 강화학습 모델을 이용하여 상기 현재 상태정보와 현재 신호에 따른 다음 신호에 대한 제어 정보를 산출하는 단계; 그리고 산출된 제어 정보에 따라 상기 제어대상 교차로의 신호등을 구동시키는 단계를 포함할 수 있다.
나아가 또 다른 실시예에 따르면, 신호 제어 장치에 의해 수행되며, 신호 제어 방법을 수행하기 위해 매체에 저장된 컴퓨터 프로그램에서 신호 제어 방법은, 가상 또는 실제의 학습대상 교차로의 혼잡도에 기초하여 강화학습 모델을 트레이닝하는 단계; 제어대상 교차로를 촬영하여 교차로 이미지를 획득하는 단계; 상기 교차로 이미지를 분석하여 각 차선영역 또는 주행방향 별 혼잡도 정보를 산출하는 단계; 상기 혼잡도 정보에 기초하여 상기 제어대상 교차로의 현재 상태정보를 연산하는 단계; 그리고 상기 강화학습 모델을 이용하여 상기 현재 상태정보와 현재 신호에 따른 다음 신호에 대한 제어 정보를 산출하는 단계; 그리고 산출된 제어 정보에 따라 상기 제어대상 교차로의 신호등을 구동시키는 단계를 포함할 수 있다.
전술한 과제 해결 수단 중 어느 하나에 의하면, 강화학습 기반 신호 제어 장치 및 신호 제어 방법을 제시할 수 있다.
본 명세서에서 개시되는 실시예들은, 강화학습 기반 신호 제어 장치 및 신호 제어 방법을 제시할 수 있다.
본 명세서에서 개시되는 실시예들은, 교차로의 상태를 검지하는 것뿐 아니라 교차로의 현재 상태에 따라 다음 신호를 제어하는 구체적인 연산에도 기계 학습 모델을 이용함으로써, 전체적인 신호 효율을 개선할 수 있는 강화학습 기반 신호 제어 장치 및 신호 제어 방법을 제시할 수 있다.
본 명세서에서 개시되는 실시예들은, 독립 교차로의 신호 제어에 혼잡도에 기반한 강화학습 모델을 이용하여, 효율적인 학습과 학습에 따른 신호 제어를 가능하게 하는 강화학습 기반 신호 제어 장치 및 신호 제어 방법을 제시할 수 있다.
개시되는 실시예들에서 얻을 수 있는 효과는 이상에서 언급한 효과들로 제한되지 않으며, 언급하지 않은 또 다른 효과들은 아래의 기재로부터 개시되는 실시예들이 속하는 기술분야에서 통상의 지식을 가진 자에게 명확하게 이해될 수 있을 것이다.
도 1은 일 실시예에 따른 신호 제어 장치를 도시한 블록도이다.
도 2및 도 3은 일 실시예에 따른 신호 제어 장치가 포함되는 시스템을 개략적으로 도시한 구성도이다.
도 4는 일반적인 강화학습 모델을 도시한 도면이다.
도 5는 일 실시예에 따른 신호 제어 장치의 강화학습 및 신호제어 과정을 설명하기 위한 도면이다.
도 6은 일 실시예에 따른 신호 제어 장치의 학습 데이터를 예시한 도면이다.
도 7은 일 실시예에 따른 신호 제어 방법의 강화학습 과정을 단계적으로 도시한 흐름도이다.
도 8은 일 실시예에 따른 신호 제어 방법의 강화학습된 모델을 이용하여 신호등을 제어하는 과정을 단계적으로 도시한 흐름도이다.
도 9및 도 10은 일 실시예에 따른 신호 제어 방법의 혼잡도 산출 과정을 단계적으로 도시한 흐름도이다.
아래에서는 첨부한 도면을 참조하여 다양한 실시예들을 상세히 설명한다. 아래에서 설명되는 실시예들은 여러 가지 상이한 형태로 변형되어 실시될 수도 있다. 실시예들의 특징을 보다 명확히 설명하기 위하여, 이하의 실시예들이 속하는 기술분야에서 통상의 지식을 가진 자에게 널리 알려져 있는 사항들에 관해서 자세한 설명은 생략하였다. 그리고, 도면에서 실시예들의 설명과 관계없는 부분은 생략하였으며, 명세서 전체를 통하여 유사한 부분에 대해서는 유사한 도면 부호를 붙였다.
명세서 전체에서, 어떤 구성이 다른 구성과 "연결"되어 있다고 할 때, 이는 ‘직접적으로 연결’되어 있는 경우뿐 아니라, ‘그 중간에 다른 구성을 사이에 두고 연결’되어 있는 경우도 포함한다. 또한, 어떤 구성이 어떤 구성을 "포함"한다고 할 때, 이는 특별히 반대되는 기재가 없는 한, 그 외 다른 구성을 제외하는 것이 아니라 다른 구성들을 더 포함할 수도 있음을 의미한다.
이하 첨부된 도면을 참고하여 실시예들을 상세히 설명하기로 한다.
도 1은 일 실시예에 따른 신호 제어 장치(100)의 구성을 도시한 블록도이고, 도 2와 도 3은 일 실시예에 따른 신호 제어 장치(100)를 포함하는 신호 제어 시스템의 개략적인 구성을 도시한 도면이다.
신호 제어 장치(100)는 교차로에 설치되어 교차로로의 진입차로 또는 교차로로부터의 진출차로 등의 이미지를 촬영하고 분석하는 장치이다. 이하에서는 교차로에 설치된 신호 제어 장치(100)가 촬영하는 이미지를 ‘교차로 이미지’라고 한다.
도 1에 도시된 바와 같이 신호 제어 장치(100)는 교차로 이미지를 촬영하는 촬영부(110)와, 교차로 이미지를 분석하는 제어부(120)를 포함한다.
촬영부(110)는 교차로 이미지를 촬영하기 위한 카메라를 포함할 수 있는데, 가시광선이나 적외선 등 일정범위의 파장의 영상을 촬영할 수 있는 카메라를 포함할 수 있다. 그에 따라 촬영부(110)는 주간이나 야간, 또는 현재의 상황에 따라 서로 다른 파장 영역의 영상을 촬영하여 교차로 이미지를 획득할 수도 있다. 이때 촬영부(110)는 미리 설정한 주기로 교차로 이미지를 획득할 수 있다.
그리고 제어부(120)는 촬영부(110)에 의해 획득된 교차로 이미지를 분석하여 혼잡도 정보를 생성한다. 이때 제어부(120)는 교차로 이미지를 분석 가능하게 가공하고, 가공된 교차로 이미지에서 차량에 대응하는 객체나 픽셀을 식별할 수 있다. 그리고 이를 위하여 제어부(120)는 인공신경망을 이용하여 교차로 이미지에서 차량에 대응하는 객체를 식별하거나 각 픽셀이 차량에 대응하는 위치인지를 식별할 수 있다.
이때 신호 제어 장치(100)는 교차로 이미지의 촬영을 위한 촬영부(110)와 촬영부(110)가 촬영한 교차로 이미지를 분석하는 제어부(120)가 서로 통신하되 물리적으로 이격 형성되도록, 둘 이상의 하드웨어 장치를 포함하여 구성될 수 있다. 즉 교차로 이미지의 촬영과 분석을 서로 이격된 하드웨어 장치가 구분하여 수행하도록 신호 제어 장치(100)가 구성될 수 있다. 이때 제어부(120)의 구성을 포함하는 하드웨어 장치는 서로 다른 복수의 촬영부(110)로부터 각각 교차로 이미지를 전달받아, 복수의 촬영부(110)에서 각각 획득된 교차로 이미지를 분석할 수도 있다.
또한 제어부(120)는 교차로 이미지를 분석하여 획득한 혼잡도 정보에 기초하여 교차로에 대한 제어신호를 생성할 수 있다. 이때 제어부(120)는 강화학습 모델을 이용하여 교차로의 현재 신호와 현재 상태에 대응하는 다음 신호를 산출할 수 있다. 이를 위해 강화학습 모델은 미리 학습될 수 있다.
또한 신호 제어 장치(100)는 저장부(130)를 포함할 수 있다. 저장부(130)는 교차로 이미지의 촬영이나 분석을 위해 필요한 프로그램이나 데이터, 파일, 운영체제 등을 저장하고, 교차로 이미지나 교차로 이미지의 분석 결과를 적어도 일시적으로 저장할 수 있다. 제어부(120)는 저장부(130)에 저장된 데이터에 접근하여 이를 이용하거나, 또는 새로운 데이터를 저장부(130)에 저장할 수도 있다. 또한, 제어부(120)는 저장부(130)에 설치된 프로그램을 실행할 수도 있다.
나아가 신호 제어 장치(100)는 구동부(140)를 포함할 수 있다. 구동부(140)는 신호등(S)에 구동신호를 인가함으로써, 교차로에 설치된 신호등(S)이 제어부(120)가 연산한 제어신호에 따라 구동되도록 할 수 있다.
이러한 신호 제어 장치(100)의 촬영부(110)는 상술한 바와 같이 교차로에 설치되되, 설치 높이나 위치에 따라 하나의 교차로에 하나만이 구비되거나, 또는 교차로의 진출입로 수에 대응하는 수만큼 구비될 수 있다. 예를 들어 4지 교차로의 경우, 신호 제어 장치(100)는 4개의 진출입로 각각을 구분하여 촬영하여 교차로 이미지를 획득하는 4개의 촬영부(110)를 포함할 수 있다.
이러한 신호 제어 장치(100)는 하나 이상의 하드웨어 구성요소를 포함하여 구성될 수 있고, 또한 후술할 신호 제어 시스템에 포함되는 하드웨어 구성요소들의 조합으로 이루어질 수도 있다.
구체적으로 신호 제어 장치(100)는, 도 2와 도 3에 도시된 바와 같이 신호 제어 시스템의 적어도 일부 구성으로서 형성될 수 있다. 이때 신호 제어 시스템은 상술한 교차로 이미지를 촬영하는 영상 검지 장치(10), 신호등(S)에 연결되어 구동신호를 인가하는 교통신호제어기(20), 그리고 교통신호제어기(20)와 원격에서 통신하여 교통 신호를 관제하는 중앙센터(30)를 포함할 수 있다.
여기서 교통신호제어기(20)는 도 3에 도시된 바와 같이 주제어부, 신호구동부, 그리고 기타장치부를 포함하여 구성될 수 있다. 이때 주제어부에는 전원장치, 메인보드, 운영자입력장치, 모뎀, 검지기보드, 옵션보드 등이 하나의 버스에 연결되도록 구성될 수 있다. 신호구동부는 컨트롤러보드, 점멸기, 동기구동장치, 확장보드 등을 포함하여 구성될 수 있다. 그 외에 신호 위반 여부를 검출하기 위한 영상 촬영 장치 등의 기타 장치를 제어하기 위한 기타장치부가 구비될 수 있다.
교통신호제어기(20)의 신호구동부는 메인보드로부터 제어신호를 수신하여, 상기 제어신호에 따라 신호등의 구동신호를 생성하고, 생성된 구동신호를 신호등으로 인가할 수 있다.
그리고 중앙센터(30)는 복수의 교차로의 교통신호제어기(20)가 서로 연관하여 제어될 수 있도록 중앙 제어하거나, 각각의 교통신호제어기(20)가 각 교차로 상황에 따라 로컬 제어되도록 할 수 있다. 중앙센터(30)는 적절한 제어 방식을 선택하거나, 구체적인 제어신호를 생성하는데 참조하기 위하여 각 교차로의 상황을 관제할 수 있으며, 영상 검지 장치(10)에 의해 촬영된 교차로 이미지를 직접 수신하거나 신호 제어 장치(100)가 생성한 혼잡도 정보를 수신할 수 있다. 혼잡도 정보에 대해서는 후술한다.
신호 제어 장치(100)는 상술한 신호 제어 시스템의 적어도 일부 구성을 이루도록 구성될 수 있으며, 상술한 신호 제어 시스템 자체일 수도 있다.
예를 들어, 신호 제어 장치(100)의 제어부(120)는 중앙센터(30)에 구비되고, 촬영부(110)는 영상 검지 장치(10) 내에 구성되며, 구동부(140)는 교통신호제어기(20) 내에 구성될 수 있다.
이하에서, 신호 제어 장치(100)의 제어부(120)의 동작을 보다 구체적으로 살펴보면, 제어부(120)는 촬영부(110)가 획득한 교차로 이미지를 분석하여, 교차로의 혼잡도 정보를 산출할 수 있다.
이를 위해 제어부(120)는 교차로 이미지를 입력으로 하여 교차로 이미지 내에 포함된 차량으로 추정되는 객체를 인식하고 인식된 객체의 위치에 대한 정보를 출력하는 인공신경망을 이용하여 각 객체의 위치 좌표를 획득하고, 획득된 각 객체의 위치 좌표의 분포에 따라 각 차선영역 또는 주행방향 별 혼잡도 정보를 산출할 수 있다.
구체적으로 제어부(120)가 이용하는 인공신경망의 입력 값은 교차로 이미지이고, 출력 값은 자동차로 추정되는 객체의 위치 정보와 객체의 크기 정보로 구성되도록 설정될 수 있다. 여기서 객체의 위치 정보는 객체의 중심점(P)의 좌표(x, y)이고, 크기 정보는 객체의 폭과 높이(w, h)에 대한 정보로서, 인공신경망의 출력 값은 각각의 객체(O)에 대해 (x, y, w, h)의 형식으로 산출될 수 있다. 제어부(120)는 출력 값으로부터 각 차량의 이미지의 중심점(P)의 좌표(x, y)를 2차원 좌표로 획득할 수 있다. 그에 따라 기 설정된 각각의 차선영역 또는 각 주행방향 별 차선영역 내의 객체의 분포를 산출할 수 있다. 이어서 제어부(120)는 차선영역 또는 각 주행방향 별 차선영역 내의 객체의 중심점 분포에 따라 혼잡도를 산출할 수 있다.
이때 혼잡도는 차선영역 별 또는 주행방향 별로 수치화하여 산출되는 정보로서, 각 영역 내에 포함된 중심점의 수에 대응하여 산출될 수 있다. 예를 들어 남서방향 좌회전 차선에 총 30개의 중심점이 분포하면, 해당 주행방향의 혼잡도가 100인 것으로 설정하고, 인공신경망에 의해 산출된 중심점의 분포에 따라 0 내지 100의 혼잡도 중 일정 수치의 혼잡도를 부여할 수 있다. 즉, 각 차선영역이나 주행방향의 차량이 포화 수준에 이른 경우 혼잡도를 100으로 설정하고, 각 차선영역이나 주행방향의 차량이 존재하지 않는 상태를 0으로 설정하였을 때, 나머지 상태를 객체의 수나 픽셀의 수에 따라 0과 100 사이에 존재하는 값으로 설정할 수 있다.
이때 제어부(120)는 미리 설정된 차선영역이나 주행방향 별 차선영역에 대한 정보를 이용할 수 있으며, 이러한 차선영역은 교차로 이미지 내에서 제어부(120)에 의해 인식되거나, 촬영부(110)의 촬영 각도가 변동되지 않는 경우에는 교차로 이미지 내의 특정영역으로 기 설정될 수 있다.
이때 사용 가능한 인공신경망은 예를 들어 YOLO, SSD, Faster R-CNN, Pelee 등이 될 수 있고, 이러한 인공신경망은 교차로 이미지 내에서 차량에 대응하는 객체를 인식할 수 있도록 트레이닝될 수 있다.
또한 다른 예로서 제어부(120)는 세그멘테이션(Segmentation) 분석을 수행하는 인공신경망을 이용하여 교차로의 혼잡도 정보를 취득할 수 있다. 제어부(120)는 교차로 이미지를 입력으로 하여 교차로 이미지에 포함된 각 픽셀이 차량에 대응할 확률을 나타내는 확률맵을 출력하는 인공신경망을 이용하여, 차량에 대응하는 픽셀을 추출하고, 추출된 각 픽셀을 교차로 평면 상의 픽셀로 변환한 후, 각 차선영역 또는 각 주행방향의 차선영역 내에 포함된 변환된 픽셀의 수에 따라 각 차선영역 또는 주행방향 별 혼잡도를 산출할 수 있다.
구체적으로 설명하면 제어부(120)가 이용하는 인공신경망의 입력 값은 교차로 이미지이고, 출력 값은 각 픽셀 별 자동차일 확률에 대한 맵이 될 수 있다. 그리고 제어부(120)는 인공신경망의 출력 값인 각 픽셀 별 자동차일 확률 맵에 기초하여 차량에 대응하는 객체를 구성하는 픽셀들을 추출할 수 있다. 그에 따라 교차로 이미지 내에서 객체에 대응하는 부분의 픽셀들만이 다른 픽셀들과 구분하여 추출되고, 제어부(120)는 차선영역 또는 각 주행방향의 차선영역 내의 각각의 픽셀들을 분포를 확인할 수 있다. 이어서 제어부(120)는 기 설정된 영역 내의 픽셀의 수에 따라 차선영역 또는 각 주행방향 별 혼잡도를 연산할 수 있다.
이때 사용할 수 있는 인공신경망은 예를 들어, FCN, Deconvolutional Network, Dilated Convolution, DeepLab 등이 될 수 있으며, 이러한 인공신경망은 교차로 이미지에 포함된 각각의 픽셀이 특정 객체, 특히 차량에 대응할 확률을 산출하여 확률맵을 작성하도록 트레이닝될 수 있다.
이어서 제어부(120)는 혼잡도 정보와 현재 시점의 신호패턴에 대한 정보, 즉 현시에 대한 정보를 참조하여 다음 현시에 대한 제어 정보를 산출할 수 있다.
여기서 현시는, 신호등(S)에 의해 나타나는 신호 패턴으로서, 예를 들어 동서남북 방향의 각 신호등에 각각 동시에 나타나는 신호들의 조합을 의미하며, 일반적으로는 서로 다른 현시가 순차적으로 나타나도록 설정된다.
이때 제어부(120)는 혼잡도 정보와 현시 정보에 기초하여 제어정보를 생성하기 위해 강화학습 모델을 이용할 수 있다.
도 4는 일반적인 강화학습 모델을 나타낸 도면이고, 도 5는 일 실시예에 따른 신호 제어 장치의 강화학습 및 신호제어 과정을 설명하기 위한 도면이다.
도 4에 도시된 바와 같이 강화학습 모델은 에이전트와 환경을 포함할 수 있다. 여기서 에이전트는 일반적으로 인공신경망이나 룩업테이블 등에 의해 구성되는 ‘정책’과, 환경으로부터 주어지는 상태정보와 리워드 정보를 참조하여 액션(At)을 결정하는 정책을 최적화하는 ‘강화학습 알고리즘’을 포함하여 구성될 수 있다. 이때 강화학습 알고리즘은 환경을 관찰하여 획득되는 상태정보(St)와, 상태가 목적하는 방향으로 개선될 때 주어지는 리워드(Rt), 그리고 정책에 따라 출력되는 액션(At)을 참조하여 정책을 개선한다.
그리고 이러한 과정은 단계마다 반복적으로 수행되고, 이하에서 현재에 대응하는 단계는 t로, 다음 단계는 t+1 등으로 구분하여 나타낸다.
일 실시예에서 신호 제어 장치(100)는, 교차로를 환경으로, 교차로의 혼잡도를 상태정보로 갖고, 기 설정된 복수의 서로 다른 현시의 패턴을 액션으로 하며, 혼잡도가 개선되면 리워드가 제공되도록 구성될 수 있다.
도 5에 도시된 바와 같이 교차로를 촬영한 영상으로부터 상술한 방법에 따라 혼잡도(Ct)가 산출될 수 있다. 그리고 이를 이용하여 상태정보(St)를 구성할 수 있다.
구체적으로는 다음과 같이 상태정보(St)가 정의될 수 있다.
Figure 112019110258539-pat00001
여기서 Ct는 혼잡도이고, k는 미리 구분된 차선영역이나 주행방향의 수이다.
그리고 리워드(Rt)는 혼잡도(Ct)에 기초하여 다음과 같이 연산될 수 있다.
우선 현재의 혼잡도 총합 Lt를 연산한다. 혼잡도 총합은 다음과 같이 산출될 수 있다.
Figure 112019110258539-pat00002
여기서 Lt은 각 차선 또는 주행방향에서 발생하는 혼잡도의 총 합이고, k는 전체 차선 또는 주행방향의 수이며, Cti는 현재의 각 차선영역 또는 주행방향 별 혼잡도이다.
그리고 위와 같이 연산되는 혼잡도 총합에 기초하여 리워드(Rt)가 결정된다.
Figure 112019110258539-pat00003
그에 따라 t+1 단계에서 혼잡도가 감소하면 리워드(Rt)가 양의 값을 가지므로, 강화학습 모델에 더 큰 보상이 주어진다.
이때 상술한 강화학습 모델은 Q-network 또는 Q-network에 다른 인공신경망이 결합되는 DQN을 포함하여 구성될 수 있다. 그에 따라 정책(π)를 최적화하는, 즉 각각의 트레이닝 단계에서 축적되는 미래 보상에 대한 기대 값을 최대화하는 액션(At)을 선택하도록 정책(π)을 학습시킨다.
즉, 다음과 같은 함수를 정의한다.
Figure 112019110258539-pat00004
여기서 상태(st)에서, 액션(at)에 대한 최적의 Q함수, Q*을 도출되도록 트레이닝이 수행된다. 또한
Figure 112019110258539-pat00005
은 Discount Factor로서 미래의 단계에 대한 리워드를 기대값 연산에 상대적으로 적게 반영함으로써, 현재의 리워드를 더 높이는 방향의 액션(At)이 선택되도록 하기 위한 것이다.
그리고 이때 Q함수는 실질적으로 테이블 형태로 구성되므로, 이를 Function Approximator를 이용하여 새로운 파라미터를 갖는 유사 함수로 함수화할 수 있다.
Figure 112019110258539-pat00006
이때 Deep-Learning 인공신경망을 이용할 수 있으며, 그에 따라 상술한 바와 같이 강화학습 모델은 DQN을 포함하여 구성될 수 있다.
이와 같이 트레이닝되는 강화학습 모델은 상태정보(St)와 리워드(Rt)에 기초하여 액션(At)으로서 다음 신호를 결정하고, 결정된 다음 신호는 다시 신호등(S)에 반영되어 환경, 즉 교차로의 혼잡도에 영향을 미친다.
위와 같은 과정은 반복 수행되어 강화학습 모델의 정책을 최적화한다.
한편 도 5에 도시된 도면은, 강화학습 모델을 학습할 때가 아니라, 이미 결정된 모델을 이용하여 다음 신호를 결정할 때에도 이용될 수 있는데, 이 경우에는 강화학습 모델에 포함된 강화학습 알고리즘은 이용되지 않고 정책만 이용될 수 있다. 물론 강화학습 알고리즘을 지속적으로 이용하여 학습과 신호결정을 동시에 할 수도 있음은 물론이다.
구체적으로 제어부(120)는 강화학습 모델의 정책을 이용하여 다음 신호를 결정하고, 결정된 다음 신호에 대응하는 제어신호를 생성하여 신호등(S)이 제어되도록 하기 이전에, 강화학습 모델을 미리 학습시킬 수 있다.
이때 제어부(120)는 학습대상 환경과 제어대상 환경을 구분할 수 있다. 예를 들어, 제어부(120)는 가상 또는 실제의 학습대상 교차로를 이용하여 강화학습 모델을 학습시킨 후에, 학습된 강화학습 모델의 정책만을 제어대상 환경에 적용할 수 있다. 이때 학습대상 환경과 제어대상 환경은 동일한 환경, 즉 동일한 실제 교차로일 수도 있다.
한편 제어부(120)가 학습대상 환경으로서 가상의 교통 시뮬레이션 환경을 이용하는 경우, 교통 시뮬레이션 환경은 예를 들어, 도 6에 도시된 바와 같은 환경을 이용할 수 있다. 도 6은 일 실시예에 의한 신호 제어 장치의 학습 데이터를 구성하기 위한 각종 설정값과 교통 패턴을 나타낸 것이다.
도 6의 상단에 도시된 바와 같이, 가상 환경을 구성하기 위해서 시뮬레이터에는 차속, 차량의 가속 또는 감속 성능, 혼잡도를 산출할 대상 차선의 길이, 차선의 수, 차량 길이, 신호의 길이 등이 구체적으로 설정될 수 있다.
그리고 특히 일 실시예에서는 교차로의 다양한 환경을 구성하기 위해서, 교차로의 교통량 패턴(P1, P2, P3, P4)을 다양하게 구성하여 진입하는 차량들의 수를 제어하면서 가상 환경을 실제와 유사하게 구현할 수 있다.
그리고 제어부(120)는 이와 같은 가상의 교통 시뮬레이션 환경으로부터, 각 차량 객체의 각 단계별 위치 등에 대한 정보를 수신하여 혼잡도를 산출하거나, 또는 교통 시뮬레이션 환경에서 획득되는 교차로 이미지를 분석하여 혼잡도를 산출할 수 있다.
이어서 제어부(120)는 상술한 바와 같이 교통 시뮬레이션 환경에서 추출된 혼잡도에 기초하여 강화학습 모델을 훈련하되 다시 교통 시뮬레이션 환경으로 신호 제어신호를 인가하여 제어부(120)의 제어에 의한 환경의 변화에 따라 트레이닝을 수행한다.
한편 제어부(120)는 상술한 바와 같이 학습되는 강화학습 모델을 이용하여 실제 교통 환경, 즉 실제 교차로의 혼잡도를 개선하는 신호등 제어를 수행할 수 있으며, 이러한 제어부(120)에 의한 신호 제어 방법은 이하에서 보다 구체적으로 설명한다.
이하에서 설명되는 신호 제어 방법은 도 1 내지 도 6을 참조하여 설명한 신호 제어 장치(100)에서 시계열적으로 처리되는 단계들을 포함한다. 따라서 이하에서 생략된 내용이라고 하더라도 도 1 내지 도 6을 참조하여 기술한 내용은 이하 도 7 내지 도 10에 도시된 실시예에 따른 신호 제어 방법에도 적용될 수 있다.
도 7은 일 실시예에 따른 신호 제어 방법의 강화학습 과정을 단계적으로 도시한 흐름도이고, 도 8은 일 실시예에 따른 신호 제어 방법의 강화학습된 모델을 이용하여 신호등을 제어하는 과정을 단계적으로 도시한 흐름도이며, 도 9 및 도 10은 일 실시예에 따른 신호 제어 방법의 혼잡도 산출 과정을 단계적으로 도시한 흐름도이다.
도 7에 도시된 바와 같이 신호 제어 장치(100)는 교차로의 혼잡도에 기초하여 상태정보와 리워드 정보를 연산한다(S710). 교차로의 혼잡도는 학습대상 교차로의 혼잡도이거나, 실제 제어대상과 동일한 교차로의 혼잡도일 수 있다.
여기서 상태정보는 상술한 바와 같이 현재 단계의 각 차선영역 또는 주행방향 별 혼잡도를 나타내는 벡터값일 수 있고, 리워드는 현재의 각 차선영역 또는 주행방향 별 혼잡도의 총합에서 직전 현재의 각 차선영역 또는 주행방향 별 혼잡도의 총합을 차감한 값이 될 수 있다.
그리고 신호 제어 장치(100)는 연산된 상태정보와 리워드 정보를 강화학습 모델의 에이전트에 입력 값으로 하고(S720), 에이전트에 의해 선택된 다음 현시를 출력 값으로 받아 제어정보를 생성한다(S730). 그리고 신호 제어 장치(100)는 제어정보에 따라 학습대상 교차로의 신호를 제어한다(S740).
이때 상술한 S710단계 내지 S740단계는 반복적으로 수행되며, 이러한 과정에서 최적의 Q함수가 산출될 수 있다.
한편 도 8을 참조하여, S710 내지 S740단계를 반복하여 학습된 강화학습 모델을 이용하여 신호등을 제어하는 과정을 살펴보면, 우선 신호 제어 장치(100)는 실제 교차로를 촬영한 교차로 이미지를 획득할 수 있다(S810).
그리고 교차로 이미지를 분석하여 혼잡도를 산출할 수 있다(S820). 이때 혼잡도는 차선영역 또는 주행방향 별로 산출될 수 있다.
여기서 도 9와 도 10을 참조하여 혼잡도를 산출하는 과정을 간략히 살펴보면, 일 실시예에 의하면 신호 제어 장치(100)는 교차로 이미지에서 차량에 대응하는 객체를 인식하고, 각 객체의 위치 좌표를 획득할 수 있다(S910). 이러한 단계는 상술한 바와 같이 Detection을 수행하는 인공신경망을 이용하여 수행될 수 있다.
그리고 신호 제어 장치(100)는 객체의 위치 좌표의 분포에 기초하여 차선영역 또는 주행방향 별 혼잡도 정보를 산출할 수 있다(S920).
한편 도 10에 도시된 바와 같이 다른 실시예에서 신호 제어 장치(100)는 교차로 이미지 내에서 차량에 대응하는 픽셀을 추출하고(S1010), 추출된 픽셀의 분포에 기초하여 차선영역 또는 주행방향 별 혼잡도 정보를 산출할 수 있다(S1020).
여기서 신호 제어 장치(100)는 Segmentation을 수행하는 인공신경망을 이용할 수 있다.
이어서 다시 도 8에서 신호 제어 장치(100)는 S820단계에서 산출된 혼잡도 정보를 이용하여 현재 상태정보를 연산할 수 있다(S830).
그리고 이어서 신호 제어 장치(100)는 현재 상태정보와 현재 단계의 현시에 따라 다음 현시에 대한 제어 정보를 산출할 수 있다(S840). 이때 S840단계에서는 도 7과 같은 단계에 걸쳐 트레이닝된 강화학습 모델을 이용할 수 있는데, 해당 강화학습 모델 전체가 아닌 에이전트에서 정책 부분만을 따로 이용하여 S840단계에서 다음 현시를 산출할 수 있다.
이어서 신호 제어 장치(100)는 산출된 제어정보에 따라 신호등(S)으로 구동신호를 인가할 수 있다.
물론 이때 도 8에 도시된 과정을 수행하면서 동시에 신호 제어 장치(100)는 강화학습 모델에 대한 추가적인 트레이닝을 수행할 수 있음은 앞서 설명한 바와 같다.
이상의 실시예들에서 사용되는 '~부'라는 용어는 소프트웨어 또는 FPGA(field programmable gate array) 또는 ASIC 와 같은 하드웨어 구성요소를 의미하며, '~부'는 어떤 역할들을 수행한다. 그렇지만 '~부'는 소프트웨어 또는 하드웨어에 한정되는 의미는 아니다. '~부'는 어드레싱할 수 있는 저장 매체에 있도록 구성될 수도 있고 하나 또는 그 이상의 프로세서들을 재생시키도록 구성될 수도 있다. 따라서, 일 예로서 '~부'는 소프트웨어 구성요소들, 객체지향 소프트웨어 구성요소들, 클래스 구성요소들 및 태스크 구성요소들과 같은 구성요소들과, 프로세스들, 함수들, 속성들, 프로시저들, 서브루틴들, 프로그램특허 코드의 세그먼트들, 드라이버들, 펌웨어, 마이크로코드, 회로, 데이터, 데이터베이스, 데이터 구조들, 테이블들, 어레이들, 및 변수들을 포함한다.
구성요소들과 '~부'들 안에서 제공되는 기능은 더 작은 수의 구성요소들 및 '~부'들로 결합되거나 추가적인 구성요소들과 '~부'들로부터 분리될 수 있다.
뿐만 아니라, 구성요소들 및 '~부'들은 디바이스 또는 보안 멀티미디어카드 내의 하나 또는 그 이상의 CPU 들을 재생시키도록 구현될 수도 있다.
도 7 내지 도 10을 통해 설명된 실시예에 따른 신호 제어 방법은 컴퓨터에 의해 실행 가능한 명령어 및 데이터를 저장하는, 컴퓨터로 판독 가능한 매체의 형태로도 구현될 수 있다. 이때, 명령어 및 데이터는 프로그램 코드의 형태로 저장될 수 있으며, 프로세서에 의해 실행되었을 때, 소정의 프로그램 모듈을 생성하여 소정의 동작을 수행할 수 있다. 또한, 컴퓨터로 판독 가능한 매체는 컴퓨터에 의해 액세스될 수 있는 임의의 가용 매체일 수 있고, 휘발성 및 비휘발성 매체, 분리형 및 비분리형 매체를 모두 포함한다. 또한, 컴퓨터로 판독 가능한 매체는 컴퓨터 기록 매체일 수 있는데, 컴퓨터 기록 매체는 컴퓨터 판독 가능 명령어, 데이터 구조, 프로그램 모듈 또는 기타 데이터와 같은 정보의 저장을 위한 임의의 방법 또는 기술로 구현된 휘발성 및 비휘발성, 분리형 및 비분리형 매체를 모두 포함할 수 있다.예를 들어, 컴퓨터 기록 매체는 HDD 및 SSD 등과 같은 마그네틱 저장 매체, CD, DVD 및 블루레이 디스크 등과 같은 광학적 기록 매체, 또는 네트워크를 통해 접근 가능한 서버에 포함되는 메모리일 수 있다.
또한 도 7 내지 10을 통해 설명된 실시예에 따른 신호 제어 방법은 컴퓨터에 의해 실행 가능한 명령어를 포함하는 컴퓨터 프로그램(또는 컴퓨터 프로그램 제품)으로 구현될 수도 있다. 컴퓨터 프로그램은 프로세서에 의해 처리되는 프로그래밍 가능한 기계 명령어를 포함하고, 고레벨 프로그래밍 언어(High-level Programming Language), 객체 지향 프로그래밍 언어(Object-oriented Programming Language), 어셈블리 언어 또는 기계 언어 등으로 구현될 수 있다. 또한 컴퓨터 프로그램은 유형의 컴퓨터 판독가능 기록매체(예를 들어, 메모리, 하드디스크, 자기/광학 매체 또는 SSD(Solid-State Drive) 등)에 기록될 수 있다.
따라서 도 7 내지 도 10을 통해 설명된 실시예에 따른 신호 제어 방법은 상술한 바와 같은 컴퓨터 프로그램이 컴퓨팅 장치에 의해 실행됨으로써 구현될 수 있다. 컴퓨팅 장치는 프로세서와, 메모리와, 저장 장치와, 메모리 및 고속 확장포트에 접속하고 있는 고속 인터페이스와, 저속 버스와 저장 장치에 접속하고 있는 저속 인터페이스 중 적어도 일부를 포함할 수 있다. 이러한 성분들 각각은 다양한 버스를 이용하여 서로 접속되어 있으며, 공통 머더보드에 탑재되거나 다른 적절한 방식으로 장착될 수 있다.
여기서 프로세서는 컴퓨팅 장치 내에서 명령어를 처리할 수 있는데, 이런 명령어로는, 예컨대 고속 인터페이스에 접속된 디스플레이처럼 외부 입력, 출력 장치상에 GUI(Graphic User Interface)를 제공하기 위한 그래픽 정보를 표시하기 위해 메모리나 저장 장치에 저장된 명령어를 들 수 있다. 다른 실시예로서, 다수의 프로세서 및(또는) 다수의 버스가 적절히 다수의 메모리 및 메모리 형태와 함께 이용될 수 있다. 또한 프로세서는 독립적인 다수의 아날로그 및(또는) 디지털 프로세서를 포함하는 칩들이 이루는 칩셋으로 구현될 수 있다.
또한 메모리는 컴퓨팅 장치 내에서 정보를 저장한다. 일례로, 메모리는 휘발성 메모리 유닛 또는 그들의 집합으로 구성될 수 있다. 다른 예로, 메모리는 비휘발성 메모리 유닛 또는 그들의 집합으로 구성될 수 있다. 또한 메모리는 예컨대, 자기 혹은 광 디스크와 같이 다른 형태의 컴퓨터 판독 가능한 매체일 수도 있다.
그리고 저장장치는 컴퓨팅 장치에게 대용량의 저장공간을 제공할 수 있다. 저장 장치는 컴퓨터 판독 가능한 매체이거나 이런 매체를 포함하는 구성일 수 있으며, 예를 들어 SAN(Storage Area Network) 내의 장치들이나 다른 구성도 포함할 수 있고, 플로피 디스크 장치, 하드 디스크 장치, 광 디스크 장치, 혹은 테이프 장치, 플래시 메모리, 그와 유사한 다른 반도체 메모리 장치 혹은 장치 어레이일 수 있다.
상술된 실시예들은 예시를 위한 것이며, 상술된 실시예들이 속하는 기술분야의 통상의 지식을 가진 자는 상술된 실시예들이 갖는 기술적 사상이나 필수적인 특징을 변경하지 않고서 다른 구체적인 형태로 쉽게 변형이 가능하다는 것을 이해할 수 있을 것이다. 그러므로 상술된 실시예들은 모든 면에서 예시적인 것이며 한정적이 아닌 것으로 이해해야만 한다. 예를 들어, 단일형으로 설명되어 있는 각 구성 요소는 분산되어 실시될 수도 있으며, 마찬가지로 분산된 것으로 설명되어 있는 구성 요소들도 결합된 형태로 실시될 수 있다.
본 명세서를 통해 보호 받고자 하는 범위는 상기 상세한 설명보다는 후술하는 특허청구범위에 의하여 나타내어지며, 특허청구범위의 의미 및 범위 그리고 그 균등 개념으로부터 도출되는 모든 변경 또는 변형된 형태를 포함하는 것으로 해석되어야 한다.
100: 신호 제어 장치
110: 촬영부
120: 제어부
130: 저장부
140: 구동부
10: 영상 검지 장치
20: 교통신호제어기
30: 중앙센터

Claims (17)

  1. 강화학습에 기반하여 교통 신호를 제어하는 신호 제어 장치에 있어서,
    교차로의 영상을 촬영하여 교차로 이미지를 획득하는 촬영부;
    상기 촬영부가 획득한 교차로 이미지를 분석하여 상기 교차로의 혼잡도 정보를 차선영역 별 또는 주행방향 별로 수치화하여 산출하고, 교차로의 혼잡도에 기초하여 연산되는 상태 정보와 리워드 정보를 입력 값으로 하여 트레이닝 되는 강화학습 모델과 상기 혼잡도 정보를 이용하여 다음 신호에 대한 제어 정보를 산출하는 제어부; 그리고
    상기 제어부가 산출한 다음 신호에 대한 제어 정보에 따라 신호등을 구동시키는 구동부를 포함하고,
    상기 제어부는,
    상기 교차로 이미지를 입력으로 하여 상기 교차로 이미지에 포함된 각 픽셀이 차량에 대응하는 위치의 픽셀인지에 대한 확률을 나타내는 확률맵을 출력하는 인공신경망을 이용하여, 차량에 대응할 확률이 일정값 이상인 픽셀을 추출하고, 추출된 픽셀의 수에 따라 각 차선영역 또는 주행방향 별 혼잡도 정보를 산출하되, 0 내지 100의 혼잡도 중 일정 수치의 혼잡도를 산출하고,
    상기 제어부는,
    각 차선영역 또는 주행방향 별 현재 혼잡도의 총합과 직전 혼잡도의 총합의 차를 리워드로서 산출하는, 신호 제어 장치.
  2. 삭제
  3. 제1항에 있어서,
    상기 강화학습 모델은,
    교차로의 차선영역 또는 주행방향 별 혼잡도 정보에 기초하여 생성되는 현재 상태 정보, 그리고 현재 혼잡도 정보의 총합과 직전 혼잡도 정보의 총합에 기초하여 생성되는 리워드 정보를 입력 받아 다음 신호를 출력하는 과정을 반복하여, 현재 신호와 현재 상태 정보에 대응하여 다음 신호를 선택하는 정책을 최적화하도록 트레이닝 되는, 신호 제어 장치.
  4. 제3항에 있어서,
    상기 강화학습 모델은,
    상기 구동부로 전달되는 제어 정보를 산출하기 이전에 미리 트레이닝 되고,
    상기 제어부는,
    상기 현재 혼잡도 정보에 기초하여 현재 상태정보를 연산하고, 상기 강화학습 모델을 이용하여 상기 현재 상태정보 및 현재 신호의 조합에 따른 다음 신호를 산출하는, 신호 제어 장치.
  5. 제3항에 있어서,
    상기 제어부는,
    상기 교차로 이미지를 분석하여 획득된 현재 혼잡도 정보를 이용하여 현재 상태정보를 산출하고, 상기 현재 혼잡도의 총합과 직전 혼잡도의 총합에 기초하여 현재 리워드정보를 산출하며, 상기 현재 상태정보와 상기 현재 리워드정보를 상기 강화학습 모델로 입력하여 출력되는 다음 신호에 대한 제어 정보를 상기 구동부로 전달하는 과정을 반복하여, 상기 강화학습 모델을 트레이닝하는, 신호 제어 장치.
  6. 삭제
  7. 삭제
  8. 제1항에 있어서,
    상기 강화학습 모델은,
    Q-network 또는 DQN 중 하나를 포함하여 구성되는, 신호 제어 장치.
  9. 신호 제어 장치에 의하여 수행되고,
    가상 또는 실제의 학습대상 교차로의 혼잡도에 기초하여 강화학습 모델을 트레이닝하는 단계;
    제어대상 교차로를 촬영하여 교차로 이미지를 획득하는 단계;
    상기 교차로 이미지를 분석하여 각 차선영역 또는 주행방향 별 혼잡도 정보를 수치화하여 산출하는 단계;
    상기 혼잡도 정보에 기초하여 상기 제어대상 교차로의 현재 상태정보를 연산하는 단계;
    그리고 상기 강화학습 모델을 이용하여 상기 현재 상태정보와 현재 신호에 따른 다음 신호에 대한 제어 정보를 산출하는 단계; 그리고
    산출된 제어 정보에 따라 상기 제어대상 교차로의 신호등을 구동시키는 단계를 포함하고,
    상기 혼잡도 정보를 산출하는 단계는,
    상기 교차로 이미지를 입력으로 하여 상기 교차로 이미지에 포함된 각 픽셀이 차량에 대응하는 위치의 픽셀인지에 대한 확률을 나타내는 확률맵을 출력하는 인공신경망을 이용하여, 차량에 대응할 확률이 일정값 이상인 픽셀을 추출하는 단계; 그리고,
    추출된 픽셀의 수에 따라 각 차선영역 또는 주행방향 별 혼잡도 정보를 산출하되, 0 내지 100의 혼잡도 중 일정 수치의 혼잡도를 산출하는 단계를 포함하고,
    상기 강화학습 모델을 트레이닝하는 단계는,
    각 차선영역 또는 주행방향 별 직전 혼잡도의 총합과 현재 혼잡도의 총합의 차를 리워드로서 산출하는 단계를 더 포함하는, 신호 제어 방법.
  10. 삭제
  11. 제9항에 있어서,
    상기 강화학습 모델을 트레이닝하는 단계는,
    상기 학습대상 교차로의 차선영역 또는 주행방향 별 혼잡도 정보에 기초하여 상태정보와 리워드 정보를 연산하고, 연산된 상태정보와 리워드 정보를 상기 강화학습 모델에 입력하여 출력되는 다음 신호를 이용하여 상기 학습대상 교차로에 대한 제어정보를 생성하며, 생성된 제어정보에 따라 상기 학습대상 교차로의 신호를 제어하는 과정을 반복적으로 수행하여, 현재 신호와 현재 상태 정보에 대응하여 다음 신호를 선택하는 정책을 최적화하는 단계를 포함하는, 신호 제어 방법.
  12. 제9항에 있어서,
    상기 강화학습 모델을 트레이닝하는 단계는,
    상기 교차로 이미지를 획득하는 단계 내지 상기 신호등을 구동시키는 단계를 반복적으로 수행할 때마다 추가적으로 수행되는, 신호 제어 방법.
  13. 삭제
  14. 삭제
  15. 제9항에 있어서,
    상기 강화학습 모델은,
    Q-network 또는 DQN 중 하나를 포함하여 구성되는, 신호 제어 방법.
  16. 제9항에 기재된 방법을 수행하는 프로그램이 기록된 컴퓨터 판독 가능한 기록 매체.
  17. 신호 제어 장치에 의해 수행되며, 제9항에 기재된 방법을 수행하기 위해 매체에 저장된 컴퓨터 프로그램.
KR1020190134942A 2019-10-28 2019-10-28 강화학습 기반 신호 제어 장치 및 신호 제어 방법 KR102155055B1 (ko)

Priority Applications (4)

Application Number Priority Date Filing Date Title
KR1020190134942A KR102155055B1 (ko) 2019-10-28 2019-10-28 강화학습 기반 신호 제어 장치 및 신호 제어 방법
CN202080008478.2A CN113287156B (zh) 2019-10-28 2020-09-14 基于强化学习的信号控制装置及信号控制方法
PCT/KR2020/012363 WO2021085848A1 (ko) 2019-10-28 2020-09-14 강화학습 기반 신호 제어 장치 및 신호 제어 방법
US17/422,984 US11823573B2 (en) 2019-10-28 2020-09-14 Signal control apparatus and signal control method based on reinforcement learning

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
KR1020190134942A KR102155055B1 (ko) 2019-10-28 2019-10-28 강화학습 기반 신호 제어 장치 및 신호 제어 방법

Publications (1)

Publication Number Publication Date
KR102155055B1 true KR102155055B1 (ko) 2020-09-11

Family

ID=72472488

Family Applications (1)

Application Number Title Priority Date Filing Date
KR1020190134942A KR102155055B1 (ko) 2019-10-28 2019-10-28 강화학습 기반 신호 제어 장치 및 신호 제어 방법

Country Status (4)

Country Link
US (1) US11823573B2 (ko)
KR (1) KR102155055B1 (ko)
CN (1) CN113287156B (ko)
WO (1) WO2021085848A1 (ko)

Cited By (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN112927522A (zh) * 2021-01-19 2021-06-08 华东师范大学 一种基于物联网设备的强化学习可变时长信号灯控制方法
WO2022057912A1 (en) * 2020-09-18 2022-03-24 Huawei Cloud Computing Technologies Co., Ltd. Method and system for adaptive cycle-level traffic signal control
CN115083149A (zh) * 2022-05-19 2022-09-20 华东师范大学 一种实时监测的强化学习可变时长信号灯控制方法
CN115512558A (zh) * 2022-09-09 2022-12-23 同济大学 一种基于多智能体强化学习的交通灯信号控制方法
KR20230070854A (ko) 2021-11-15 2023-05-23 주식회사 케이티 대상 교차로에 대한 교통 신호를 최적화하는 서버, 방법 및 컴퓨터 프로그램

Families Citing this family (15)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
KR102155055B1 (ko) * 2019-10-28 2020-09-11 라온피플 주식회사 강화학습 기반 신호 제어 장치 및 신호 제어 방법
US11639185B2 (en) * 2020-10-16 2023-05-02 Here Global B.V. Method to predict, react to, and avoid loss of traction events
US20220180744A1 (en) * 2020-12-09 2022-06-09 Beijing Didi Infinity Technology And Development Co., Ltd. System and method for task control based on bayesian meta-reinforcement learning
CN113525223A (zh) * 2021-07-28 2021-10-22 中国第一汽车股份有限公司 一种车灯控制方法、装置、计算机设备和存储介质
CN113724507B (zh) * 2021-08-19 2024-01-23 复旦大学 基于深度强化学习的交通控制与车辆诱导协同方法和系统
CN113823099B (zh) * 2021-09-10 2023-03-21 上海商汤智能科技有限公司 信控方案调整方法、装置、设备及计算机可读存储介质
CN114550456B (zh) * 2022-02-28 2023-07-04 重庆长安汽车股份有限公司 基于强化学习的城市交通堵塞调度方法
CN114639255B (zh) * 2022-03-28 2023-06-09 浙江大华技术股份有限公司 一种交通信号控制方法、装置、设备和介质
CN115019523B (zh) * 2022-05-31 2023-10-17 南京邮电大学 基于最小化压力差的深度强化学习交通信号协调优化控制方法
CN115083174B (zh) * 2022-06-07 2024-06-07 杭州电子科技大学 一种基于合作式多智能体强化学习的交通信号灯控制方法
KR102573526B1 (ko) * 2022-07-08 2023-09-06 주식회사 노타 강화학습 모델을 이용하여 연동 그룹 내 신호기의 교통신호를 제어하는 장치 및 방법
CN115171390A (zh) * 2022-07-27 2022-10-11 北京英泰智科技股份有限公司 一种交通信号机自适应控制方法、交通信号机及控制系统
CN115830887B (zh) * 2023-02-14 2023-05-12 武汉智安交通科技有限公司 一种自适应交通信号控制方法、系统及可读存储介质
CN116524745B (zh) * 2023-05-10 2024-01-23 重庆邮电大学 一种云边协同区域交通信号动态配时系统及方法
CN117649776A (zh) * 2023-11-28 2024-03-05 深圳技术大学 一种单交叉口信号灯控制方法、装置、终端及存储介质

Citations (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
KR20170074076A (ko) * 2015-12-21 2017-06-29 동국대학교 산학협력단 능동형 교통 신호 제어 방법 및 그 시스템
KR101821494B1 (ko) * 2016-08-10 2018-01-24 중앙대학교 산학협력단 감응식 교통 신호 제어 방법 및 그 장치
KR20190080818A (ko) * 2017-12-28 2019-07-08 한국과학기술원 부분 확률맵을 포함하는 딥 러닝 기반 객체 검출 방법 및 장치
KR102021992B1 (ko) * 2018-08-21 2019-09-18 한국과학기술정보연구원 교통신호 제어 장치, 교통신호 제어 방법 및 교통신호 제어 프로그램을 저장하는 저장매체

Family Cites Families (27)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US6317058B1 (en) * 1999-09-15 2001-11-13 Jerome H. Lemelson Intelligent traffic control and warning system and method
KR100438981B1 (ko) 2001-06-02 2004-07-03 엘지산전 주식회사 영상정보를 이용한 교통정보 추출 방법 및 장치
US9076332B2 (en) * 2006-10-19 2015-07-07 Makor Issues And Rights Ltd. Multi-objective optimization for real time traffic light control and navigation systems for urban saturated networks
KR20090116172A (ko) 2008-05-06 2009-11-11 최상우 인공지능 차량 신호등 제어장치
GB0916204D0 (en) * 2009-09-16 2009-10-28 Road Safety Man Ltd Traffic signal control system and method
KR101112562B1 (ko) 2010-06-14 2012-02-15 모루시스템 주식회사 영상검지 시스템 및 그 방법
US10573178B2 (en) * 2016-10-31 2020-02-25 Veniam, Inc. Systems and methods for tracking and fault detection, for example among autonomous vehicles, in a network of moving things
JP6926203B2 (ja) * 2016-11-04 2021-08-25 ディープマインド テクノロジーズ リミテッド 補助タスクを伴う強化学習
US10490066B2 (en) * 2016-12-29 2019-11-26 X Development Llc Dynamic traffic control
US9972199B1 (en) * 2017-03-08 2018-05-15 Fujitsu Limited Traffic signal control that incorporates non-motorized traffic information
US10002530B1 (en) * 2017-03-08 2018-06-19 Fujitsu Limited Traffic signal control using multiple Q-learning categories
BR102017019865A2 (pt) * 2017-09-15 2019-04-16 Velsis Sistemas E Tecnologia Viaria S/A Sistema preditivo, integrado e inteligente para controle de tempos em semáforos de trânsito
WO2019165616A1 (zh) * 2018-02-28 2019-09-06 华为技术有限公司 信号灯控制方法、相关设备及系统
CN109410606B (zh) * 2018-03-22 2021-05-04 合肥革绿信息科技有限公司 一种基于视频的主干路协同信号机控制方法
KR102021534B1 (ko) 2018-08-29 2019-10-18 주식회사 핀텔 딥러닝 기반 차량 및 보행자 감지 영상 분석 장치 및 그 방법
KR101969064B1 (ko) * 2018-10-24 2019-04-15 주식회사 블루시그널 딥러닝 기반 도심지 교통 혼잡 예측 및 신호 제어 솔루션 방법 및 이를 실행하는 서버
CN111386559B (zh) * 2018-10-25 2022-07-19 北京嘀嘀无限科技发展有限公司 一种路口是否存在目标道路设施的判断方法及系统
KR101942491B1 (ko) 2018-11-08 2019-04-11 주식회사 싸인텔레콤 도로교통 상황 모니터링 관제·실시간 교통정보 분석·교통신호제어로 이루어진 인공지능형 cctv통합관제중개제어모듈을 갖는 cctv통합관제센터시스템
US11553363B1 (en) * 2018-11-20 2023-01-10 State Farm Mutual Automobile Insurance Company Systems and methods for assessing vehicle data transmission capabilities
CN109472984A (zh) 2018-12-27 2019-03-15 苏州科技大学 基于深度强化学习的信号灯控制方法、系统和存储介质
CN110032782B (zh) 2019-03-29 2023-03-07 银江技术股份有限公司 一种城市级智能交通信号控制系统及方法
US11175153B2 (en) * 2019-08-20 2021-11-16 Toyota Motor North America, Inc. Pedestrian and vehicle route optimization
JP7267874B2 (ja) * 2019-08-27 2023-05-02 本田技研工業株式会社 交通流推定装置、交通流推定方法、およびプログラム
US20210118288A1 (en) * 2019-10-22 2021-04-22 Mitsubishi Electric Research Laboratories, Inc. Attention-Based Control of Vehicular Traffic
KR102155055B1 (ko) * 2019-10-28 2020-09-11 라온피플 주식회사 강화학습 기반 신호 제어 장치 및 신호 제어 방법
US20220270480A1 (en) * 2020-03-30 2022-08-25 Laon Road Inc. Signal control apparatus and method based on reinforcement learning
US11080602B1 (en) * 2020-06-27 2021-08-03 Sas Institute Inc. Universal attention-based reinforcement learning model for control systems

Patent Citations (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
KR20170074076A (ko) * 2015-12-21 2017-06-29 동국대학교 산학협력단 능동형 교통 신호 제어 방법 및 그 시스템
KR101821494B1 (ko) * 2016-08-10 2018-01-24 중앙대학교 산학협력단 감응식 교통 신호 제어 방법 및 그 장치
KR20190080818A (ko) * 2017-12-28 2019-07-08 한국과학기술원 부분 확률맵을 포함하는 딥 러닝 기반 객체 검출 방법 및 장치
KR102021992B1 (ko) * 2018-08-21 2019-09-18 한국과학기술정보연구원 교통신호 제어 장치, 교통신호 제어 방법 및 교통신호 제어 프로그램을 저장하는 저장매체

Cited By (7)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2022057912A1 (en) * 2020-09-18 2022-03-24 Huawei Cloud Computing Technologies Co., Ltd. Method and system for adaptive cycle-level traffic signal control
US11783702B2 (en) 2020-09-18 2023-10-10 Huawei Cloud Computing Technologies Co., Ltd Method and system for adaptive cycle-level traffic signal control
CN112927522A (zh) * 2021-01-19 2021-06-08 华东师范大学 一种基于物联网设备的强化学习可变时长信号灯控制方法
CN112927522B (zh) * 2021-01-19 2022-07-05 华东师范大学 一种基于物联网设备的强化学习可变时长信号灯控制方法
KR20230070854A (ko) 2021-11-15 2023-05-23 주식회사 케이티 대상 교차로에 대한 교통 신호를 최적화하는 서버, 방법 및 컴퓨터 프로그램
CN115083149A (zh) * 2022-05-19 2022-09-20 华东师范大学 一种实时监测的强化学习可变时长信号灯控制方法
CN115512558A (zh) * 2022-09-09 2022-12-23 同济大学 一种基于多智能体强化学习的交通灯信号控制方法

Also Published As

Publication number Publication date
WO2021085848A1 (ko) 2021-05-06
US20220076571A1 (en) 2022-03-10
CN113287156A (zh) 2021-08-20
US11823573B2 (en) 2023-11-21
CN113287156B (zh) 2023-08-18

Similar Documents

Publication Publication Date Title
KR102155055B1 (ko) 강화학습 기반 신호 제어 장치 및 신호 제어 방법
KR102493930B1 (ko) 강화학습 기반 신호 제어 장치 및 신호 제어 방법
US11816585B2 (en) Machine learning models operating at different frequencies for autonomous vehicles
KR102565279B1 (ko) 객체 검출 방법, 객체 검출을 위한 학습 방법 및 그 장치들
Prioletti et al. Part-based pedestrian detection and feature-based tracking for driver assistance: real-time, robust algorithms, and evaluation
KR102155050B1 (ko) 영상 검지 장치 및 이를 포함하는 신호 제어 시스템 및 신호 제어 방법
WO2017155660A1 (en) Action localization in sequential data with attention proposals from a recurrent network
CN105793730A (zh) 对象运动的基于激光雷达的分类
JP6700373B2 (ja) ビデオ動画の人工知能のための学習対象イメージパッケージング装置及び方法
US20220270480A1 (en) Signal control apparatus and method based on reinforcement learning
KR102070956B1 (ko) 영상 처리 장치 및 방법
JP2018206373A (ja) 車両のための、対象物を分類するための方法および装置
JP2019154027A (ja) ビデオ監視システムのパラメータ設定方法、装置及びビデオ監視システム
KR102155052B1 (ko) 영상 검지 장치 및 이를 포함하는 신호 제어 시스템 및 신호 제어 방법
Nagaraj et al. Edge-based street object detection
KR102318576B1 (ko) 교통신호 연산 방법 및 이를 수행하기 위한 장치
CN111210411B (zh) 图像中灭点的检测方法、检测模型训练方法和电子设备
Ng et al. Traffic Impact Assessment System using Yolov5 and ByteTrack
WO2023105800A1 (en) Object detection device, object detection method, and object detection system
Cultrera et al. Explaining autonomous driving with visual attention and end-to-end trainable region proposals
KR102369824B1 (ko) 교행 다차로를 위한 차량번호 인식방법 및 장치
JP6935690B2 (ja) 検出プログラム、方法、及び装置
CN112215042A (zh) 一种车位限位器识别方法及其系统、计算机设备
US20220012506A1 (en) System and method of segmenting free space based on electromagnetic waves
KR102586637B1 (ko) 광학 흐름을 이용한 합성 동영상 생성 방법

Legal Events

Date Code Title Description
AMND Amendment
X091 Application refused [patent]
AMND Amendment
X701 Decision to grant (after re-examination)
GRNT Written decision to grant