KR101824446B1

KR101824446B1 - A reinforcement learning based vehicle number recognition method for CCTV

Info

Publication number: KR101824446B1
Application number: KR1020170093256A
Authority: KR
Inventors: 주영복
Original assignee: 한국기술교육대학교 산학협력단; (주)영진전기통신
Priority date: 2017-07-24
Filing date: 2017-07-24
Publication date: 2018-02-01
Anticipated expiration: 2037-07-24

Abstract

본 발명은 강화 학습 기반 CCTV용 차량 번호 인식 방법을 공개한다. 이 방법은 차량 번호판을 촬영하여 영상 데이터를 출력하는 CCTV 및 관제 센터 서버를 구비하는 영상 인식 시스템의 강화 학습 기반 CCTV용 차량 번호 인식 방법에 있어서, (a) 차량 번호판 검출부가 상기 영상 데이터를 인가받아 상기 차량 번호판의 경계선과 수평 에지 및 수직 에지를 검출하는 단계; (b) 문자 분할부가 상기 차량 번호판의 영상에서 잡음 제거 및 모폴로지 연산을 통해 전 처리한 후 수직 방향 및 수평 방향으로 프로젝션하여 상기 검출된 경계선과 수평 에지 및 수직 에지 내 문자들을 분할하는 단계; (c) 문자 인식부가 상기 분할된 문자들을 인가받아 강화 학습의 훈련 데이터로 학습하여 상기 차량 번호판 내 문자들을 인식하는 단계; 및 (d) 상기 관제 센터 서버에 위치한 빅 데이터베이스가 상기 강화 학습된 훈련 데이터를 저장하는 단계;를 포함하는 것을 특징으로 한다. The present invention discloses a reinforcement learning based CCTV car number recognition method. The method comprises the steps of: (a) recognizing the vehicle license plate by receiving license data from the vehicle license plate detecting unit; Detecting a boundary line, a horizontal edge and a vertical edge of the license plate; (b) a character segmentation section preprocesses the image of the license plate through noise removal and morphology operations, and then projects the image in the vertical direction and the horizontal direction to divide the detected boundary line, the characters in the horizontal edge and the vertical edge; (c) recognizing characters in the license plate by learning the training data of the reinforcement learning by receiving the divided characters; And (d) storing the reinforcement-learned training data by a big database located at the control center server.

Description

[0001] The present invention relates to a method for recognizing a CCTV vehicle number,

본 발명은 차량 번호 인식 방법에 관한 것으로서, 특히 차량 번호판을 촬영한 영상 데이터에서 검출된 경계선 및 에지 내 문자들을 분할 및 인식하여 인공 지능 학습 방식인 강화 학습 및 기울기 보정을 통해 차량 번호판 내 문자들을 정확하게 판별함으로써, 차량 번호 인식률을 향상시킬 수 있는 강화 학습 기반 CCTV용 차량 번호 인식 방법에 관한 것이다.
The present invention relates to a car number recognition method and, more particularly, to a car number recognition method in which characters and characters within a boundary and an edge detected in image data of a license plate are segmented and recognized, And more particularly, to a reinforcement learning-based CCNT car identification method capable of improving the car number recognition rate.

현대 사회에서 복잡한 교통 환경의 효율적 관리가 요구됨에 따라 지능형 교통관리 시스템 구성의 필요성이 높아졌다. As the complex management of traffic environment is required in modern society, the necessity of constructing intelligent traffic management system has increased.

공학적으로 지능형 교통관리는 지능형 인프라 시스템과 지능형 차량 시스템으로 구분할 수 있는데 차량 번호판 인식은 지능형 인프라 시스템의 가장 중심기술로서, 고속도로 통행료 지불 시스템, 주차장 출입관리 시스템, 교통량 감시 및 도시 출입관리 시스템 등 다양한 응용분야에서 인간의 단순작업을 대행하는 중요한 역할을 수행할 수 있다. Intelligent traffic management can be classified into intelligent infrastructure system and intelligent vehicle system. Vehicle license plate recognition is the most central technology of intelligent infrastructure system. It is applicable to various applications such as highway toll payment system, parking lot access management system, traffic volume monitoring and city access management system It can play an important role in acting as a simple human task in the field.

특히, 복잡한 교통 환경의 효율적 관리를 위해 인식 기술이 급속도로 발전되어 불법 주정차 관리 및 단속, 신호위반 및 과속단속, 주차장 출입 관리 및 지능형 CCTV 분야 등 많은 곳에서 보편적으로 널리 사용되고 있다. Especially, for the efficient management of complex traffic environment, the recognition technology has been rapidly developed and widely used in many places such as illegal parking management, enforcement, signal violation and speed control, parking access control, and intelligent CCTV.

일반적으로 영상 관제 시스템이란 CCTV(Closed Circuit Television)를 특정 공간에 설치되어 있는 비디오 카메라 등의 영상 촬영 장치로 촬영된 관제 영상을 특정의 목적으로 활용하고자 하는 특정 사용자에게만 전달해 주는 시스템을 말한다.In general, a video control system refers to a system that transmits CCTV (Closed Circuit Television) only to a specific user who intends to use a control image photographed by a video camera such as a video camera installed in a specific space for a specific purpose.

이때, 폐쇄적인 유선 또는 무선 전송로를 통하여 디스플레이 화면에 전송하는 방식을 사용하여 관제 영상을 전달한다.At this time, a control image is transmitted using a method of transmitting to a display screen through a closed wired or wireless transmission path.

즉, 범죄가 자주 발생하는 지역이나, 교통사고 또는 화재가 빈번하게 발생하는 지역에는 CCTV를 설치하고, 카메라를 통해 촬영된 영상을 중앙의 통제장치로 전송하여 모니터링 하거나 저장한다.In other words, CCTV is installed in areas where crime is frequent, where traffic accidents or fires frequently occur, and images captured by cameras are transmitted to a central control device for monitoring or storage.

이를 통하여 범죄, 사고 또는 화재의 발생을 미연에 방지하며, 이미 발생한 범죄, 사고 또는 화재에 대해서는 그로 인해 발생할 수 있는 당사자들 사이의 분쟁을 해결하는 수단으로 이용하고 있다.It prevents the occurrence of crimes, accidents or fires in advance and uses them as a means of resolving disputes among the parties that may arise from crimes, accidents or fires that have already occurred.

이러한 CCTV 감시 시스템은 CCTV를 이용하여 감시영역 내의 이상여부를 감시한다.This CCTV surveillance system monitors the abnormality in the surveillance area using CCTV.

즉, CCTV에 의해 촬영되는 감시영상은 중앙 관리실에 설치된 모니터로 전송하여 디스플레이된다.That is, the surveillance image photographed by the CCTV is transmitted to the monitor installed in the central management room and displayed.

중앙 관리실의 관리자는 모니터에 디스플레이된 화면을 계속 주시하여 도난이나 화재 등과 같은 이상 상태가 발생하는 것을 모니터링한다.The manager of the central management room continuously monitors the screen displayed on the monitor to monitor occurrence of an abnormal condition such as theft or fire.

주로 주택을 비롯하여 백화점, 은행, 전시장 등의 장소에서는 도난을 방지하고, 기계의 작동 상태나 공정 흐름 등을 손쉽게 점검할 수 있는 감시 장치인 CCTV 감시 시스템을 이용하고 있다.CCTV surveillance system, which is a surveillance system that can easily check the operation state and process flow of the machine, is used in places such as houses, department stores, banks, and exhibition halls to prevent theft.

이러한 감시 카메라 장치는, 특정 수신자를 대상으로 영상을 전송하는 텔레비전 방식으로서, 송신 영상에서 수신 영상까지는 유선 또는 무선으로 연결되며 관련 수신자 이외의 일반 대중이 임의로 수신할 수 없도록 되어 있다.Such a surveillance camera apparatus is a television system for transmitting an image to a specific receiver. The surveillance camera apparatus is wired or wirelessly connected from a transmission image to a reception image, and can not be arbitrarily received by a general public other than a related receiver.

주지한 바와 같은 감시 카메라 장치는, 관리하고자 하는 다수의 감시 영역을 각각의 비디오 카메라로 촬영하여 특정 위치에 설치된 모니터에 디스플레이되는 감시화면을 확인한다.A known surveillance camera device photographs a plurality of surveillance areas to be managed with each video camera and confirms a surveillance screen displayed on a monitor installed at a specific location.

이때, 필요한 경우 원하는 장면만을 VCR(Video Cassette Recorder)을 이용하여 녹화하기도 한다.
At this time, if necessary, only a desired scene is recorded using a VCR (Video Cassette Recorder).

한편, 인공 지능(Artificial Intelligence, AI)은 인간의 뇌와 뉴런 신경망을 모방해 언젠가는 컴퓨터나 로봇들이 인간처럼 사고하고 행동하게 하는 것이다. Artificial intelligence (AI), on the other hand, imitates human brain and neuron neural network, and someday computers and robots will think and act like humans.

예를 들어, 우리는 사진만으로 개와 고양이를 아주 쉽게 구분할 수 있지만 컴퓨터는 구분하지 못한다. For example, we can easily distinguish dogs and cats with photographs, but computers can not distinguish between them.

이를 위해 “머신 러닝(Machine Learning, ML)” 기법이 고안되었는데, 이 기법은 많은 데이터를 컴퓨터에 입력하고 비슷한 것끼리 분류하도록 하는 기술로서, 저장된 개 사진과 비슷한 사진이 입력되면, 이를 개 사진이라고 컴퓨터가 분류하도록 하는 것이다. For this purpose, a "Machine Learning (ML)" technique has been devised, which is a technique for inputting a large amount of data into a computer and classifying similar objects. When a photograph similar to a stored dog picture is input, To classify computers.

데이터를 어떻게 분류할 것인가에 따라, 의사결정 나무(Decision Tree)나 베이지안 망(Bayesian network), 서포트 벡터 머신(support vector machine, SVM), 그리고 인공 신경망(Artificial neural network) 등 많은 머신 러닝 알고리즘이 등장했다. Many machine learning algorithms such as Decision Tree, Bayesian network, support vector machine (SVM), and Artificial neural network have emerged, depending on how the data is categorized. did.

일반적으로 입력으로부터 값을 계산하는 뉴런 시스템의 상호 연결로 표현되고 적응성이 있어 패턴 인식과 같은 기계 학습을 수행할 수 있다. Generally represented as interconnections of neuron systems that calculate values from inputs and adaptive, machine learning such as pattern recognition can be performed.

데이터로부터 학습하는 다른 기계 학습과 같이, 신경망은 일반적으로 규칙 기반 프로그래밍으로 풀기 어려운 컴퓨터 비전(vision) 또는 음성 인식과 같은 다양한 범위의 문제를 푸는 데 이용된다.
Like other machine learning to learn from data, neural networks are used to solve a wide range of problems, such as computer vision or speech recognition, which are generally difficult to solve with rule-based programming.

인공 지능의 딥 러닝 기법 중 강화학습은 최근에 바둑에서 인간 최고수를 물리친 알파벳의 자회사, 딥마인드가 개발한 알파고의 핵심 기술 중 하나이다.Reinforcement learning in artificial intelligence deep learning techniques is one of AlphaGo's core technologies developed by Deep Mind, a subsidiary of Alphabet, which recently defeated human supremacy in Baduk.

강화학습 기술은 게임을 넘어 다른 분야에 지능을 부여하는데 사용되고 있다. Reinforcement learning technology is used to give intelligence to other areas beyond games.

예를 들어, 자율주행 자동차를 향상시키는 것 외에로봇이 처음 보는 물건을 집을 수 있게 만들고, 어떤 것이 데이터 센터최적의 장비 배치인지 찾을 수 있게 한다.For example, in addition to improving autonomous vehicles, it allows robots to pick up the things they see for the first time and allows them to find out what is in the data center's optimal equipment layout.

초기인공지능 연구자들은 기계의 학습에도 강화학습 기술을 적용할 수 있을 것이라고 생각했다.Early artificial intelligence researchers thought that they could apply reinforcement learning to machine learning.

인공지능의 아버지라 불리는 마빈 민스키는 쥐가 미로 탈출을 배우는 방식을 흉내 낸 간단한 강화학습 기계를 만들었다.Marvin Minski, the father of artificial intelligence, has built a simple reinforcement learning machine that mimics the way mice learn to escape.

민스키의 SNARC(확률적 신경분석 강화 컴퓨터)는 40개의 신경과 시냅스를 흉내 내는 수십 개의 진공관과 모터, 클러치로 이루어져 있다.Minsky's SNARC (Stochastic Neural Augmentation Computer) consists of dozens of tubes, motors, and clutches that simulate 40 neurons and synapses.

시뮬레이션 속의 쥐가 가상의 미로를 탈출할 때, 특정 시냅스 연결이더 강해지고 해당행동을 권장한다.When a rat in a simulation escapes a virtual maze, certain synaptic connections become stronger and encourage action.

IBM의 제랄드 테소로는 강화학습을 이용해 백가몬(우리나라의 윷놀이와 비슷한 보드게임)이란 게임을 하는 인공지능 프로그램을 만들었다. IBM's Gerald Tesoro built an artificial intelligence program that uses Reinforcement Learning to play Backgammon (board game similar to Korea's).

이 프로그램은 최고 수준의 사람과 비슷한 수준에 도달함으로써, 인공지능 역사의 중요한 이정표가 됐다.This program has become an important milestone in the history of artificial intelligence by reaching levels similar to those of the highest level.

또한, 바둑은 그 자체로 복잡하지만 아주 뛰어난 바둑 기사들조차 어떤 수가 좋은지 나쁜지 판단하기 어려워한다. Also, Baduk itself is complicated, but even very good Baduk articles are difficult to judge which is good or bad.

이 때문에 바둑 프로그램을 만드는 기반이 될 원칙을 세우기 어려웠다. 대부분의 인공지능 연구자들은 컴퓨터가 프로 바둑기사와 맞먹으려면 적어도 10년은 걸릴 것으로예상했다.Because of this, it was difficult to establish a principle that would be the basis for the Go program. Most artificial intelligence researchers predicted that it would take at least 10 years for a computer to match a professional Baduk article.

최근 강화학습이 인기를 끌게 된 것은 거대한 신경망을 사용하여,데이터에서 패턴을 인식하는 딥러닝 기술과 결합했기 때문이다.Recent reinforcement learning has become popular because it uses a huge neural network, combined with deep-learning techniques that recognize patterns in the data.

강화학습은 컴퓨터에게 어떤 결과 값, 쥐가 미로를 빠져 나오기 위해 바른 방향으로 갔는지, 그렇지 않은지를 계산하는 법을 사람이 정해 주어야 작동한다. 각각의 값은 거대한 표에 저장되며, 컴퓨터는 학습을 통해 이 값을 수정한다.Reinforcement learning works when a person decides how to calculate what the result is, how the mouse went in the right direction to get out of the maze, and whether it is not. Each value is stored in a large table, and the computer modifies this value through learning.

복잡한 작업이라면 이들 경우를 모두 계산하는 것은 거의 불가능에 가깝다.It is almost impossible to calculate all of these cases for a complex task.

그러나, 데이터에 숨어있는 패턴을 파악하는데 딥러닝이 매우 효율적이라는 것이 밝혀졌다. However, it turns out that deep-run is very efficient in identifying patterns hidden in the data.

이제 미로에서 방향을 트는 문제의 데이터이든, 바둑판에서 돌의 위치에 관한 데이터이든,게임 화면의 픽셀 데이터이든 항상 딥러닝을 적용할 수 있게 되었다.Now you can always apply deep running, whether it's data from a problem in the maze, data on the location of the stone on the checkerboard, or pixel data on the game screen.

2013년 딥마인드는 다양한 아타리 비디오 게임을 초인적 수준에서 플레이 하는 인공지능을 발표했고, 이런 뉴스들은 다른 인공지능 연구자와 회사들이 강화학습 기술을 다시 들여다보게 하는 계기가 됐다.In 2013, Deep Mind announced artificial intelligence to play various Atari video games on a superhuman level, and these news was the inspiration for other artificial intelligence researchers and companies to re-examine reinforcement learning technology.

몇몇 산업용 로봇 제조업체는 자사의 기계에게 새로운 작업을 수행하게 만들 때 기존의 방법이 아닌 강화학습을 쓴다.Some industrial robot manufacturers use reinforcement learning instead of traditional methods to make their machines perform new tasks.

구글의 연구자들은 딥마인드와 함께 데이터 센터의 에너지 효율을 높이기 위해 딥-강화학습을 사용한다.Google's researchers work with deep-mindedness to use deep-reinforcement learning to improve data center energy efficiency.

데이터 센터의 수많은 요인들이 에너지 소모에 어떤 영향을 미치는지파악하는 것은 매우 어렵다. It is very difficult to see how many factors in the data center affect energy consumption.

하지만, 이미 축적한 데이터와 시뮬레이션을 통한 강화학습은 언제 어떻게 냉각 시스템을 돌려야 할지알려준다.However, reinforcement learning through accumulated data and simulations tells you when and how to turn the cooling system.

사람들이 이 기술을 통해 인간과 비슷한 행동을 볼 수 있는 대표적인 분야는 자율주행 자동차다. A typical area where people can see human-like behavior through this technology is autonomous vehicles.

무인 자동차는 로터리나 일단 정지해야 하는 교차로처럼 사람운전자를 상대해야 하는 복잡한 상황에서 종종 문제를 일으킨다.Unmanned vehicles often cause problems in complex situations where they have to deal with human drivers, such as a roundabout or a crossroads that must be stopped.

무인 자동차는 위험을 피해야 하는 것은 물론 과도한 조심 때문에 도로가 막히는 것도 피해야 한다. Unmanned vehicles should avoid danger as well as obstructing roads due to excessive attention.

그러므로 수많은 차들이 끼어드는 상황에서 사람의 판단같은 미묘한 운전기술을 배워야한다.Therefore, in the situation where a lot of cars are involved, you have to learn subtle driving skills like human judgment.

인공지능 학회에서 고속도로 합류를 시연한 모빌아이는 테슬라 등 수십 개의 자동차 사에 안전 시스템을 공급하는 이스라엘 기업이다.Mobile I, who demonstrated the highway joining at the Institute of Artificial Intelligence, is an Israeli company that supplies safety systems to dozens of automakers, including Tesla.

모빌아이는 올해 말 BMW, 인텔과 협력해 자사의 프로그램을 많은 실제 차량에 장착하고 테스트할 계획이다.Mobile i will work with BMW and Intel later this year to install and test its program on many real vehicles.

구글과 우버 역시 자사의 자율주행 자동차에 강화학습 기술을 적용해 테스트할 것이라고 밝혔다.Google and Uber also said they will apply reinforcement learning technology to their autonomous vehicles.

만약 자동차가 내려야 할 모든 판단을 프로그래머가 미리 정해 놔야 한다면 많은 시간이 걸릴 것이다.It would take a lot of time if the programmer had to make all the judgments that the car had to make.

또한, 아주 많은 데이터가 필요하고 지금 이 기술이 보여준 여러 성공은 수많은 시뮬레이션을 통한 훈련 덕분이라고 전문가들은 지적한다.Experts also point out that the many successes that the technology has shown are due to the many simulation exercises that require a lot of data.

연구자들은 목표가 하나 이상일때 강화학습을 어떻게 적용할 지 연구 중이다.Researchers are studying how to apply reinforcement learning when there is more than one goal.

모빌아이는 자율주행 자동차가 사고를 피할 뿐 아니라 다른 이의 사고도 최소화하도록 프로토콜을 수정하고 있다.Mobile Eye is modifying the protocol so that autonomous vehicles not only avoid accidents but also minimize other accidents.

이와 같이, 최근 인공 지능형 기계 학습 기반의 인식 시스템이 널리 연구되고 있으나, CCTV 감시 카메라 시스템 분야에서 여전히 다양한 요인으로 인한 이미지 왜곡과 조명 조건의 열화로 인한 실용적인 수준에서의 인식률 저하의 문제점을 가지고 있다. Recently, artificial intelligent machine learning based recognition systems have been widely studied, but there are still problems in image recognition due to various factors in the CCTV surveillance camera system and deterioration of recognition rate at practical level due to deterioration of illumination conditions.

그 이유는 대부분의 인공 지능형 시스템이 지도학습 혹은 비 지도학습 등의 신경망 혹은 주성분 분석이나 SVM(Support Vector Machine) 고차원 데이터 분석 방식의 머신 러닝 기법으로 구현되어 있으며 이러한 방식들은 사전에 사람이 정해 준 데이터의 분석 시나리오대로 계산을 수행하는 수동적인 학습 방식이기 때문이다. The reason is that most of the artificial intelligent systems are implemented by neural network such as map learning or non - instruction learning, principal component analysis, or machine learning method of SVM (Support Vector Machine) high dimensional data analysis method. This is because it is a passive learning method that performs the calculation according to the analysis scenario of FIG.

이에 따라, 다양한 차량으로부터의 비정규적인 영상 획득 환경 및 조건에 따라 각도, 형태, 차량 번호판 훼손 등의 이미지 왜곡으로 인식 결과에 영향을 받기 때문에 제한된 환경에서만 신뢰성 있게 동작하며 특히 야간이나 비가 오는 경우 등 같이 조명 조건에 따라 인식률이 급격히 떨어져 능률적 편의적인 측면에서 만족할 만한 실용적 운용이 어려운 한계가 있었다.Therefore, it operates reliably only in limited environment because it is influenced by recognition result due to image distortion such as angle, shape, and license plate damage due to irregular image acquisition environment and conditions from various vehicles. In particular, The recognition rate sharply decreased according to the lighting conditions, and there was a limit in practically operating satisfactorily in terms of efficiency and convenience.

이에 반해 앞서 언급했듯이, 알파고의 핵심 학습 알고리즘으로 알려진 강화 학습과 같은 방식은 기계는 주어진 문제만을 지도받을 뿐이고, 그 해결 방법은 시행착오를 통해 스스로 찾아내는 방식이며 이는 사람의 학습 행동 양식과 매우 유사하다.On the other hand, as mentioned earlier, the same method as reinforcement learning, which is known as Alpha's core learning algorithm, is that the machine is only guided by the given problem and its solution is self-determined by trial and error. Do.

이에, 본 발명자들은 CCTV에 내장된 디지털 카메라를 통하여 입력된 차량 번호판 영상의 각도나 형태 등의 이미지 왜곡 및 조명 조건의 변화에 강하며 신뢰도와 인식률이 인간의 수준과 동등한 수준의 강화 학습 기반의 차량번호 자동인식 방법을 발명하기에 이르렀다.
Therefore, the inventors of the present invention have found that the present inventors have found that the present inventors have found that the present invention is based on the fact that the present invention is based on the fact that the present inventors have found that, The inventors of the present invention have invented an automatic number recognition method.

KR 10-0968433 B1KR 10-0968433 B1

본 발명의 목적은 차량 번호판을 촬영한 영상 데이터를 인가받아 경계선 및 에지를 검출하고 경계선 및 에지 내 문자들을 분할 및 인식하여 강화 학습 및 기울기 보정을 통해 차량 번호판 내 문자들을 정확하게 판별할 수 있는 강화 학습 기반 CCTV용 차량 번호 인식 방법을 제공하는 것이다.
An object of the present invention is to provide a reinforcement learning method capable of correctly recognizing characters in a license plate through reinforcement learning and tilt correction by detecting boundary lines and edges by receiving image data of a license plate and dividing and recognizing characters in a boundary line and an edge Based CCTV vehicle identification method.

상기 목적을 달성하기 위한 본 발명의 강화 학습 기반 CCTV용 차량 번호 인식 방법은 차량 번호판을 촬영하여 영상 데이터를 출력하는 CCTV 및 관제 센터 서버를 구비하는 영상 인식 시스템의 강화 학습 기반 CCTV용 차량 번호 인식 방법에 있어서, (a) 차량 번호판 검출부가 상기 영상 데이터를 인가받아 상기 차량 번호판의 경계선과 수평 에지 및 수직 에지를 검출하는 단계; (b) 문자 분할부가 상기 차량 번호판의 영상에서 잡음 제거 및 모폴로지 연산을 통해 전 처리한 후 수직 방향 및 수평 방향으로 프로젝션하여 상기 검출된 경계선과 수평 에지 및 수직 에지 내 문자들을 분할하는 단계; (c) 문자 인식부가 상기 분할된 문자들을 인가받아 강화 학습의 훈련 데이터로 학습하여 상기 차량 번호판 내 문자들을 인식하는 단계; 및 (d) 상기 관제 센터 서버에 위치한 빅 데이터베이스가 상기 강화 학습된 훈련 데이터를 저장하는 단계;를 포함하는 것을 특징으로 한다.In order to achieve the above object, the reinforcement learning-based CCTV vehicle number recognition method according to the present invention is a method for recognizing a CCTV vehicle number based on reinforcement learning of an image recognition system having a CCTV and a control center server for photographing a license plate and outputting image data (A) the vehicle license plate detecting unit receives the image data and detects a boundary line, a horizontal edge, and a vertical edge of the license plate; (b) a character segmentation section preprocesses the image of the license plate through noise removal and morphology operations, and then projects the image in the vertical direction and the horizontal direction to divide the detected boundary line, the characters in the horizontal edge and the vertical edge; (c) recognizing characters in the license plate by learning the training data of the reinforcement learning by receiving the divided characters; And (d) storing the reinforcement-learned training data by a big database located at the control center server.

상기 목적을 달성하기 위한 본 발명의 강화 학습 기반 CCTV용 차량 번호 인식 방법은 차량 번호판을 촬영하여 영상 데이터를 출력하는 CCTV 및 관제 센터 서버를 구비하는 영상 인식 시스템의 강화 학습 기반 CCTV용 차량 번호 인식 방법에 있어서,In order to achieve the above object, the reinforcement learning-based CCTV vehicle number recognition method according to the present invention is a method for recognizing a CCTV vehicle number based on reinforcement learning of an image recognition system having a CCTV and a control center server for photographing a license plate and outputting image data In this case,

(a) 차량 번호판 검출부가 상기 영상 데이터를 인가받아 상기 차량 번호판의 경계선과 수평 에지 및 수직 에지를 검출하는 단계; (b) 문자 분할부가 상기 차량 번호판의 영상에서 잡음 제거 및 모폴로지 연산을 통해 전 처리한 후 수직 방향 및 수평 방향으로 프로젝션하여 상기 검출된 경계선과 수평 에지 및 수직 에지 내 문자들을 분할하는 단계; (c) 문자 인식부가 상기 분할된 문자들을 인가받아 강화 학습의 훈련 데이터로 학습하여 상기 차량 번호판 내 문자들을 인식하는 단계; (d) 상기 관제 센터 서버에 위치한 빅 데이터베이스가 상기 강화 학습된 훈련 데이터를 저장하는 단계; 및 (e) 이미지 왜곡 보정부가 상기 인식된 문자들을 인가받아 상기 차량 번호판의 후보 영역에 대해서 기울기 보정 및 상하 경계 정보를 추출하는 단계; 를 포함하는 것을 특징으로 한다.(a) detecting a boundary line, a horizontal edge and a vertical edge of the license plate by receiving the image data from the license plate detector; (b) a character segmentation section preprocesses the image of the license plate through noise removal and morphology operations, and then projects the image in the vertical direction and the horizontal direction to divide the detected boundary line, the characters in the horizontal edge and the vertical edge; (c) recognizing characters in the license plate by learning the training data of the reinforcement learning by receiving the divided characters; (d) storing the reinforcement-learned training data by a big database located at the control center server; And (e) the image distortion correction unit receives the recognized characters and extracts slope correction and top and bottom boundary information for a candidate region of the license plate; And a control unit.

상기 목적을 달성하기 위한 본 발명의 강화 학습 기반 CCTV용 차량 번호 인식 방법은 차량 번호판을 촬영하여 영상 데이터를 출력하는 CCTV 및 관제 센터 서버를 구비하는 영상 인식 시스템의 강화 학습 기반 CCTV용 차량 번호 인식 방법에 있어서, (a) 차량 번호판 검출부가 상기 영상 데이터를 인가받아 상기 차량 번호판의 경계선과 수평 에지 및 수직 에지를 검출하는 단계; (b) 문자 분할부가 상기 차량 번호판의 영상에서 잡음 제거 및 모폴로지 연산을 통해 전 처리한 후 수직 방향 및 수평 방향으로 프로젝션하여 상기 검출된 경계선과 수평 에지 및 수직 에지 내 문자들을 분할하는 단계; (c) 문자 인식부가 상기 분할된 문자들을 인가받아 강화 학습의 훈련 데이터로 학습하여 상기 차량 번호판 내 문자들을 인식하는 단계; (d) 상기 관제 센터 서버에 위치한 빅 데이터베이스가 상기 강화 학습된 훈련 데이터를 저장하는 단계; (e) 이미지 왜곡 보정부가 상기 인식된 문자들을 인가받아 상기 차량 번호판의 후보 영역에 대해서 기울기 보정 및 상하 경계 정보를 추출하는 단계; 및 (f) 제어부가 마코프 의사 결정 프로세스를 이용하여 인공 지능부가 강화 학습한 결과를 전달받아 상기 차량 번호판 내 문자들을 판별하는 단계;를 포함하는 것을 특징으로 한다.In order to achieve the above object, the reinforcement learning-based CCTV vehicle number recognition method according to the present invention is a method for recognizing a CCTV vehicle number based on reinforcement learning of an image recognition system having a CCTV and a control center server for photographing a license plate and outputting image data (A) the vehicle license plate detecting unit receives the image data and detects a boundary line, a horizontal edge, and a vertical edge of the license plate; (b) a character segmentation section preprocesses the image of the license plate through noise removal and morphology operations, and then projects the image in the vertical direction and the horizontal direction to divide the detected boundary line, the characters in the horizontal edge and the vertical edge; (c) recognizing characters in the license plate by learning the training data of the reinforcement learning by receiving the divided characters; (d) storing the reinforcement-learned training data by a big database located at the control center server; (e) the image distortion correction unit receives the recognized characters and extracts tilt correction and top and bottom boundary information for a candidate region of the license plate; And (f) recognizing characters in the license plate by receiving a result of reinforcement learning by the artificial intelligence unit using the Markov decision process by the control unit.

상기 목적을 달성하기 위한 본 발명의 강화 학습 기반 CCTV용 차량 번호 인식 방법은 차량 번호판을 촬영하여 영상 데이터를 출력하는 CCTV 및 관제 센터 서버를 구비하는 영상 인식 시스템의 강화 학습 기반 CCTV용 차량 번호 인식 방법에 있어서, (a) 차량 번호판 검출부가 상기 영상 데이터를 인가받아 상기 차량 번호판의 경계선과 수평 에지 및 수직 에지를 검출하는 단계; (b) 문자 분할부가 상기 차량 번호판의 영상에서 잡음 제거 및 모폴로지 연산을 통해 전 처리한 후 수직 방향 및 수평 방향으로 프로젝션하여 상기 검출된 경계선과 수평 에지 및 수직 에지 내 문자들을 분할하는 단계; (c) 문자 인식부가 상기 분할된 문자들을 인가받아 강화 학습의 훈련 데이터로 학습하여 상기 차량 번호판 내 문자들을 인식하는 단계; (d) 상기 관제 센터 서버에 위치한 빅 데이터베이스가 상기 강화 학습된 훈련 데이터를 저장하는 단계; 및 (e) 이미지 왜곡 보정부가 상기 인식된 문자들을 인가받아 상기 차량 번호판의 후보 영역에 대해서 기울기 보정 및 상하 경계 정보를 추출하는 단계;를 포함하고, 상기 (e) 단계는 (e-1) 제어부가 상기 차량 번호판의 후보 영역에 존재하는 상기 수평 에지 성분을 활용하여 기울어진 각도를 추정하는 단계; (e-2) 상기 이미지 왜곡 보정부가 상기 추정된 기울어진 각도를 인가받아 호모그래피 변환을 수행하여 상기 차량 번호판의 후보 영역의 기울기를 보정하는 단계; 및 (e-3) 상기 제어부가 상기 차량 번호판의 상기 수직 에지 및 상기 수평 에지 간의 위치 관계 특성을 이용하여 상기 보정된 기울기와 유사한 경계 후보를 상기 차량 번호판의 상하단 경계로 추출하는 단계;를 포함하는 것을 특징으로 한다.In order to achieve the above object, the reinforcement learning-based CCTV vehicle number recognition method according to the present invention is a method for recognizing a CCTV vehicle number based on reinforcement learning of an image recognition system having a CCTV and a control center server for photographing a license plate and outputting image data (A) the vehicle license plate detecting unit receives the image data and detects a boundary line, a horizontal edge, and a vertical edge of the license plate; (b) a character segmentation section preprocesses the image of the license plate through noise removal and morphology operations, and then projects the image in the vertical direction and the horizontal direction to divide the detected boundary line, the characters in the horizontal edge and the vertical edge; (c) recognizing characters in the license plate by learning the training data of the reinforcement learning by receiving the divided characters; (d) storing the reinforcement-learned training data by a big database located at the control center server; And (e) the image distortion correction unit receives the recognized characters and extracts tilt correction and top and bottom boundary information for the candidate region of the license plate, wherein the step (e) includes the steps of (e-1) Estimating an inclined angle using the horizontal edge component existing in a candidate region of the license plate; (e-2) correcting the slope of the candidate region of the vehicle license plate by performing the homography transformation with the image distortion correction unit receiving the estimated tilted angle; And (e-3) extracting a boundary candidate similar to the corrected inclination to upper and lower boundaries of the license plate using the positional relationship characteristic between the vertical edge and the horizontal edge of the license plate of the license plate .

상기 목적을 달성하기 위한 본 발명의 강화 학습 기반 CCTV용 차량 번호 인식 방법은 차량 번호판을 촬영하여 영상 데이터를 출력하는 CCTV 및 관제 센터 서버를 구비하는 영상 인식 시스템의 강화 학습 기반 CCTV용 차량 번호 인식 방법에 있어서, (a) 차량 번호판 검출부가 상기 영상 데이터를 인가받아 상기 차량 번호판의 경계선과 수평 에지 및 수직 에지를 검출하는 단계; (b) 문자 분할부가 상기 차량 번호판의 영상에서 잡음 제거 및 모폴로지 연산을 통해 전 처리한 후 수직 방향 및 수평 방향으로 프로젝션하여 상기 검출된 경계선과 수평 에지 및 수직 에지 내 문자들을 분할하는 단계; (c) 문자 인식부가 상기 분할된 문자들을 인가받아 강화 학습의 훈련 데이터로 학습하여 상기 차량 번호판 내 문자들을 인식하는 단계; (d) 상기 관제 센터 서버에 위치한 빅 데이터베이스가 상기 강화 학습된 훈련 데이터를 저장하는 단계; 및 (e) 이미지 왜곡 보정부가 상기 인식된 문자들을 인가받아 상기 차량 번호판의 후보 영역에 대해서 기울기 보정 및 상하 경계 정보를 추출하는 단계;를 포함하고, 상기 (e) 단계는 (e-1) 제어부가 상기 차량 번호판의 후보 영역에 존재하는 상기 수평 에지 성분을 활용하여 기울어진 각도를 추정하는 단계; (e-2) 상기 이미지 왜곡 보정부가 상기 추정된 기울어진 각도를 인가받아 호모그래피 변환을 수행하여 상기 차량 번호판의 후보 영역의 기울기를 보정하는 단계; 및 (e-3) 상기 제어부가 상기 차량 번호판의 상기 수직 에지 및 상기 수평 에지 간의 위치 관계 특성을 이용하여 상기 보정된 기울기와 유사한 경계 후보를 상기 차량 번호판의 상하단 경계로 추출하는 단계;를 포함하며, 상기 (e-2) 단계는 상기 제어부가 상기 차량 번호판 내 수직 에지 및 상기 수평 에지 간의 위치 관계 특성을 활용하여 상기 경계 후보를 선정하는 단계; 상기 이미지 왜곡 보정부가 상기 선정된 경계 후보 간의 간격이 상기 차량 번호판의 높이와 유사하지 않은 경계 후보들을 제거하는 단계; 및 상기 제어부가 상기 차량 번호판의 경계 후보 중 수평 방향으로의 겹침 정도 및 기울기가 상기 보정된 기울기와 유사한 경계 후보를 차량 번호판의 상하단 경계로 판단하는 단계;를 포함하는 것을 특징으로 한다.
In order to achieve the above object, the reinforcement learning-based CCTV vehicle number recognition method according to the present invention is a method for recognizing a CCTV vehicle number based on reinforcement learning of an image recognition system having a CCTV and a control center server for photographing a license plate and outputting image data (A) the vehicle license plate detecting unit receives the image data and detects a boundary line, a horizontal edge, and a vertical edge of the license plate; (b) a character segmentation section preprocesses the image of the license plate through noise removal and morphology operations, and then projects the image in the vertical direction and the horizontal direction to divide the detected boundary line, the characters in the horizontal edge and the vertical edge; (c) recognizing characters in the license plate by learning the training data of the reinforcement learning by receiving the divided characters; (d) storing the reinforcement-learned training data by a big database located at the control center server; And (e) the image distortion correction unit receives the recognized characters and extracts tilt correction and top and bottom boundary information for the candidate region of the license plate, wherein the step (e) includes the steps of (e-1) Estimating an inclined angle using the horizontal edge component existing in a candidate region of the license plate; (e-2) correcting the slope of the candidate region of the vehicle license plate by performing the homography transformation with the image distortion correction unit receiving the estimated tilted angle; And (e-3) extracting a boundary candidate similar to the corrected slope to the upper and lower boundaries of the license plate using the positional relationship characteristic between the vertical edge and the horizontal edge of the license plate, , The step (e-2) comprises the steps of: the control unit selecting the boundary candidate using the positional relationship between the vertical edge and the horizontal edge in the license plate; Removing the boundary candidates whose distance between the selected boundary candidates is not similar to the height of the license plate; And a step of the control unit judging the boundary candidate similar to the corrected inclination as the degree of overlap and inclination in the horizontal direction among the boundary candidates of the license plate as the upper and lower boundaries of the license plate.

기타 실시예의 구체적인 사항은 "발명을 실시하기 위한 구체적인 내용" 및 첨부 "도면"에 포함되어 있다.Specific details of other embodiments are included in the " Detailed Description of the Invention "and the accompanying drawings.

본 발명의 이점 및/또는 특징, 그리고 그것들을 달성하는 방법은 첨부되는 도면과 함께 상세하게 후술되어 있는 각종 실시예를 참조하면 명확해질 것이다.BRIEF DESCRIPTION OF THE DRAWINGS The advantages and / or features of the present invention and the manner of achieving them will be apparent by reference to various embodiments described in detail below with reference to the accompanying drawings.

그러나, 본 발명은 이하에서 개시되는 각 실시예의 구성만으로 한정되는 것이 아니라 서로 다른 다양한 형태로도 구현될 수도 있으며, 단지 본 명세서에서 개시한 각각의 실시예는 본 발명의 개시가 완전하도록 하며, 본 발명이 속하는 기술 분야에서 통상의 지식을 가진 자에게 본 발명의 범주를 완전하게 알려주기 위해 제공되는 것이며, 본 발명은 청구범위의 각 청구항의 범주에 의해 정의될 뿐임을 알아야 한다.
However, the present invention is not limited to the configurations of the embodiments described below, but may be embodied in various other forms, and each embodiment disclosed in this specification is intended to be illustrative only, It will be understood by those of ordinary skill in the art that various changes in form and details may be made therein without departing from the spirit and scope of the invention as defined by the appended claims.

본 발명에 의할 경우, 사람이 학습하고 인식하는 행동하는 방식에 가장 가까운 인공 지능 학습 방식인 강화 학습을 이용하여 차량 번호판 영상의 각도 및 형태 등의 이미지 왜곡과 조명 조건의 열화에 강하며 자율적 학습으로 인식 능력이 스스로 진화할 수 있도록 하여 우수한 인식률의 신뢰도 높은 차량 번호판 자동 인식이 가능해 진다.According to the present invention, by using reinforcement learning, which is the artificial intelligence learning method that is closest to the manner in which a person learns and recognizes, it is robust against image distortion such as angle and shape of a license plate image and deterioration of illumination condition, , The recognition ability can be evolved by itself, so that it is possible to automatically recognize the license plate with high recognition rate and high reliability.

따라서, 조명 조건에 관계없이 주간 및 야간 주정차 관리 시스템의 차량 번호 인식에 대한 신뢰도가 향상되고, 불법 주정차 차량의 자동 검출에 활용될 수 있다.Therefore, it is possible to improve the reliability of the car number recognition of daytime and nighttime parking management system irrespective of lighting conditions, and can be utilized for the automatic detection of illegally parked car.

또한, 종래에 압전 센서 방식으로 감지하던 신호 위반 차량이나 과속 차량을 비압전 센서 방식 감지가 가능해지고, 지능형 CCTV 분야에서 차량 번호판뿐 아니라, 인체의 얼굴 등 다양한 객체를 인식 및 분석하는 기법에 활용될 수 있다.
In addition, it is possible to detect a non-piezoelectric sensor type in a signal-violating vehicle or an overspeed vehicle that was conventionally sensed by a piezoelectric sensor method, and to utilize it in a technique of recognizing and analyzing various objects such as a face of a human body as well as a license plate in the field of intelligent CCTV .

도 1은 본 발명에 따른 강화 학습 기반 CCTV용 차량 번호 인식 방법을 구현하기 위한 인식 시스템의 블록도이다.
도 2는 도 1에 도시된 영상 인식 시스템 내 CCTV(100) 각각의 블록도이다.
도 3은 도 1 및 도 2에 도시된 영상 인식 시스템을 이용한 본 발명의 제1 실시예에 따른 강화 학습 기반 CCTV용 차량 번호 인식 방법의 동작을 설명하기 위한 순서도이다.
도 4는 도 1 및 도 2에 도시된 영상 인식 시스템을 이용한 본 발명의 제2 실시예에 따른 강화 학습 기반 CCTV용 차량 번호 인식 방법의 동작을 설명하기 위한 순서도이다.
도 5는 도 1 및 도 2에 도시된 영상 인식 시스템을 이용한 본 발명의 제3 실시예에 따른 강화 학습 기반 CCTV용 차량 번호 인식 방법의 동작을 설명하기 위한 순서도이다.
도 6은 도 5에 도시된 강화 학습 기반 CCTV용 차량 번호 인식 방법 내 단계(S380)의 부분 동작을 설명하기 위한 순서도이다.
도 7은 도 6에 도시된 단계(S382 내지 S383)의 부분 동작을 설명하기 위한 순서도이다.
도 8은 국내 차량의 크기, 용도 및 연도에 따른 국내 차량 번호판의 예시에 대한 표이다.
도 9는 본 발명의 차량 번호 인식 방법에 의해 차량 번호판의 후보 영역을 검출하는 과정에 따라 실제 실험한 결과에 대한 사진이다.
도 10은 본 발명의 차량 번호 인식 방법에 의해 차량 번호판의 후보 영역의 기울기를 보정하는 과정에 따라 실제 실험한 결과에 대한 사진이다.
도 11은 본 발명의 차량 번호 인식 방법에 적용된 강화 학습을 설명하기 위한 개념도이다.
도 12는 본 발명의 차량 번호 인식 방법에 의해 차량 번호판의 문자가 인식되는 과정에 따라 실제 실험한 결과에 대한 사진이다.1 is a block diagram of a recognition system for implementing a reinforcement learning-based CCTV car number recognition method according to the present invention.
FIG. 2 is a block diagram of each CCTV 100 in the image recognition system shown in FIG.
FIG. 3 is a flowchart for explaining the operation of the reinforcement learning-based CCTV car number recognition method using the image recognition system shown in FIGS. 1 and 2 according to the first embodiment of the present invention.
FIG. 4 is a flowchart for explaining the operation of the reinforcement learning based CCTV vehicle number recognition method using the image recognition system shown in FIGS. 1 and 2 according to the second embodiment of the present invention.
FIG. 5 is a flowchart for explaining the operation of the reinforcement learning based CCTV vehicle number recognition method using the image recognition system shown in FIGS. 1 and 2 according to the third embodiment of the present invention.
Figure 6 is a flow chart illustrating the partial operation of the enhanced learning based CCTV vehicle license plate recognition method in step (S380) for shown in Fig.
7 is a flowchart for explaining the partial operation of the steps S382 to S383 shown in Fig.
FIG. 8 is a table for an example of a domestic license plate according to the size, use, and year of the domestic vehicle.
9 is a photograph of a result of an actual experiment according to a process of detecting a candidate region of a license plate by the car number recognition method of the present invention.
10 is a photograph of a result of an actual experiment according to a process of correcting a slope of a candidate region of a license plate by the car number recognition method of the present invention.
11 is a conceptual diagram for explaining reinforcement learning applied to the car number recognition method of the present invention.
12 is a photograph of a result of an actual experiment according to a process of recognizing a character of a license plate by the car number recognition method of the present invention.

이하, 첨부한 도면을 참고로 하여 본 발명의 바람직한 실시예에 대하여 상세히 설명하면 다음과 같다.Hereinafter, preferred embodiments of the present invention will be described in detail with reference to the accompanying drawings.

본 발명을 상세하게 설명하기 전에, 본 명세서에서 사용된 용어나 단어는 통상적이거나 사전적인 의미로 무조건 한정하여 해석되어서는 아니되며, 본 발명의 발명자가 자신의 발명을 가장 최선의 방법으로 설명하기 위해서 각종 용어의 개념을 적절하게 정의하여 사용할 수 있다.Before describing the present invention in detail, terms and words used herein should not be construed as being unconditionally limited in a conventional or dictionary sense, and the inventor of the present invention should not be interpreted in the best way The concepts of various terms can be properly defined and used.

더 나아가 이들 용어나 단어는 본 발명의 기술적 사상에 부합하는 의미와 개념으로 해석되어야 함을 알아야 한다.Furthermore, it should be understood that these terms and words are to be construed in light of the meanings and concepts consistent with the technical idea of the present invention.

즉, 본 명세서에서 사용된 용어는 본 발명의 바람직한 실시예를 설명하기 위해서 사용되는 것일 뿐이고, 본 발명의 내용을 구체적으로 한정하려는 의도로 사용된 것이 아니다.In other words, the terminology used herein is for the purpose of describing preferred embodiments of the present invention, and is not intended to specifically limit the contents of the present invention.

이들 용어는 본 발명의 여러 가지 가능성을 고려하여 정의된 용어임을 알아야 한다.It should be understood that these terms are defined terms in view of the various possibilities of the present invention.

또한, 본 명세서에 있어서, 단수의 표현은 문맥상 명확하게 다른 의미로 지시하지 않는 이상, 복수의 표현을 포함할 수 있다.Further, in this specification, the singular forms "a", "an," and "the" include plural referents unless the context clearly dictates otherwise.

또한, 유사하게 복수로 표현되어 있다고 하더라도 단수의 의미를 포함할 수 있음을 알아야 한다.Also, it should be understood that the present invention can include a single meaning even if it is similarly expressed in plural.

본 명세서의 전체에 걸쳐서 어떤 구성 요소가 다른 구성 요소를 "포함"한다고 기재하는 경우에는, 특별히 반대되는 의미의 기재가 없는 한 임의의 다른 구성 요소를 제외하는 것이 아니라 임의의 다른 구성 요소를 더 포함할 수도 있다는 것을 의미할 수 있다.Where an element is referred to as "comprising" another element throughout this specification, the term " comprises " does not exclude any other element, It can mean that you can do it.

더 나아가서, 어떤 구성 요소가 다른 구성 요소의 "내부에 존재하거나, 연결되어 설치된다"고 기재한 경우에는, 이 구성 요소가 다른 구성 요소와 직접적으로 연결되어 있거나 접촉하여 설치되어 있을 수 있다.Furthermore, in the case where a component is described as being "inside or connected to another component", the component may be directly connected or in contact with another component.

또한, 일정한 거리를 두고 이격되어 설치되어 있을 수도 있으며, 일정한 거리를 두고 이격되어 설치되어 있는 경우에 대해서는 해당 구성 요소를 다른 구성 요소에 고정 내지 연결시키기 위한 제 3의 구성 요소 또는 수단이 존재할 수 있다.In addition, there may be a third component or means for fixing or connecting the component to another component when the component is spaced apart from the first component by a predetermined distance .

한편, 상기 제 3의 구성 요소 또는 수단에 대한 설명은 생략될 수도 있음을 알아야 한다.On the other hand, it should be noted that the description of the third component or means may be omitted.

반면에, 어떤 구성 요소가 다른 구성 요소에 "직접 연결"되어 있다거나, 또는 "직접 접속"되어 있다고 기재되는 경우에는, 제 3의 구성 요소 또는 수단이 존재하지 않는 것으로 이해하여야 한다.On the other hand, it should be understood that there is no third component or means when an element is described as being "directly connected" or "directly connected" to another element.

마찬가지로, 각 구성 요소 간의 관계를 설명하는 다른 표현들, 즉 " ~ 사이에"와 "바로 ~ 사이에", 또는 " ~ 에 이웃하는"과 " ~ 에 직접 이웃하는" 등도 마찬가지의 취지를 가지고 있는 것으로 해석되어야 한다.Likewise, other expressions that describe the relationship between the components, such as "between" and "immediately", or "neighboring to" and "directly adjacent to" .

또한, 본 명세서에 있어서 "일면", "타면", "일측", "타측", "제 1", "제 2" 등의 용어는, 하나의 구성 요소에 대해서 이 하나의 구성 요소가 다른 구성 요소로부터 명확하게 구별될 수 있도록 하기 위해서 사용된다.In this specification, terms such as "one side", "other side", "one side", "other side", "first", "second", and the like refer to one component It is used to make it clearly distinguishable from element.

하지만, 이와 같은 용어에 의해서 해당 구성 요소의 의미가 제한적으로 사용되는 것은 아님을 알아야 한다.It should be understood, however, that such terms do not limit the meaning of the component.

또한, 본 명세서에서 "상", "하", "좌", "우" 등의 위치와 관련된 용어는, 사용된다면, 해당 구성 요소에 대해서 해당 도면에서의 상대적인 위치를 나타내고 있는 것으로 이해하여야 한다.It is also to be understood that terms related to positions such as "top", "bottom", "left", "right" in this specification, if used, refer to relative positions in the drawings for the respective components.

또한, 이들의 위치에 대해서 절대적인 위치를 특정하지 않는 이상은, 이들 위치 관련 용어가 절대적인 위치를 언급하고 있는 것으로 이해하여서는 아니된다.Further, it should not be understood that these position-related terms refer to absolute positions unless an absolute position is specified for these positions.

더욱이, 본 발명의 명세서에서는, "부", "기", "모듈", "장치" 등의 용어는, 사용된다면, 하나 이상의 기능이나 동작을 처리할 수 있는 단위를 의미한다.Furthermore, in the specification of the present invention, the terms "part", "unit", "module", "apparatus" and the like mean units capable of handling one or more functions or operations, if used.

이는 하드웨어 또는 소프트웨어, 또는 하드웨어와 소프트웨어의 결합으로 구현될 수 있음을 알아야 한다.It should be appreciated that this may be implemented in hardware or software, or a combination of hardware and software.

본 명세서에 첨부된 도면에서 본 발명을 구성하는 각 구성 요소의 크기, 위치, 결합 관계 등은 본 발명의 사상을 충분히 명확하게 전달할 수 있도록 하기 위해서 또는 설명의 편의를 위해서 일부 과장 또는 축소되거나 생략되어 기술되어 있을 수 있고, 따라서 그 비례나 축척은 엄밀하지 않을 수 있다.In the drawings attached to the present specification, the size, position, coupling relationship, and the like of each constituent element of the present invention may be partially or exaggerated or omitted or omitted for the sake of clarity of description of the present invention or for convenience of explanation May be described, and therefore the proportion or scale may not be rigorous.

또한, 이하에서, 본 발명을 설명함에 있어서, 본 발명의 요지를 불필요하게 흐릴 수 있다고 판단되는 구성, 예를 들어, 종래 기술을 포함하는 공지 기술에 대한 상세한 설명은 생략될 수도 있다.
Further, in the following description of the present invention, a detailed description of a configuration that is considered to be unnecessarily blurring the gist of the present invention, for example, a known technology including the prior art may be omitted.

도 1은 본 발명에 따른 강화 학습 기반 CCTV용 차량 번호 인식 방법을 구현하기 위한 인식 시스템의 블록도로서, CCTV(100), 광 링크부(200) 및 관제 센터 서버(300)를 구비하고, 관제 센터 서버(300)는 빅 데이터베이스(330)를 구비한다.FIG. 1 is a block diagram of a recognition system for implementing a reinforcement learning-based CCTV car number identification method according to the present invention. The CCTV 100 includes an optical link unit 200 and a control center server 300, The center server 300 has a big database 330.

도 2는 도 1에 도시된 영상 인식 시스템 내 CCTV(100) 각각의 블록도로서, 영상 촬영부(110), 차량 번호판 검출부(120), 문자 분할부(130), 문자 인식부(140), 이미지 왜곡 보정부(150), 제어부(160) 및 인공 지능부(170)를 구비한다.FIG. 2 is a block diagram of each CCTV 100 in the image recognition system shown in FIG. 1. The CCTV 100 includes an image capturing unit 110, a license plate detecting unit 120, a character dividing unit 130, a character recognizing unit 140, An image distortion correction unit 150, a control unit 160, and an artificial intelligence unit 170.

도 3은 도 1 및 도 2에 도시된 영상 인식 시스템을 이용한 본 발명의 제1 실시예에 따른 강화 학습 기반 CCTV용 차량 번호 인식 방법의 동작을 설명하기 위한 순서도이다.FIG. 3 is a flowchart for explaining the operation of the reinforcement learning-based CCTV car number recognition method using the image recognition system shown in FIGS. 1 and 2 according to the first embodiment of the present invention.

도 1 내지 도 3을 참조하여 본 발명의 제1 실시예에 따른 강화 학습 기반 CCTV용 차량 번호 인식 방법의 개략적인 동작을 설명하면 다음과 같다. A schematic operation of the reinforcement learning-based CCTV car number recognition method according to the first embodiment of the present invention will be described with reference to FIGS. 1 to 3. FIG.

영상 촬영부(110)가 내장된 디지털 카메라를 이용하여 차량 번호판을 촬영하여 영상 데이터를 출력한다(S110).The image pickup unit 110 photographs the license plate using the digital camera built therein and outputs the image data (S110).

차량 번호판 검출부(120)가 영상 데이터를 인가받아 차량 번호판의 경계선과 수평 에지 및 수직 에지를 검출한다(S120).The license plate detector 120 receives the image data and detects a boundary line, a horizontal edge, and a vertical edge of the license plate (S120).

문자 분할부(130)가 차량 번호판의 영상 데이터에서 잡음 제거 및 모폴로지 연산을 통해 전 처리한 후(S130) 수직 방향 및 수평 방향으로 프로젝션하여(S140) 검출된 경계선과 수평 에지 및 수직 에지 내 문자들을 분할한다(S150).After the character division unit 130 preprocesses the image data of the license plate through noise removal and morphology operations in step S130 and then projects it in the vertical direction and the horizontal direction in step S140, the characters in the detected boundary line, horizontal edge, (S150).

문자 인식부(140)가 분할된 문자들을 인가받아 강화 학습의 훈련(training) 데이터로 학습하여 차량 번호판 내 문자들을 인식한다(S160).The character recognition unit 140 recognizes characters in the license plate by learning the training data of the reinforcement learning by receiving the divided characters (S160).

관제 센터 서버(300)에 위치한 빅 데이터베이스(330)는 문자 인식부(140)에서 강화 학습된 훈련 데이터를 저장한다(S170).The big database 330 located in the control center server 300 stores the reinforcement-learned training data in the character recognition unit 140 (S170).

본 발명에 따른 강화 학습 기반 CCTV용 차량 번호 인식 방법의 상세한 동작 설명은 후술하도록 한다.
Detailed operation of the reinforcement learning based CCTV car number recognition method according to the present invention will be described later.

도 4는 도 1 및 도 2에 도시된 영상 인식 시스템을 이용한 본 발명의 제2 실시예에 따른 강화 학습 기반 CCTV용 차량 번호 인식 방법의 동작을 설명하기 위한 순서도이다.FIG. 4 is a flowchart for explaining the operation of the reinforcement learning based CCTV vehicle number recognition method using the image recognition system shown in FIGS. 1 and 2 according to the second embodiment of the present invention.

도 1, 도 2 및 도 4를 참조하여 본 발명의 제2 실시예에 따른 강화 학습 기반 CCTV용 차량 번호 인식 방법의 개략적인 동작을 설명하면 다음과 같다. Referring to FIG. 1, FIG. 2 and FIG. 4, a schematic operation of the reinforcement learning based CCTV vehicle number recognition method according to the second embodiment of the present invention will be described.

영상 촬영부(110)가 내장된 디지털 카메라를 이용하여 차량 번호판을 촬영하여 영상 데이터를 출력한다(S210).The image pickup unit 110 photographs the license plate using the digital camera having the built-in digital camera and outputs the image data (S210).

차량 번호판 검출부(120)가 영상 데이터를 인가받아 차량 번호판의 경계선과 수평 에지 및 수직 에지를 검출한다(S220).The license plate detector 120 receives the image data and detects a boundary line, a horizontal edge, and a vertical edge of the license plate (S220).

문자 분할부(130)가 차량 번호판의 영상에서 잡음 제거 및 모폴로지 연산을 통해 전 처리한 후(S230) 수직 방향 및 수평 방향으로 프로젝션하여(S240) 검출된 경계선과 수평 에지 및 수직 에지 내 문자들을 분할한다(S250).After the character division unit 130 preprocesses the image of the license plate through noise removal and morphology operation (S230), the image is projected in the vertical direction and the horizontal direction (S240), and the characters in the detected boundary, horizontal edge and vertical edge are divided (S250).

문자 인식부(140)가 분할된 문자들을 인가받아 강화 학습의 훈련 데이터로 학습하여 차량 번호판 내 문자들을 인식한다(S260).The character recognition unit 140 recognizes characters in the license plate by learning the training data of the reinforcement learning by receiving the divided characters (S260).

관제 센터 서버(300)에 위치한 빅 데이터베이스(330)는 문자 인식부(140)에서 강화 학습된 훈련 데이터를 저장한다(S270).The big database 330 located in the control center server 300 stores training data reinforced and learned by the character recognition unit 140 (S270).

이미지 왜곡 보정부(150)가 인식된 문자들을 인가받아 차량 번호판의 후보 영역에 대해서 기울기 보정 및 상하 경계 정보를 추출한다(S280).The image distortion correction unit 150 receives the recognized characters and extracts slope correction and top and bottom boundary information for the candidate region of the license plate (S280).

도 5는 도 1 및 도 2에 도시된 영상 인식 시스템을 이용한 본 발명의 제3 실시예에 따른 강화 학습 기반 CCTV용 차량 번호 인식 방법의 동작을 설명하기 위한 순서도이다.FIG. 5 is a flowchart for explaining the operation of the reinforcement learning based CCTV vehicle number recognition method using the image recognition system shown in FIGS. 1 and 2 according to the third embodiment of the present invention.

도 1, 도 2 및 도 5를 참조하여 본 발명의 제3 실시예에 따른 강화 학습 기반 CCTV용 차량 번호 인식 방법의 개략적인 동작을 설명하면 다음과 같다. Referring to FIG. 1, FIG. 2 and FIG. 5, a schematic operation of the reinforcement learning-based CCTV car number recognition method according to the third embodiment of the present invention will be described.

영상 촬영부(110)가 내장된 디지털 카메라를 이용하여 차량 번호판을 촬영하여 영상 데이터를 출력한다(S310).The image capturing unit 110 photographs the license plate using the digital camera and outputs the image data (S310).

차량 번호판 검출부(120)가 영상 데이터를 인가받아 차량 번호판의 경계선과 수평 에지 및 수직 에지를 검출한다(S320).The vehicle license plate detection unit 120 receives the image data and detects a boundary line, a horizontal edge, and a vertical edge of the license plate (S320).

문자 분할부(130)가 차량 번호판의 영상에서 잡음 제거 및 모폴로지 연산을 통해 전 처리한 후(S330) 수직 방향 및 수평 방향으로 프로젝션하여(S340) 검출된 경계선과 수평 에지 및 수직 에지 내 문자들을 분할한다(S350).After the character division unit 130 preprocesses the image of the license plate through noise removal and morphology operation in step S330 and projects it in the vertical direction and the horizontal direction in step S340, the characters in the detected boundary line, horizontal edge and vertical edge are divided (S350).

문자 인식부(140)가 분할된 문자들을 인가받아 강화 학습의 훈련 데이터로 학습하여 차량 번호판 내 문자들을 인식한다(S360).The character recognition unit 140 receives the divided characters and learns the characters in the license plate by learning training data of the reinforcement learning (S360).

관제 센터 서버(300)에 위치한 빅 데이터베이스(330)는 문자 인식부(140)에서 강화 학습된 훈련 데이터를 저장한다(S370).The big database 330 located in the control center server 300 stores the reinforcement-learned training data in the character recognition unit 140 (S370).

이미지 왜곡 보정부(150)가 인식된 문자들을 인가받아 차량 번호판의 후보 영역에 대해서 기울기 보정 및 상하 경계 정보를 추출한다(S380).The image distortion correction unit 150 receives the recognized characters and extracts slope correction and top and bottom boundary information for candidate regions of the license plate (S380).

제어부(160)는 인공 지능부(170)로부터 마코프 보상 프로세스에 의사 결정 항을 추가한 마코프 의사 결정 프로세스를 이용하여 강화 학습한 결과를 전달받아(S390) 차량 번호판 내 문자들을 판별한다(S400).The control unit 160 receives the reinforcement learning result using the Markov decision process in which a decision item is added to the marker compensation process from the artificial intelligence unit 170 (S390), and discriminates characters in the license plate (S400).

도 6은 도 5에 도시된 강화 학습 기반 CCTV용 차량 번호 인식 방법 내 단계(S380)의 부분 동작을 설명하기 위한 순서도이다.6 is a flowchart for explaining the partial operation of the step S380 in the reinforcement learning-based CCTV vehicle identification method shown in Fig.

도 1, 도 2, 도 5 및 도 6을 참조하여 본 발명의 제4 실시예에 따른 강화 학습 기반 CCTV용 차량 번호 인식 방법의 개략적인 동작을 설명하면 다음과 같다. Referring to FIG. 1, FIG. 2, FIG. 5 and FIG. 6, a schematic operation of the reinforcement learning based CCTV vehicle number recognition method according to the fourth embodiment of the present invention will be described.

즉, 단계(S380)의 부분 동작을 설명하면, 제어부(160)가 차량 번호판의 후보 영역에 존재하는 수평 에지 성분을 활용하여 기울어진 각도를 추정한다(S381).In other words, the partial operation of step S380 will be described. In step S381, the controller 160 estimates the inclined angle using the horizontal edge component existing in the candidate area of the license plate.

이미지 왜곡 보정부(150)가 추정된 기울어진 각도를 인가받아 호모그래피 변환을 수행하여(S382) 차량 번호판의 후보 영역의 기울기를 보정한다(S383).The image distortion correction unit 150 receives the estimated tilted angle and performs homography conversion (S382) to correct the slope of the candidate region of the license plate (S383).

제어부(160)가 차량 번호판의 수직 에지 및 수평 에지 간의 위치 관계 특성을 이용하여 보정된 기울기와 유사한 경계 후보를 차량 번호판의 상하단 경계로 추출한다(S384).The controller 160 extracts boundary candidates similar to the corrected slope to the upper and lower boundaries of the license plate using the positional relationship between the vertical edge and the horizontal edge of the license plate (S384).

도 7은 도 6에 도시된 단계(S382 내지 S383)의 부분 동작을 설명하기 위한 순서도이다.7 is a flowchart for explaining the partial operation of the steps S382 to S383 shown in Fig.

도 1, 도 2, 도 5 내지 도 7을 참조하여 본 발명의 제5 실시예에 따른 강화 학습 기반 CCTV용 차량 번호 인식 방법의 개략적인 동작을 설명하면 다음과 같다. A schematic operation of the reinforcement learning-based CCTV car number recognition method according to the fifth embodiment of the present invention will be described with reference to FIGS. 1, 2, and 5 to 7 as follows.

즉, 단계(S280)의 부분 동작을 설명하면, 제어부(160)가 차량 번호판의 후보 영역에 존재하는 수평 에지 성분을 활용하여 기울어진 각도를 추정한다(S381).In other words, the partial operation of the step S280 will be described. In operation S381, the controller 160 estimates the inclined angle using the horizontal edge component existing in the candidate region of the license plate.

즉, 단계(S382 내지 S383)의 부분 동작을 설명하면, 도 7에서 제어부(160)가 차량 번호판 내 수직 에지 및 수평 에지 간의 위치 관계 특성을 활용하여 경계 후보를 선정한다(S392). In other words, the partial operation of steps S382 to S383 will be described. In FIG. 7, the controller 160 selects boundary candidates using the positional relationship between the vertical edge and the horizontal edge in the license plate (S392).

이미지 왜곡 보정부(150)가 선정된 경계 후보 간의 간격이 차량 번호판의 높이와 유사한지 여부를 판단하여(S393) 유사하지 않은 경계 후보들은 경계 후보에서 제거한다(S394).The image distortion correction unit 150 determines whether the interval between the selected boundary candidates is similar to the height of the license plate (S393), and removes the similar boundary candidates from the boundary candidate (S394).

단계(S393)에서 선정된 경계 후보 간의 간격이 차량 번호판의 높이와 유사한 것으로 판단된 경계 후보들은 이미지 왜곡 보정부(150)가 차량 번호판의 후보 영역의 기울기를 보정한다(S395).In step S393, the image distortion correction unit 150 corrects the slope of the candidate region of the license plate in the boundary candidates determined to be similar to the height of the license plate in S395.

한편, 도 6에서 제어부(160)가 차량 번호판의 수직 에지 및 수평 에지 간의 위치 관계 특성을 이용하여 보정된 기울기와 유사한 경계 후보를 차량 번호판의 상하단 경계로 추출한다(S384).6, the controller 160 extracts boundary candidates similar to the corrected slope to the upper and lower boundaries of the license plate using the positional relationship between the vertical edge and the horizontal edge of the license plate (S384).

도 5에서 제어부(160)는 인공 지능부(170)로부터 마코프 보상 프로세스에 의사 결정 항을 추가한 마코프 의사 결정 프로세스를 이용하여 강화 학습한 결과를 전달받아(S390) 차량 번호판 내 문자들을 판별한다(S400).
5, the control unit 160 receives the reinforcement learning result using the Markov decision process in which a decision term is added to the mark compensation process from the AI unit 170 (S390), and discriminates characters in the license plate S400).

도 8은 국내 차량의 크기, 용도 및 연도에 따른 국내 차량 번호판의 예시에 대한 표이다.FIG. 8 is a table for an example of a domestic license plate according to the size, use, and year of the domestic vehicle.

도 9는 본 발명의 차량 번호 인식 방법에 의해 차량 번호판의 후보 영역을 검출하는 과정에 따라 실제 실험한 결과에 대한 사진이다.9 is a photograph of a result of an actual experiment according to a process of detecting a candidate region of a license plate by the car number recognition method of the present invention.

도 10은 본 발명의 차량 번호 인식 방법에 의해 차량 번호판의 후보 영역의 기울기를 보정하는 과정에 따라 실제 실험한 결과에 대한 사진으로서, (a)는 차량 번호판의 후보 영역, (b)는 차량 번호판의 수평 에지 맵, (c)는 기울기가 보정된 번호판의 후보영역이다.10 is a photograph of a result of an actual experiment according to a process of correcting a slope of a candidate region of a license plate by the car number recognition method of the present invention, wherein (a) is a candidate region of the license plate, (b) (C) is a candidate area of the plate whose slope is corrected.

도 11은 본 발명의 차량 번호 인식 방법에 적용된 강화 학습을 설명하기 위한 개념도이다.11 is a conceptual diagram for explaining reinforcement learning applied to the car number recognition method of the present invention.

도 12는 본 발명의 차량 번호 인식 방법에 의해 차량 번호판의 문자가 인식되는 과정에 따라 실제 실험한 결과에 대한 사진이다.
12 is a photograph of a result of an actual experiment according to a process of recognizing a character of a license plate by the car number recognition method of the present invention.

도 1 내지 도 12를 참조하여 본 발명에 따른 강화 학습 기반 CCTV용 차량 번호 인식 방법의 상세한 동작을 구체적인 실시예를 들어 설명하면 다음과 같다. Detailed operation of the reinforcement learning-based CCTV car number recognition method according to the present invention will be described with reference to FIGS. 1 to 12 as follows.

본 발명에 따른 강화 학습 기반 CCTV용 차량 번호 인식 방법은 차량 번호판 검출 단계, 문자 분할 단계, 문자 인식 단계 이미지 왜곡 보정 단계의 4단계로 구성된다.
The reinforcement learning-based CCTV vehicle number recognition method according to the present invention includes a vehicle license plate detection step, a character division step, a character recognition step And an image distortion correction step.

차량 번호판 검출License plate detection 단계step

우리나라 차량 번호판은 보통 도 8에서 보는 바와 같이 직사각형 형태이다. The vehicle license plate of Korea is generally rectangular as shown in FIG.

따라서, 직사각형의 경계선과 에지(edge)를 검출하면 차량 번호판을 검출할 수 있는데, 이와 같은 에지 기반 차량 번호판 검출 방법은 간단하고 빠르지만 복잡한 영상에서는 적용하기 어려운 단점이 있다. Therefore, it is possible to detect the license plate by detecting the boundary line and the edge of the rectangle. However, such an edge-based license plate detection method has a disadvantage that it is difficult to apply it to a simple and fast but complex image.

에지 기반 차량 번호판 검출 방법의 이러한 단점을 극복하기 위해 허프 변환을 이용한 방법이 있는데 이는 검출률을 높인 반면, 처리 속도가 느리고 메모리를 많이 사용하는 단점이 있다. In order to overcome these drawbacks of the edge - based license plate detection method, there is a method using Hough transform, which has a disadvantage of slowing down processing and using a lot of memory while increasing the detection rate.

차량 번호판 추출 방법 중에 전역 정보를 이용한 방법도 있다. There is also a method using global information as a method of extracting a license plate.

즉, 연결 성분 분석(connected component analysis, CCA) 방법은 이진 영상에서 연결된 픽셀들을 라벨링(labeling)하여 위치와 크기 정보를 알 수 있어 모폴로지 기법을 동시에 이용하여 차량 번호판을 검출한다.
That is, the connected component analysis (CCA) method labels the connected pixels in the binary image and obtains the position and size information, and detects the license plate using the morphology technique at the same time.

문자 분할 단계Character segmentation step

우리나라의 차량 번호판은 보통 녹색, 흰색, 노란색으로만 구성되어 있는데, 색상, 채도, 강도(Hue, Saturation, Intensity, HSI) 공간 기반의 검출 방법으로 분류할 수 있다. The license plate of Korea is usually composed only of green, white, and yellow, and can be classified as a method based on color, saturation, intensity (Hue, Saturation, Intensity, HSI) space.

이 검출 방법은 색상(HUE) 값을 기반으로 후보 영역을 설정한 후 차량 번호판의 기하학적 특성과 위치 히스토그램을 이용하여 차량 번호판을 검출하는 방법이다. This detection method is a method of detecting the license plate using the geometric characteristics of the license plate and the position histogram after setting the candidate region based on the color (HUE) value.

이는 훼손되거나 틀어진 차량 번호판을 검출할 수 있는 장점이 있지만, 조명 조건과 노이즈에 민감한 단점이 있다. This has the advantage of being able to detect a damaged or missing license plate, but it is susceptible to illumination conditions and noise.

최근 연구는 기계 학습을 주로 이용하고 있는데, 프로젝션은 문자 분할의 효율적인 방법으로 널리 사용된다. Recent research has mainly used machine learning, and projection is widely used as an efficient method of character segmentation.

차량 번호판의 이진 영상에서 잡음 제거 및 모폴로지 연산을 통해 전처리 후 수직 방향과 수평 방향으로 프로젝션을 하면 문자들을 독립적으로 분할할 수 있지만 회전된 차량 번호판과 잡음이 있는 경우 성능이 낮아진다.Projection in the vertical direction and horizontal direction after preprocessing through noise cancellation and morphology operation in the binary image of the license plate can divide characters independently, but the performance is lowered when there is a revolving license plate and noise.

차량 번호판은 문자들의 위치, 크기, 폰트와 문자간 거리가 정해져 있으므로, 이러한 사전 지식을 이용하여 간단하게 문자들을 분할할 수 있다.
Since the license plate has the location, the size, and the distance between the font and the character of characters, it is possible to divide the characters simply by using this prior knowledge.

문자 인식 단계Character recognition step

문자 인식의 경우, 분할된 문자들의 크기가 일정하지 않으므로 같은 크기로 정규화 과정이 필요하며, 차량 번호판의 종류에 따라 다른 폰트를 사용하기 때문에 어려움이 있다. In case of character recognition, since the size of divided characters is not constant, a normalization process is required for the same size, and it is difficult to use different fonts depending on the type of license plate.

문자를 인식하는 방법은 픽셀 값을 이용하는 템플릿 매칭 방식, 문자 특징 추출을 통한 기계학습 방식이 있다. A method for recognizing characters includes a template matching method using pixel values and a machine learning method using character feature extraction.

템플릿 매칭 방식은 문자 간 마할라노비스 또는 해밍 거리를 이용한 유사도를 기준으로 문자를 인식하는 방식이다.The template matching method recognizes characters based on similarity using Mahalanobis or Hamming distance between characters.

문자 특징 추출을 통한 기계학습 방식은 수직 방향 및 수평 방향 프로젝션을 통한 특징, 체인 코드를 이용한 특징과 HOG(국문 용어 및 영문 풀 명칭이 필요함)를 이용한 특징을 이용하여 이를 강화 학습의 훈련(Training) 데이터로 사용하여 학습 후 차량 번호판 내 문자들을 인식한다.The machine learning method through character feature extraction is based on the features using the vertical and horizontal projection, the feature using the chain code, and the feature using the HOG (Korean term and English full name) It is used as data to recognize the characters in license plate after learning.

이때, 관제 센터 서버(300)에 위치한 빅 데이터베이스(330)는 문자 인식부(140)에서 강화 학습된 훈련 데이터를 저장한다.
At this time, the big database 330 located in the control center server 300 stores training data reinforced by the character recognition unit 140.

이미지 왜곡 보정 단계Image distortion correction step

검출된 차량 번호판으로부터 글자를 추출하거나 인식할 때 차량 번호판의 규격 정보를 활용하면 보다 용이하게 추출 및 인식을 수행할 수 있다. Extraction and recognition can be performed more easily by using the standard information of the license plate when extracting or recognizing characters from the detected license plate.

그러나, 검출된 차량 번호판 후보 영역은 정확한 경계 정보를 포함하고 있지 않으며, 차량 번호판 영역이 기울어져 있을 가능성이 높다. However, the detected license plate candidate region does not contain accurate boundary information, and there is a high possibility that the license plate region is inclined.

이에 따라, 본 발명에서는 차량 번호판 후보 영역에 대해서 기울기 보정을 먼저 수행한 후 차량 번호판 상하 경계 정보를 추출한다. Accordingly, in the present invention, the slope correction is first performed on the license plate candidate region, and then the license plate upper and lower boundary information is extracted.

기울기 보정 단계에서는 도 10에서 보는 바와 같이 차량 번호판 후보 영역에 존재하는 수평 에지 성분을 활용하여 기울어진 각도를 추정한 뒤 호모그래피 변환을 수행하여 차량 번호판 후보 영역의 기울기를 보정한다. In the tilt correction step, as shown in FIG. 10, the tilted angle is estimated using the horizontal edge component existing in the license plate candidate region, and then the homography conversion is performed to correct the slope of the license plate candidate region.

이를 위해 차량 번호판 후보 영역에 존재하는 수평 에지 성분들의 각도를 평균화하여 기울어진 각도를 추정한 후, 이를 기반으로 차량 번호판 후보 영역에 호모그래피 변환을 수행한다.For this purpose, the angles of the horizontal edge components in the license plate candidate area are averaged to estimate the inclined angle, and homography conversion is performed on the license plate candidate area based on the angle.

차량 번호판의 상하 경계 검출 단계에서는 수평 에지들에 대해서 차량 번호판 후보 영역 검출시 활용한 차량 번호판 내 수직 에지 및 수평 에지 간의 위치 관계 특성을 활용하여 경계 후보를 선정한다.In the step of detecting the upper and lower boundaries of the license plate, the boundary candidates are selected by using the positional relationship between the vertical edge and the horizontal edge in the license plate for detecting the license plate candidate region for the horizontal edges.

그 후에, 선정된 후보 간의 간격이 차량 번호판의 높이와 유사하지 않은 경계 후보들을 제거한 뒤, 수평 방향으로의 겹침 정도가 크고 기울기가 유사한 경계 후보를 차량 번호판의 상하단 경계로 판단한다. Thereafter, the boundary candidates whose intervals between the selected candidates are not similar to the height of the license plate are removed, and the boundary candidates having a large degree of overlap in the horizontal direction and a similar slope are determined as the upper and lower boundaries of the license plate.

차량 번호판 영역 내부에는 길이가 긴 수평 에지들이 거의 존재하지 않으므로, 상하 경계 검출시 수평 에지를 직접 활용할 수 있다.Since there are almost no long horizontal edges inside the license plate area, horizontal edges can be directly used for detection of vertical boundaries.

하지만, 수직 에지는 차량 번호판의 좌우 경계는 물론 글자 영역에도 존재하기 때문에 에지 특성만을 이용한 기법으로는 좌우 경계를 정확히 추출하기 어렵다. However, since the vertical edge exists in the character area as well as the left and right boundaries of the license plate, it is difficult to accurately extract the left and right boundaries by the technique using only edge characteristics.

따라서, 수평 에지 및 수직 에지의 분포 특성 외에도 차량 번호판 영역이 가지는 밝기 값 분포의 특성을 활용하여 좌우 경계를 추출한다.Therefore, in addition to the distribution characteristics of the horizontal edge and the vertical edge, the left and right boundaries are extracted using the characteristics of the brightness value distribution of the license plate area.

인공 지능의 정의를 “인간처럼 행동하는 시스템”이라고 한다면 강화 학습은 그러한 인공 지능 분야에 가장 가까운 모델이라 할 수 있다. If the definition of artificial intelligence is called "a system that behaves like a human being", reinforcement learning is the closest model to such artificial intelligence.

그 이유는 지도 학습 또는 비 지도 학습과 같은 머신 러닝에서는 사전에 사람이 정해준 데이터 분석이나 문제 해결 시나리오대로 계산을 수행하는 반면, 강화 학습은 주어진 문제만을 지도받을 뿐 그 해결 방법은 시행 착오를 통해 스스로 찾아내는 것이 사람의 행동 양식과 매우 유사하기 때문이다.
The reason is that in the case of machine learning such as map learning or non-guidance learning, the computation is performed according to the data analysis or the problem solving scenario determined by the user in advance, whereas the reinforcement learning is directed only to the given problem, This is because the finding is very similar to human behavior.

도 11에서 보는 바와 같이, 시행 착오 개념이 적용된 강화 학습은 다음과 같이 요약할 수 있다. As shown in FIG. 11, the reinforcement learning to which the trial and error concept is applied can be summarized as follows.

에이전트는 환경으로부터 상태를 관측하고 이에 따른 적절한 행동을 하면 이 행동을 기준으로 환경으로부터 보상을 받는다. The agent observes the state from the environment and, when appropriate actions are taken, receives compensation from the environment on the basis of this behavior.

관측은 상태로 변환되고 에이전트는 이러한 일련의 ‘관측-행동-보상’ 상호 작용을 반복하면서 환경으로부터 얻은 보상을 최대화하는 태스크를 수행해야 하는데, 그 태스크를 수행하기 위한 일련의 과정이 바로 강화 학습이다. Observations are transformed into states, and agents must perform tasks that maximize compensation from the environment by repeating this sequence of 'observation-behavior-compensation' interactions. A series of processes to perform the task is reinforcement learning .

여기서 ‘관측-행동-보상’의 과정을 경험이라고도 한다.Here, the process of 'observation - action - compensation' is also called experience.

강화 학습은 마코프 특성(Markov Property)을 기반으로 하는 의사 결정 프로세스이다. 즉, 일련의 시간적 사건이 있을 때 현재 단계의 상태에서 예상되는 다음 단계의 상태는 과거의 사건과는 무관하다는 것이다. Reinforcement learning is a decision process based on Markov properties. That is, when there is a series of temporal events, the state of the next stage, which is expected in the state of the present stage, is not related to the past events.

여기서, 현재 상태의 보상과 평균 가치의 합인 현재 상태의 가치로서 상태 가치 함수를 구하는 것이 마코프 보상 프로세스인데, 여기에 행동이라는 의사 결정 항을 추가한 것이 마코프 의사 결정 프로세스(Markov Decision Process)이다. In this case, the Markov Decision Process is a process in which the decision value of action is added to the Markov Decision Process to obtain the state value function as the value of the current state which is the sum of the compensation of the current state and the average value.

이로부터 최적의 정책 함수가 존재한다는 것이 증명되었으며 최적의 상태 가치를 알면 바로 최적의 정책을 얻을 수 있다. From this, it is proven that the optimal policy function exists, and if the optimal state value is known, the optimal policy can be obtained immediately.

본 발명에서는 최적의 정책이란 차량 번호판에서 해당 숫자나 문자가 어떤 것이냐의 결정이다. In the present invention, the optimal policy is a determination of the number or letter in the license plate.

즉, 인공 지능부(170)가 마코프 보상 프로세스에 의사 결정 항을 추가한 마코프 의사 결정 프로세스를 이용하여 강화 학습하고 그 학습 결과를 제어부(160)에 전달하여 차량 번호판의 숫자 및 문자를 판별하게 한다.That is, the artificial intelligence unit 170 performs reinforcement learning using the Markov decision process in which a decision term is added to the mark compensation process, and transmits the learning result to the control unit 160 to discriminate the numbers and letters of the license plate .

요컨대, 최적의 정책은 벨만의 방정식으로 표현되며, 비선형이므로 반복적인 방법으로 해를 찾는다. In short, the optimal policy is represented by Bellman's equation, and since it is nonlinear, it finds solutions in an iterative way.

이러한 벨만의 최적 방정식의 해를 구하기 위해서는 동적 프로그래밍, 몬테카를로 방법 혹은 시간차 방법이 사용된다.
Dynamic programming, the Monte Carlo method, or the time difference method is used to solve these Bellman optimal equations.

이와 같이, 본 발명은 차량 번호판을 촬영한 영상 데이터를 인가받아 경계선 및 에지를 검출하고 경계선 및 에지 내 문자들을 분할 및 인식하여 강화 학습 및 기울기 보정을 통해 차량 번호판 내 문자들을 정확하게 판별할 수 있는 강화 학습 기반 CCTV용 차량 번호 인식 방법을 제공한다.As described above, according to the present invention, image data obtained by photographing a license plate is applied to detect boundary lines and edges, and dividing and recognizing the characters in the boundary line and the edge, thereby strengthening the characters in the license plate through accurate reinforcement learning and tilt correction Learning-based CCTV car number recognition method.

이를 통하여, 사람이 학습하고 인식하는 행동하는 방식에 가장 가까운 인공 지능 학습 방식인 강화 학습을 이용하여 차량 번호판 영상의 각도 및 형태 등의 이미지 왜곡과 조명 조건의 열화에 강하며 자율적 학습으로 인식 능력이 스스로 진화할 수 있도록 하여 우수한 인식률의 신뢰도 높은 차량 번호판 자동 인식이 가능해 진다.Through this, it is strong against image distortion such as angle and shape of license plate image and deterioration of illumination condition using reinforcement learning, which is the artificial intelligence learning method which is the closest to human learning and recognizing manner, It is possible to automatically recognize the license plate with high recognition rate and high reliability.

이상, 일부 예를 들어서 본 발명의 바람직한 여러 가지 실시예에 대해서 설명하였지만, 본 "발명을 실시하기 위한 구체적인 내용" 항목에 기재된 여러 가지 다양한 실시예에 관한 설명은 예시적인 것에 불과한 것이며, 본 발명이 속하는 기술 분야에서 통상의 지식을 가진 자라면 이상의 설명으로부터 본 발명을 다양하게 변형하여 실시하거나 본 발명과 균등한 실시를 행할 수 있다는 점을 잘 이해하고 있을 것이다.While the present invention has been particularly shown and described with reference to exemplary embodiments thereof, it is evident that many alternatives, modifications and variations will be apparent to those skilled in the art. It will be understood by those skilled in the art that various changes in form and details may be made therein without departing from the spirit and scope of the invention as defined by the appended claims.

또한, 본 발명은 다른 다양한 형태로 구현될 수 있기 때문에 본 발명은 상술한 설명에 의해서 한정되는 것이 아니며, 이상의 설명은 본 발명의 개시 내용이 완전해지도록 하기 위한 것으로 본 발명이 속하는 기술 분야에서 통상의 지식을 가진 자에게 본 발명의 범주를 완전하게 알려주기 위해 제공되는 것일 뿐이며, 본 발명은 청구범위의 각 청구항에 의해서 정의될 뿐임을 알아야 한다.
In addition, since the present invention can be embodied in various other forms, the present invention is not limited by the above description, and the above description is intended to be a complete description of the present invention, It will be understood by those of ordinary skill in the art that the present invention is only provided to fully inform the person skilled in the art of the scope of the present invention and that the present invention is only defined by the claims of the claims.

100: CCTV
110 : 영상 촬영부
120 : 차량 번호판 검출부
130 : 문자 분할부
140 : 문자 인식부
150 : 이미지 왜곡 보정부
160 : 제어부
170 : 인공 지능부
200 : 광 링크부
300 : 관제 센터 서버
330 : 빅 데이터베이스100: CCTV
110:
120: license plate detector
130:
140:
150: image distortion correction unit
160:
170: Artificial Intelligence Department
200: Optical link part
300: Control center server
330: Big database

Claims

A method for recognizing a car navigation system for CCTV based on enhanced learning of an image recognition system having a CCTV and a control center server for photographing a license plate and outputting image data,
(a) detecting a boundary line, a horizontal edge and a vertical edge of the license plate by receiving the image data from the license plate detector;
(b) a character segmentation section preprocesses the image of the license plate through noise removal and morphology operations, and then projects the image in the vertical direction and the horizontal direction to divide the detected boundary line, the characters in the horizontal edge and the vertical edge;
(c) recognizing characters in the license plate by learning the training data of the reinforcement learning by receiving the divided characters; And
(d) storing the reinforcement-learned training data by a big database located at the control center server;
Lt; / RTI >
In the step (a)
The right and left boundaries of the boundary lines of the license plate are extracted using the characteristics of the brightness value distribution of the license plate,
In the step (c)
Wherein the training data of the reinforcement learning is learned using a feature using the vertical direction and the horizontal direction projection, a feature using a chain code, and a feature using a HOG that requires a Korean name and an English full name.
Reinforcement Learning Based Vehicle Number Identification Method for.

A method for recognizing a car navigation system for CCTV based on enhanced learning of an image recognition system having a CCTV and a control center server for photographing a license plate and outputting image data,
(a) detecting a boundary line, a horizontal edge and a vertical edge of the license plate by receiving the image data from the license plate detector;
(b) a character segmentation section preprocesses the image of the license plate through noise removal and morphology operations, and then projects the image in the vertical direction and the horizontal direction to divide the detected boundary line, the characters in the horizontal edge and the vertical edge;
(c) recognizing characters in the license plate by learning the training data of the reinforcement learning by receiving the divided characters;
(d) storing the reinforcement-learned training data by a big database located at the control center server; And
(e) the image distortion correction unit receives the recognized characters and extracts tilt correction and top and bottom boundary information for a candidate region of the license plate;
Lt; / RTI >
In the step (a)
The right and left boundaries of the boundary lines of the license plate are extracted using the characteristics of the brightness value distribution of the license plate,
In the step (c)
Wherein the training data of the reinforcement learning is learned using a feature using the vertical direction and the horizontal direction projection, a feature using a chain code, and a feature using a HOG that requires a Korean name and an English full name.
Reinforcement Learning Based Vehicle Number Identification Method for.

A method for recognizing a car navigation system for CCTV based on enhanced learning of an image recognition system having a CCTV and a control center server for photographing a license plate and outputting image data,
(a) detecting a boundary line, a horizontal edge and a vertical edge of the license plate by receiving the image data from the license plate detector;
(b) a character segmentation section preprocesses the image of the license plate through noise removal and morphology operations, and then projects the image in the vertical direction and the horizontal direction to divide the detected boundary line, the characters in the horizontal edge and the vertical edge;
(c) recognizing characters in the license plate by learning the training data of the reinforcement learning by receiving the divided characters;
(d) storing the reinforcement-learned training data by a big database located at the control center server;
(e) the image distortion correction unit receives the recognized characters and extracts tilt correction and top and bottom boundary information for a candidate region of the license plate; And
(f) recognizing characters in the license plate by receiving a result of reinforcement learning by the artificial intelligence unit using the Markov decision process;
Lt; / RTI >
In the step (a)
The right and left boundaries of the boundary lines of the license plate are extracted using the characteristics of the brightness value distribution of the license plate,
In the step (c)
Wherein the training data of the reinforcement learning is learned using a feature using the vertical direction and the horizontal direction projection, a feature using a chain code, and a feature using a HOG that requires a Korean name and an English full name.
Reinforcement Learning Based Vehicle Number Identification Method for.

A method for recognizing a car navigation system for CCTV based on enhanced learning of an image recognition system having a CCTV and a control center server for photographing a license plate and outputting image data,
(a) detecting a boundary line, a horizontal edge and a vertical edge of the license plate by receiving the image data from the license plate detector;
(b) a character segmentation section preprocesses the image of the license plate through noise removal and morphology operations, and then projects the image in the vertical direction and the horizontal direction to divide the detected boundary line, the characters in the horizontal edge and the vertical edge;
(c) recognizing characters in the license plate by learning the training data of the reinforcement learning by receiving the divided characters;
(d) storing the reinforcement-learned training data by a big database located at the control center server; And
(e) the image distortion correction unit receives the recognized characters and extracts tilt correction and top and bottom boundary information for a candidate region of the license plate;
Lt; / RTI >
The step (e)
(e-1) estimating an inclined angle using a horizontal edge component existing in a candidate region of the license plate;
(e-2) correcting the slope of the candidate region of the vehicle license plate by performing the homography transformation with the image distortion correction unit receiving the estimated tilted angle; And
(e-3) extracting a boundary candidate similar to the corrected inclination to upper and lower boundaries of the license plate using the positional relationship characteristic between the vertical edge and the horizontal edge of the license plate;
Lt; / RTI >
In the step (a)
The right and left boundaries of the boundary lines of the license plate are extracted using the characteristics of the brightness value distribution of the license plate,
In the step (c)
Wherein the training data of the reinforcement learning is learned using a feature using the vertical direction and the horizontal direction projection, a feature using a chain code, and a feature using a HOG that requires a Korean name and an English full name.
Reinforcement Learning Based Vehicle Number Identification Method for.

A method for recognizing a car navigation system for CCTV based on enhanced learning of an image recognition system having a CCTV and a control center server for photographing a license plate and outputting image data,
(a) detecting a boundary line, a horizontal edge and a vertical edge of the license plate by receiving the image data from the license plate detector;
(b) a character segmentation section preprocesses the image of the license plate through noise removal and morphology operations, and then projects the image in the vertical direction and the horizontal direction to divide the detected boundary line, the characters in the horizontal edge and the vertical edge;
(c) recognizing characters in the license plate by learning the training data of the reinforcement learning by receiving the divided characters;
(d) storing the reinforcement-learned training data by a big database located at the control center server; And
(e) the image distortion correction unit receives the recognized characters and extracts tilt correction and top and bottom boundary information for a candidate region of the license plate;
Lt; / RTI >
The step (e)
(e-1) estimating an inclined angle using a horizontal edge component existing in a candidate region of the license plate;
(e-2) correcting the slope of the candidate region of the vehicle license plate by performing the homography transformation with the image distortion correction unit receiving the estimated tilted angle; And
(e-3) extracting a boundary candidate similar to the corrected inclination to upper and lower boundaries of the license plate using the positional relationship characteristic between the vertical edge and the horizontal edge of the license plate;
/ RTI >
The step (e-2)
Selecting the boundary candidate using the positional relationship between the vertical edge and the horizontal edge in the license plate;
Removing the boundary candidates whose distance between the selected boundary candidates is not similar to the height of the license plate; And
The control unit judging the boundary candidate similar to the corrected inclination as the degree of overlap and inclination in the horizontal direction among the boundary candidates of the license plate as the upper and lower boundaries of the license plate;
Lt; / RTI >
In the step (a)
The right and left boundaries of the boundary lines of the license plate are extracted using the characteristics of the brightness value distribution of the license plate,
In the step (c)
Wherein the training data of the reinforcement learning is learned using a feature using the vertical direction and the horizontal direction projection, a feature using a chain code, and a feature using a HOG that requires a Korean name and an English full name.
Reinforcement Learning Based Vehicle Number Identification Method for.