RU2746631C1 - Road lane detection method - Google Patents

Road lane detection method Download PDF

Info

Publication number
RU2746631C1
RU2746631C1 RU2020130571A RU2020130571A RU2746631C1 RU 2746631 C1 RU2746631 C1 RU 2746631C1 RU 2020130571 A RU2020130571 A RU 2020130571A RU 2020130571 A RU2020130571 A RU 2020130571A RU 2746631 C1 RU2746631 C1 RU 2746631C1
Authority
RU
Russia
Prior art keywords
road lane
road
lane
pixel
final mask
Prior art date
Application number
RU2020130571A
Other languages
Russian (ru)
Inventor
Салимжан Азатович Гафуров
Евгений Игоревич Максимычев
Игорь Олегович Шаповалов
Владислав Вячеславович Останькович
Original Assignee
Автономная некоммерческая организация высшего образования "Университет Иннополис"
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Автономная некоммерческая организация высшего образования "Университет Иннополис" filed Critical Автономная некоммерческая организация высшего образования "Университет Иннополис"
Priority to RU2020130571A priority Critical patent/RU2746631C1/en
Application granted granted Critical
Publication of RU2746631C1 publication Critical patent/RU2746631C1/en

Links

Images

Classifications

    • GPHYSICS
    • G05CONTROLLING; REGULATING
    • G05DSYSTEMS FOR CONTROLLING OR REGULATING NON-ELECTRIC VARIABLES
    • G05D3/00Control of position or direction
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F18/00Pattern recognition
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06NCOMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N3/00Computing arrangements based on biological models
    • G06N3/02Neural networks
    • G06N3/04Architecture, e.g. interconnection topology
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06NCOMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N3/00Computing arrangements based on biological models
    • G06N3/02Neural networks
    • G06N3/08Learning methods
    • GPHYSICS
    • G08SIGNALLING
    • G08GTRAFFIC CONTROL SYSTEMS
    • G08G1/00Traffic control systems for road vehicles
    • G08G1/01Detecting movement of traffic to be counted or controlled
    • G08G1/017Detecting movement of traffic to be counted or controlled identifying vehicles
    • GPHYSICS
    • G08SIGNALLING
    • G08GTRAFFIC CONTROL SYSTEMS
    • G08G1/00Traffic control systems for road vehicles
    • G08G1/01Detecting movement of traffic to be counted or controlled
    • G08G1/052Detecting movement of traffic to be counted or controlled with provision for determining speed or overspeed
    • G08G1/054Detecting movement of traffic to be counted or controlled with provision for determining speed or overspeed photographing overspeeding vehicles
    • GPHYSICS
    • G08SIGNALLING
    • G08GTRAFFIC CONTROL SYSTEMS
    • G08G1/00Traffic control systems for road vehicles
    • G08G1/14Traffic control systems for road vehicles indicating individual free spaces in parking areas

Landscapes

  • Engineering & Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Theoretical Computer Science (AREA)
  • Data Mining & Analysis (AREA)
  • General Engineering & Computer Science (AREA)
  • Life Sciences & Earth Sciences (AREA)
  • Artificial Intelligence (AREA)
  • Evolutionary Computation (AREA)
  • Biomedical Technology (AREA)
  • Molecular Biology (AREA)
  • Software Systems (AREA)
  • Mathematical Physics (AREA)
  • Computing Systems (AREA)
  • Health & Medical Sciences (AREA)
  • General Health & Medical Sciences (AREA)
  • Biophysics (AREA)
  • Computational Linguistics (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • Bioinformatics & Computational Biology (AREA)
  • Automation & Control Theory (AREA)
  • Evolutionary Biology (AREA)
  • Bioinformatics & Cheminformatics (AREA)
  • Traffic Control Systems (AREA)
  • Image Analysis (AREA)

Abstract

FIELD: computer technology.SUBSTANCE: method of detecting a road lane involves obtaining an image of a section of the road lane and its processing. The resulting image is simultaneously processed using a convolutional neural network and using a road marking detection algorithm. After that, masks are generated in parallel for two intermediate images obtained as a result of processing. Weighted addition of masks is performed pixel-by-pixel and their conversion to a top view is performed, forming a final mask. Then, the coordinates of the pixels of the final mask are converted from the image coordinate system to the vehicle coordinate system. After that, each pixel of the final mask is assigned a weight coefficient, which is determined by the brightness of the corresponding pixel. Then, the resulting pixels of the final mask are approximated into a polynomial that defines the line of the middle of the road lane, and the deviation of the position of the vehicle relatively to the middle of the road lane is calculated.EFFECT: improved quality of road lane detection and recognition is achieved.3 cl, 9 dwg

Description

Настоящее изобретение относится к области вычислительной техники, может быть применено в автоматизированных системах управления беспилотными транспортными средствами или в продвинутых системах помощи водителю (advanced driver assistant system, ADAS) для определения положения транспортного средства относительно дорожной полосы и предназначено для определения/предотвращения схода транспортного средства с дорожной полосы.The present invention relates to the field of computing, can be applied in automated control systems for unmanned vehicles or in advanced driver assistance systems (ADAS) to determine the position of the vehicle relative to the road lane and is intended to determine / prevent vehicle derailment. road lane.

Существует множество различных способов обнаружения дорожной полосы, распознавания дорожной разметки с локализацией транспортного средства относительно нее. Большинство из них используют данные, полученные с видеокамеры, установленной на автомобиле, и основаны на способах из области классического компьютерного зрения [Takialddin Al Smadi, «Real-Time Lane Detection for Driver Assistance System», ISSN Online 2153-1293, Circuits and Systems, 2014, 5, 201-207]. Подобные способы основаны на данных, полученных с помощью одного способа обнаружения дорожной полосы, но в условиях заснеженной дороги, при сильном износе дорожной разметки или вовсе ее отсутствии, они неработоспособны. Некоторые способы обеспечивают приемлемую для задач автономного вождения точность, но требуют существенных вычислительных мощностей. А для их работы в реальном времени необходимо опираться на динамическую модель транспортного средства, разработка которой – довольно сложный процесс. Альтернативой является использование нейронных сетей [«Robust Lane Detection from Continuous Driving Scenes Using Deep Neural Network», Qin Zou, Hanwen Jiang, Qiyu Dai, Yuanhao Yue, Long Chen, and Qian Wang, 29.04.2020, arXiv 1903.02193v2 [cs.CV]], генерирующих бинарную маску для полосы, по которой движется транспортное средство. Данный способ более устойчив к различным внешним факторам, но главным его недостатком является то, что при отсутствии в обучающей выборке данных, собранных в условиях, похожих на те, в которых находится транспортное средство в данный момент времени, способ не дает удовлетворительного результата. Такие способы также требуют существенных вычислительных мощностей.There are many different ways of detecting a lane, recognizing road markings with the localization of the vehicle relative to it. Most of them use data obtained from a video camera installed in a car and are based on methods from the field of classical computer vision [Takialddin Al Smadi, "Real-Time Lane Detection for Driver Assistance System", ISSN Online 2153-1293, Circuits and Systems, 2014, 5, 201-207]. Such methods are based on data obtained using one method of detecting a road lane, but in conditions of a snowy road, with severe wear of the road markings or none at all, they are inoperative. Some methods provide acceptable accuracy for autonomous driving tasks, but require significant computing power. And for them to work in real time, it is necessary to rely on a dynamic vehicle model, the development of which is a rather complicated process. An alternative is to use neural networks ["Robust Lane Detection from Continuous Driving Scenes Using Deep Neural Network", Qin Zou, Hanwen Jiang, Qiyu Dai, Yuanhao Yue, Long Chen, and Qian Wang, 04/29/2020, arXiv 1903.02193v2 [cs.CV ]], generating a binary mask for the lane along which the vehicle is moving. This method is more resistant to various external factors, but its main disadvantage is that in the absence of data collected in the training sample under conditions similar to those in which the vehicle is at a given time, the method does not give a satisfactory result. Such methods also require significant computing power.

Известно, что использование алгоритма сверточной нейронной сети при работе не дает сбой, но уступает в производительности алгоритму обнаружения дорожной полосы, так как на высокой скорости движения транспортного средства сверточная нейронная сеть может обрабатывать изображение с запозданием или иногда выдавать на изображении «шумы» и «выбросы». Это происходит из-за того, что сверточные нейронные сеть всегда обучаются на определенном участке дороги, на определенном наборе изображений, существенно отличающихся от изображений, получаемых алгоритмом при работе в настоящий момент времени. It is known that the use of the convolutional neural network algorithm does not fail during operation, but is inferior in performance to the road lane detection algorithm, since at a high vehicle speed, the convolutional neural network can process the image with a delay or sometimes display “noise” and “outliers ". This is due to the fact that convolutional neural networks are always trained on a certain section of the road, on a certain set of images that differ significantly from the images obtained by the algorithm when working at the current time.

Наиболее распространенным применяемым способом для обнаружения дорожной полосы является преобразование Хафа. Данный способ заключается в следующем: производится проверка качества параметров путем определения количества пикселей (точек), удовлетворяющих текущим параметрам. The most common used method for lane detection is the Hough transform. This method is as follows: the quality of the parameters is checked by determining the number of pixels (points) that meet the current parameters.

Известны системы и способы, основанные на использовании преобразования Хафа для обнаружения дорожной полосы.There are known systems and methods based on the use of the Hough transform for lane detection.

Система определения фактических параметров проезжей части, RU2683618, приоритет 21.12.2017г. позволяет сформировать виртуальную дорожную сцену при отсутствии достоверно распознаваемой дорожной разметки, используя преобразование Хафа. The system for determining the actual parameters of the carriageway, RU2683618, priority 12/21/2017. allows you to form a virtual road scene in the absence of reliably recognizable road markings using the Hough transform.

Система и способ, (патент Китая CN104029680, «Lane departure warning system and method based on monocular camera», приоритет 02.01.2014г.) использует преобразование Хафа как способ определения дорожной полосы. The system and method (Chinese patent CN104029680, "Lane departure warning system and method based on monocular camera", priority 02.01.2014) uses the Hough transform as a way to determine the lane.

В системе (патент Китая CN108438004, «Lane departure warning system based on monocular vision», приоритет 05.03.2018г.) также применяется преобразование Хафа для поиска и обнаружения дорожной разметки.The system (Chinese patent CN108438004, "Lane departure warning system based on monocular vision", priority 05.03.2018) also uses the Hough transformation for finding and detecting road markings.

Преобразование Хафа довольно просто в применении, имеет хорошую производительность при движении на высокой скорости транспортного средства, однако, являясь линейным преобразованием, оно служит для обнаружения прямых линий, потому имеет ограничение в применении при движении транспортного средства по извилистой дороге, а также является неработоспособным при отсутствии или плохом качестве дорожной разметки. The Hough transformation is quite simple to use, has good performance when driving at a high vehicle speed, however, being a linear transformation, it serves to detect straight lines, therefore it has a limitation in application when a vehicle moves on a winding road, and is also inoperable in the absence of or poor quality road markings.

Наиболее близким техническим решением является способ и система раннего предупреждения о выезде с полосы движения на основе искусственного интеллекта (патент Китая CN108297867, «Lane departure early-warning method and system based on artificial intelligence», приоритет 11.02.2018 г.). Способ раннего предупреждения содержит этапы, на которых обрабатываются видеоданные полосы движения и предварительно сохраненные данные линии полосы движения на основе технологии глубинного обучения и получается модель линии полосы движения; извлекаются последовательные изображения кадра в видеоизображении сцены; разрешенные линии полос на изображениях кадров извлекаются с помощью модели линий полос; трехмерные координаты линий разрешенных полос движения получаются через трехмерную систему координат, а предел безопасности планируется в соответствии с трехмерными координатами линий разрешенных полос движения; и когда расстояние отъезда транспортного средства превышает предел безопасности, выдается сигнал тревоги. Основным недостатком такого решения является использование для обнаружения дорожной полосы алгоритмов глубокого машинного обучения, которые требуют значительных вычислительных ресурсов, поэтому ограничивают применение способа при скорости транспортного средства более 60-70 км/ч.The closest technical solution is the method and system of early warning of lane departure based on artificial intelligence (Chinese patent CN108297867, "Lane departure early-warning method and system based on artificial intelligence", priority 11.02.2018). The early warning method comprises the steps of processing lane video data and pre-stored lane line data based on deep learning technology and obtaining a lane line model; extracts sequential frame images in the video image of the scene; allowed stripe lines in frame images are extracted using the stripe line model; the three-dimensional coordinates of the lines of the permitted traffic lanes are obtained through a three-dimensional coordinate system, and the safety limit is planned in accordance with the three-dimensional coordinates of the lines of the permitted lanes; and when the departure distance of the vehicle exceeds the safety limit, an alarm is issued. The main disadvantage of this solution is the use of deep machine learning algorithms for road lane detection, which require significant computing resources, therefore, they limit the application of the method at a vehicle speed of more than 60-70 km / h.

Вышеупомянутые технические решения либо основаны на применении способов, обладающих высокой производительностью в ущерб точности и вероятности обнаружения, либо основаны на способах глубокого машинного обучения, позволяющих обнаружить заданные объекты с высокой вероятностью в ущерб производительности и скорости принятия решений.The aforementioned technical solutions are either based on the use of methods that have high performance at the expense of accuracy and detection probability, or are based on deep machine learning methods that can detect given objects with a high probability at the expense of performance and decision-making speed.

Согласно заявляемому изобретению, предлагается новый способ обнаружения дорожной полосы, свободный от упомянутых недостатков и обладающий рядом преимуществ по сравнению с известными аналогами. According to the claimed invention, a new method for detecting a road lane is proposed, free from the above-mentioned disadvantages and having a number of advantages over the known analogs.

Техническим результатом предлагаемого способа является улучшение качества обнаружения и распознавания дорожной полосы, увеличение точности определения смещения транспортного средства, увеличение производительности и скорости обработки изображения, снижение зависимости работы способа от внешних факторов.The technical result of the proposed method is to improve the quality of detection and recognition of the road lane, increase the accuracy of determining the displacement of the vehicle, increase the productivity and speed of image processing, reduce the dependence of the method on external factors.

Технический результат достигается тем, что в способе обнаружения дорожной полосы, включающем получение изображения участка дорожной полосы и его обработку одновременно с использованием сверточной нейронной сети и с использованием алгоритма обнаружения дорожной разметки, после этого для двух промежуточных изображений, полученных в результате обработки, параллельно генерируются маски, выполняется взвешенное сложение масок попиксельно и преобразование в вид сверху, формируя итоговую маску, далее выполняется преобразование координат пикселей итоговой маски из системы координат изображения в систему координат транспортного средства, после каждому пикселю итоговой маски присваивается весовой коэффициент, который определяется яркостью соответствующего пикселя, далее полученные пиксели итоговой маски аппроксимируются в полином, определяющий линию середины дорожной полосы, и вычисляется отклонение положения транспортного средства относительно середины дорожной полосы.The technical result is achieved in that in the method for detecting a road lane, including obtaining an image of a section of a road lane and processing it simultaneously using a convolutional neural network and using a road marking detection algorithm, then masks are generated in parallel for two intermediate images obtained as a result of processing , the weighted addition of the masks is performed pixel by pixel and the transformation into a top view, forming the final mask, then the transformation of the pixel coordinates of the final mask from the image coordinate system to the vehicle coordinate system is performed, after each pixel of the final mask, a weight coefficient is assigned, which is determined by the brightness of the corresponding pixel, then obtained the pixels of the final mask are approximated to a polynomial defining the line of the middle of the road lane, and the deviation of the position of the vehicle relative to the middle of the road lane is calculated.

Кроме того допустимо, что набор коэффициентов аппроксимируют полиномом, определяющим смещение середины полосы относительно транспортного средства, и при смещении на заданную величину срабатывает устройство оповещения водителя или информационный сигнал поступает в блок управления беспилотного транспортного средства.In addition, it is permissible that the set of coefficients is approximated by a polynomial that determines the displacement of the middle of the lane relative to the vehicle, and when displaced by a predetermined amount, the driver alert device is triggered or the information signal is sent to the control unit of the unmanned vehicle.

Сущность изобретения показана на фигурах.The essence of the invention is shown in the figures.

На Фиг. 1 показана блок-схема осуществления способа в соответствии с предлагаемым изобретением.FIG. 1 shows a block diagram of the implementation of the method in accordance with the invention.

На Фиг. 2 приведено исходное изображение дорожной полосы с разметкой.FIG. 2 shows the original image of the road lane with markings.

На Фиг. 3 показана визуализация работы алгоритма с использованием сверточной нейронной сети.FIG. 3 shows the visualization of the algorithm using a convolutional neural network.

На Фиг. 4 показана визуализация работы алгоритма с использованием обнаружения дорожной разметки.FIG. 4 shows a visualization of the algorithm operation using lane markings detection.

На Фиг. 5 показана визуализация генерации маски после обработки изображения сверточной нейросетью.FIG. 5 shows a visualization of mask generation after image processing by a convolutional neural network.

На Фиг. 6 показана визуализация генерации маски после обработки изображения алгоритмом обнаружения разметки.FIG. 6 shows a visualization of mask generation after image processing by the markup detection algorithm.

На Фиг. 7 показано формирование итоговой маски после взвешенного сложения масок, обработанных параллельно двумя алгоритмами и преобразования координат полученной маски в «вид сверху».FIG. 7 shows the formation of the final mask after weighted addition of masks processed in parallel by two algorithms and transformation of the coordinates of the resulting mask into a "top view".

На Фиг. 8 показано взаимное расположение осей координат изображения и транспортного средства.FIG. 8 shows the relative position of the coordinate axes of the image and the vehicle.

На Фиг. 9 показана визуализация аппроксимации полосы в полином в системе координат транспортного средства.FIG. 9 shows a visualization of a polynomial lane approximation in the vehicle coordinate system.

Способ обнаружения дорожной полосы, включающий захват видеоизображения и его обработку вычислительным блоком, осуществляется с помощью установки в транспортное средство оптической системы, соединенной с вычислительным блоком, снабженным модулем высокой производительности, например, Nvidia Jetson AGX Xavier.A method for detecting a road lane, including capturing a video image and processing it by a computing unit, is carried out by installing an optical system in a vehicle connected to a computing unit equipped with a high-performance module, for example, Nvidia Jetson AGX Xavier.

Представленный схемой на фиг. 1 способ обнаружения дорожной полосы работает следующим образом. The diagram shown in FIG. 1 way lane detection works as follows.

С помощью устройства захвата видеоизображения вычислительный блок непрерывно получает изображения участка дорожной полосы и каждое полученное изображение одновременно (параллельно) обрабатывается при помощи сверточной нейронной сети, например, нейронной сети LinkNet (результат обработки представлен на фиг. 3), и алгоритмом с использованием обнаружения дорожной разметки (результат обработки представлен на фиг. 4), в котором может использоваться фильтр Кэнни для обнаружения и выделения контуров границ на изображении, характеризующихся перепадом яркости на разных частях изображения и преобразование Хафа для обнаружения прямых линий, позволяющее обнаружить линии границ дорожной полосы и дорожной разметки. With the help of a video capture device, the computing unit continuously receives images of a section of the road lane and each image obtained is simultaneously (in parallel) processed using a convolutional neural network, for example, a LinkNet neural network (the processing result is shown in Fig. 3), and an algorithm using road markings detection (the result of processing is shown in Fig. 4), in which the Canny filter can be used to detect and highlight edge contours in the image, characterized by the difference in brightness in different parts of the image, and the Hough transform to detect straight lines, which allows to detect the border lines of the lane and road markings.

После обработки для двух промежуточных изображений параллельно генерируются маски (бинаризированные изображения), на которых отмечена область обнаруженной дорожной полосы (фиг. 5 и фиг. 6, соответственно). Затем, полученные маски взвешенно складываются попиксельно, выполняется преобразование полученной маски в «вид сверху», формируя итоговую маску (фиг. 7). Для обеспечения совмещения систем отсчета изображений и транспортного средства выполняется преобразование координат итоговой маски из системы координат изображения в систему координат транспортного средства (фиг. 8).After processing, for two intermediate images, masks (binarized images) are generated in parallel, on which the area of the detected road lane is marked (Fig. 5 and Fig. 6, respectively). Then, the obtained masks are weightedly added pixel by pixel, the resulting mask is converted into a "top view", forming the final mask (Fig. 7). To ensure the alignment of the image reference systems and the vehicle, the coordinates of the final mask are converted from the image coordinate system to the vehicle coordinate system (Fig. 8).

После преобразования координат пикселей итоговой маски, каждому пикселю полученной маски присваиваются весовые коэффициенты, которые определяется яркостью соответствующего пикселя: пиксели, определенные как «дорожная полоса» обоими алгоритмами, имеют наибольший вес, определенные как «дорожная полоса» только одним из двух алгоритмов имеют меньший вес, не определенные как «дорожная полоса» ни одним из алгоритмов имеют нулевой вес.After transforming the coordinates of the pixels of the final mask, each pixel of the resulting mask is assigned weight coefficients, which are determined by the brightness of the corresponding pixel: pixels defined as a "road lane" by both algorithms have the greatest weight, defined as a "road lane" only one of the two algorithms have less weight not defined as a "lane" by any of the algorithms have zero weight.

Далее полученные пиксели с учетом их весовых коэффициентов аппроксимируются методом взвешенных наименьших квадратов в полином 3-ей степени, который задается уравнением вида Y(X) = aX3 + bX2 + cX + d (где X, Y — координаты пикселей (точек) линии середины дорожной полосы; a, b, c, d — коэффициенты, рассчитанные взвешенным методом наименьших квадратов). Далее выполняется определение уравнения линии середины дорожной полосы (фиг. 9). Смещение транспортного средства относительно середины дорожной полосы численно соответствует значению Y(0) = d, где d – коэффициент уравнения линии середины полосы, который также равен величине смещения.Further, the obtained pixels, taking into account their weight coefficients, are approximated by the method of weighted least squares in a polynomial of the 3rd degree, which is given by an equation of the form Y (X) = aX 3 + bX 2 + cX + d (where X, Y are the coordinates of the pixels (points) of the line center of the road lane; a, b, c, d - coefficients calculated by the weighted least squares method). Next, the equation of the line of the middle of the road lane is determined (Fig. 9). The displacement of the vehicle relative to the middle of the road lane numerically corresponds to the value Y (0) = d, where d is the coefficient of the equation of the line of the middle of the lane, which is also equal to the value of the displacement.

При отклонении положения транспортного средства относительно середины дорожной полосы на заданную величину данные об отклонении поступают в сигнальное устройство оповещения водителя, например, звуковое, а в случае с беспилотным транспортным средством, данные об отклонении поступают в блок управления беспилотного транспортного средства для дальнейшего принятия решения.When the position of the vehicle relative to the middle of the road lane deviates by a predetermined amount, the deviation data is sent to the driver's signaling device, for example, sound, and in the case of an unmanned vehicle, the deviation data is sent to the control unit of the unmanned vehicle for further decision making.

При определении смещения транспортного средства на дорожной полосе с отсутствием дорожной разметки, весовые коэффициенты алгоритма обнаружения дорожной разметки на результат аппроксимации не влияют, так как весовые коэффициенты, полученные таким алгоритмом, имеют наименьшее значение.When determining the displacement of a vehicle on a lane with no road markings, the weighting coefficients of the road marking detection algorithm do not affect the approximation result, since the weight coefficients obtained by such an algorithm have the smallest value.

При определении смещения транспортного средства, при наличии дорожной разметки, на скорости более 60 км/ч сверточная нейронная сеть будет выдавать данные с некоторым запозданием, однако одновременная (параллельная) обработка изображения алгоритмом обнаружения дорожной разметки позволяет компенсировать этот недостаток и работа нейронной не оказывает влияние на скорость обработки данных. When determining the displacement of a vehicle, in the presence of road markings, at a speed of more than 60 km / h, the convolutional neural network will output data with some delay, however, simultaneous (parallel) image processing by the road marking detection algorithm makes it possible to compensate for this drawback and the operation of the neural network does not affect data processing speed.

Предлагаемый способ позволяет улучшить качество обнаружения и распознаваемости дорожной полосы за счет за счет одновременной (параллельной) обработки изображений двумя алгоритмами. Увеличить точность определения смещения транспортного средства за счет использования сверточной нейронной сети, которая позволяет обеспечивать корректную работу способа при отсутствии дорожной разметки и на участках, характеризующихся определенной кривизной, например, на поворотах (извилистой дороге). Увеличить производительность и скорость обработки изображения за счет применения алгоритма обнаружения разметки при движении транспортного средства на высокой скорости, и снизить зависимость работы способа от внешних факторов. Также сочетание двух алгоритмов позволяет исключить влияние «шумов», сопутствующих работе нейронной сети.The proposed method improves the quality of detection and recognition of the road lane due to the simultaneous (parallel) image processing by two algorithms. To increase the accuracy of determining the displacement of the vehicle by using a convolutional neural network, which allows the correct operation of the method in the absence of road markings and in areas characterized by a certain curvature, for example, at turns (winding road). Increase the performance and speed of image processing by using the algorithm for detecting markings when the vehicle is moving at high speed, and reduce the dependence of the method on external factors. Also, the combination of the two algorithms eliminates the influence of "noise" accompanying the operation of the neural network.

Claims (3)

1. Способ обнаружения дорожной полосы, включающий получение изображения участка дорожной полосы и его обработку, отличающийся тем, что полученное изображение одновременно обрабатывается с использованием сверточной нейронной сети и с использованием алгоритма обнаружения дорожной разметки, после этого для двух промежуточных изображений, полученных в результате обработки, параллельно генерируются маски, выполняется взвешенное сложение масок попиксельно и преобразование в вид сверху, формируя итоговую маску, далее выполняется преобразование координат пикселей итоговой маски из системы координат изображения в систему координат транспортного средства, после каждому пикселю итоговой маски присваивается весовой коэффициент, который определяется яркостью соответствующего пикселя, далее полученные пиксели итоговой маски аппроксимируются в полином, определяющий линию середины дорожной полосы, и вычисляется отклонение положения транспортного средства относительно середины дорожной полосы. 1. A method for detecting a road lane, including obtaining an image of a section of a road lane and processing it, characterized in that the obtained image is simultaneously processed using a convolutional neural network and using a road marking detection algorithm, then for two intermediate images obtained as a result of processing, masks are generated in parallel, weighted addition of masks per pixel and transformation into a top view, forming the final mask, then the transformation of the pixel coordinates of the final mask from the image coordinate system to the vehicle coordinate system is performed, after each pixel of the final mask a weight coefficient is assigned, which is determined by the brightness of the corresponding pixel , then the obtained pixels of the final mask are approximated into a polynomial defining the line of the middle of the road lane, and the deviation of the position of the vehicle relative to the middle of the road lane is calculated. 2. Способ по п. 1, отличающийся тем, что при отклонении положения транспортного средства относительно середины дорожной полосы на заданную величину данные об отклонении поступают в сигнальное устройство оповещения водителя.2. The method according to claim 1, characterized in that when the position of the vehicle relative to the middle of the road lane deviates by a predetermined amount, the data on the deviation is sent to the driver warning device. 3. Способ по п. 1, отличающийся тем, что при отклонении положения транспортного средства относительно середины дорожной полосы на заданную величину данные об отклонении поступают в блок управления беспилотного транспортного средства.3. The method according to claim 1, characterized in that when the position of the vehicle relative to the middle of the road lane is deviated by a predetermined amount, the data on the deviation is sent to the control unit of the unmanned vehicle.
RU2020130571A 2020-09-17 2020-09-17 Road lane detection method RU2746631C1 (en)

Priority Applications (1)

Application Number Priority Date Filing Date Title
RU2020130571A RU2746631C1 (en) 2020-09-17 2020-09-17 Road lane detection method

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
RU2020130571A RU2746631C1 (en) 2020-09-17 2020-09-17 Road lane detection method

Publications (1)

Publication Number Publication Date
RU2746631C1 true RU2746631C1 (en) 2021-04-19

Family

ID=75521290

Family Applications (1)

Application Number Title Priority Date Filing Date
RU2020130571A RU2746631C1 (en) 2020-09-17 2020-09-17 Road lane detection method

Country Status (1)

Country Link
RU (1) RU2746631C1 (en)

Citations (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US10296794B2 (en) * 2016-12-20 2019-05-21 Jayant Rtti On-demand artificial intelligence and roadway stewardship system
CN110222591A (en) * 2019-05-16 2019-09-10 天津大学 A kind of method for detecting lane lines based on deep neural network
CN111144361A (en) * 2019-12-31 2020-05-12 合肥湛达智能科技有限公司 Road lane detection method based on binaryzation CGAN network
US20200193177A1 (en) * 2018-12-18 2020-06-18 Visteon Global Center Drive Method for multilane detection using a convolutional neural network

Patent Citations (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US10296794B2 (en) * 2016-12-20 2019-05-21 Jayant Rtti On-demand artificial intelligence and roadway stewardship system
US20200193177A1 (en) * 2018-12-18 2020-06-18 Visteon Global Center Drive Method for multilane detection using a convolutional neural network
CN110222591A (en) * 2019-05-16 2019-09-10 天津大学 A kind of method for detecting lane lines based on deep neural network
CN111144361A (en) * 2019-12-31 2020-05-12 合肥湛达智能科技有限公司 Road lane detection method based on binaryzation CGAN network

Similar Documents

Publication Publication Date Title
US10129521B2 (en) Depth sensing method and system for autonomous vehicles
CN106647776B (en) Method and device for judging lane changing trend of vehicle and computer storage medium
Labayrade et al. In-vehicle obstacles detection and characterization by stereovision
EP2960858B1 (en) Sensor system for determining distance information based on stereoscopic images
Huang et al. Lane detection based on inverse perspective transformation and Kalman filter
KR20200060194A (en) Method of predicting depth values of lines, method of outputting 3d lines and apparatus thereof
CN112149550A (en) Automatic driving vehicle 3D target detection method based on multi-sensor fusion
Nassu et al. A vision-based approach for rail extraction and its application in a camera pan–tilt control system
JP4937844B2 (en) Pedestrian detection device
Javadi et al. A robust vision-based lane boundaries detection approach for intelligent vehicles
Real-Moreno et al. Obtaining object information from stereo vision system for autonomous vehicles
WO2021199584A1 (en) Detecting debris in a vehicle path
JP3562278B2 (en) Environment recognition device
RU2746631C1 (en) Road lane detection method
Clady et al. Cars detection and tracking with a vision sensor
JP3629935B2 (en) Speed measurement method for moving body and speed measurement device using the method
KR101461316B1 (en) System and method for controling Automatic Guided Vehicles based on color maker using dual camera
KR102453782B1 (en) Method of detecting traffic lane for automated driving
Beresnev et al. Automated Driving System based on Roadway and Traffic Conditions Monitoring.
CN114152955A (en) High-precision obstacle identification system based on SLAM technology
Vajak et al. HistWind2—An Algorithm for Efficient Lane Detection in Highway and Suburban Environments
CN113569803A (en) Multi-mode data fusion lane target detection method and system based on multi-scale convolution
Langenberg et al. Automatic traffic light to ego vehicle lane association at complex intersections
Fu et al. Computer vision based object detection and recognition for vehicle driving
Rosebrock et al. Real-time vehicle detection with a single camera using shadow segmentation and temporal verification

Legal Events

Date Code Title Description
QB4A Licence on use of patent

Free format text: LICENCE FORMERLY AGREED ON 20211001

Effective date: 20211001