RU2441283C2 - Electro-optical apparatus for preventing vehicle collision - Google Patents
Electro-optical apparatus for preventing vehicle collision Download PDFInfo
- Publication number
- RU2441283C2 RU2441283C2 RU2009113442/11A RU2009113442A RU2441283C2 RU 2441283 C2 RU2441283 C2 RU 2441283C2 RU 2009113442/11 A RU2009113442/11 A RU 2009113442/11A RU 2009113442 A RU2009113442 A RU 2009113442A RU 2441283 C2 RU2441283 C2 RU 2441283C2
- Authority
- RU
- Russia
- Prior art keywords
- oed
- outputs
- uvi
- possibility
- images
- Prior art date
Links
Images
Landscapes
- Traffic Control Systems (AREA)
Abstract
Description
Изобретение относится к вычислительной технике и может быть использовано для предотвращения дорожно-транспортных происшествий путем своевременного обнаружения препятствий на пути движения транспортного средства, других движущихся транспортных средств и предупреждения засыпания водителя.The invention relates to computer technology and can be used to prevent traffic accidents by timely detection of obstacles to the movement of the vehicle, other moving vehicles and preventing the driver from falling asleep.
Известна система предупреждения столкновений (см. патент США №7436430) [1], базирующаяся на принципе бинокулярного зрения.A known collision avoidance system (see US patent No. 7436430) [1], based on the principle of binocular vision.
Недостатком системы является низкая точность обнаружения препятствий в условиях шума изображения, что вызвано значительным снижением вероятности идентификации одного и того же объекта на разных кадрах стереоизображений при повышении шума. С пользовательской точки зрения данный факт снижает точность обнаружения препятствий при дожде, снеге и других осадках.The disadvantage of the system is the low accuracy of detecting obstacles in the conditions of image noise, which is caused by a significant decrease in the probability of identifying the same object on different frames of stereo images with increasing noise. From a user point of view, this fact reduces the accuracy of detecting obstacles during rain, snow and other precipitation.
Известна телевизионная система (см. патент США №7400266) [2], содержащая источник инфракрасного диапазона и высокочувствительную видеокамеру. Поступающее с видеокамеры изображение отображается на бортовом дисплее и увеличивает вероятность обнаружения препятствия на дороге водителем в ночное время. Однако данная система не является автоматизированной, т.е. человек постоянно должен смотреть на монитор, что не дает возможности следить за ситуацией на дороге и не снижает вероятности возникновения дорожно-транспортного происшествия.A known television system (see US patent No. 7400266) [2], containing an infrared source and a highly sensitive video camera. The image coming from the camcorder is displayed on the on-board display and increases the likelihood of the driver detecting an obstacle on the road at night. However, this system is not automated, i.e. a person must constantly look at the monitor, which makes it impossible to monitor the situation on the road and does not reduce the likelihood of a traffic accident.
Известна система для обнаружения препятствий (см. патент США №7389171) [3] с единственным оптико-электронным датчиком (ОЭД). Очевидным недостатком предложенного решения является невозможность определения трехмерных координат объектов, что существенно снижает функциональные возможности системы предупреждения столкновений, в частности не позволяет анализировать траекторию движения встречного транспортного средства и своевременно сигнализировать о возможном препятствии.A known system for detecting obstacles (see US patent No. 7389171) [3] with a single optical electronic sensor (OED). An obvious drawback of the proposed solution is the impossibility of determining the three-dimensional coordinates of objects, which significantly reduces the functionality of the collision avoidance system, in particular, it does not allow to analyze the trajectory of the oncoming vehicle and to signal a possible obstacle in a timely manner.
Известно устройство для оповещения об аварийной ситуации на дороге (см. патент РФ №2157769) [4], состоящее из узла реагирования на столкновение, взаимосвязанного с механизмом срабатывания, имеющим сигнализирующий элемент. Недостатками устройства является недостаточная для практического применения проработанность технического решения, особенно в части бесконтактного обнаружения препятствия. В [4] предлагаются лишь решения, связанные с механическими узлами устройства, тогда как вопросы построения автоматического средства обнаружения препятствий практически не затрагиваются.A device for warning of an emergency on the road (see RF patent No. 2157769) [4], consisting of a node for responding to a collision, interconnected with a response mechanism having a signaling element. The disadvantages of the device is the lack of practical application of the technical solution, especially in terms of contactless detection of obstacles. In [4], only solutions are proposed related to the mechanical components of the device, while the issues of constructing an automatic means of detecting obstacles are practically not addressed.
Наиболее близким к предлагаемому устройству является система трехмерного технического зрения для робототехнических систем (см. патент США №7410266) [5], которая состоит из системы линз, устройства ввода изображения (УВИ) и системного контроллера. Основной выполняемой задачей системой технического зрения (СТЗ) является идентификация и распознавание объектов. СТЗ может быть применена для решения задач предупреждения столкновений. Недостатком данного устройства является его ориентация на универсальное применение, что делает данное решение неэффективным в плане обнаружения препятствий на пути движения транспортного средства и, кроме того, не обеспечивает анализ состояния водителя (спит/не спит).Closest to the proposed device is a three-dimensional vision system for robotic systems (see US patent No. 7410266) [5], which consists of a lens system, image input device (UVI) and a system controller. The main task performed by the system of technical vision (STZ) is the identification and recognition of objects. STZ can be applied to solve collision avoidance problems. The disadvantage of this device is its orientation toward universal use, which makes this solution ineffective in terms of detecting obstacles to the vehicle’s movement and, moreover, does not provide an analysis of the driver’s condition (sleeps / does not sleep).
Задача, на решение которой направлено заявляемое изобретение, состоит в разработке системы, обеспечивающей автоматическое оповещение водителя о возможном столкновении транспортного средства с препятствием для предотвращения дорожно-транспортного происшествия (по ходу движения или сзади), а также обеспечивающей возможность анализа состояния водителя (спит/не спит) для предупреждения засыпания за рулем.The problem to which the claimed invention is directed is to develop a system that provides automatic notification of the driver about a possible collision of a vehicle with an obstacle to prevent a traffic accident (in the direction of travel or behind), and also provides the ability to analyze the condition of the driver (sleeps / not sleeping) to prevent falling asleep while driving.
Технический результат достигается за счет того, что в известное устройство, содержащее первое устройство ввода изображения и системный контроллер (СК), дополнительно введены первый, второй, третий, четвертый, пятый ОЭД, второе, третье, четвертое устройства ввода изображения (УВИ), первое, второе устройства компенсации размытости (УКР), ЖК-индикатор (ЖКИ), устройство звуковой индикации (УЗИ), причем выходы первого, второго, третьего и четвертого ОЭД соединены соответственно с входами первого, второго, третьего и четвертого УВИ, выходы первого и второго УВИ соединены соответственно с входами первого и второго УКР, чьи выходы подключены соответственно к первому и второму входам СК, выходы третьего и четвертого УВИ соединены соответственно с третьим и четвертым входом СК, выход пятого ОЭД соединен с пятым входом СК, сигнал с датчика текущей скорости транспортного средства поступает на шестой вход СК, первый и второй выходы которого соединены с входами УЗИ и ЖКИ, соответственно.The technical result is achieved due to the fact that the first, second, third, fourth, fifth OED, the second, third, fourth image input devices (UVI), the first, are additionally introduced into the known device containing the first image input device and a system controller (SC). , the second blur compensation device (UKR), an LCD indicator (LCD), an audio indication device (ultrasound), and the outputs of the first, second, third and fourth OED are connected respectively to the inputs of the first, second, third and fourth UVI, the outputs of the first the second UVI are connected respectively to the inputs of the first and second UKR, whose outputs are connected respectively to the first and second inputs of the SK, the outputs of the third and fourth UVI are connected respectively to the third and fourth input of the SK, the output of the fifth OED is connected to the fifth input of the SK, the signal from the current speed sensor the vehicle enters the sixth input of the SC, the first and second outputs of which are connected to the inputs of the ultrasound and LCD, respectively.
Изобретение может быть использовано для оповещения водителя о возможном столкновении транспортного средства с препятствием и засыпания водителя для предотвращения дорожно-транспортного происшествия.The invention can be used to alert the driver of a possible collision of a vehicle with an obstacle and to fall asleep to prevent a traffic accident.
Изобретение поясняется чертежом, где показана структурная схема оптико-электронного устройства предупреждений столкновения транспортного средства.The invention is illustrated in the drawing, which shows a structural diagram of an optoelectronic device for collision avoidance of a vehicle.
Устройство (чертеж) содержит первый ОЭД 1, первое УВИ 2, первое УКР 3, второй ОЭД 4, второе УВИ 5, второе УКР 6, третий ОЭД 7, третье УВИ 8, четвертый ОЭД 9, четвертое УВИ 10, пятый ОЭД 11, СК 12, УЗИ 13, ЖКИ 14, причем выходы первого ОЭД 1, второго ОЭД 4, третьего ОЭД 7 и четвертого ОЭД 9 соединены с входами первого УВИ 2, второго УВИ 5, третьего УВИ 8 и четвертого УВИ 10, соответственно, выходы первого УВИ 2 и второго УВИ 5 соединены с группами входов первого УКР 3 и второго УКР 6, соответственно, чьи выходы подключены к первому и второму входам СК 12, соответственно, выходы третьего УВИ 8 и четвертого УВИ 10 соединены с третьим и четвертым входом СК 12, соответственно, выход пятого ОЭД 11 соединены с пятым входом СК 12, информация о текущей скорости транспортного средства поступает на шестой вход СК 12, чьи первый и второй выходы соединены с группами входов УЗИ 13 и ЖКИ 14, соответственно.The device (drawing) contains the
Первый ОЭД 1 и второй ОЭД 4 служат для получения изображений рабочей сцены по ходу (спереди) движения транспортного средства, третий ОЭД 7 и четвертый ОЭД 9 служат для получения изображений рабочей сцены сзади транспортного средства, пятый ОЭД 11 предназначен для получения изображений глаз водителя. Первое УВИ 2, второе УВИ 5, третье УВИ 8 и четвертое УВИ 10 обеспечивают промежуточное хранение полученных изображений с первого ОЭД 1, второго ОЭД 4, третьего ОЭД 7 и четвертого ОЭД 9, соответственно и последующий ввод этих изображений в СК 12. Первое УКР 3 и второе УКР 6 используются для повышения четкости полученного изображения и обнаружения движущихся объектов. СК 12 служит для выделения контуров на изображениях, полученных с первого ОЭД 1, второго ОЭД 4, третьего ОЭД 7 и четвертого ОЭД 9, обнаружения неподвижных объектов на них, определения их трехмерных координат и траекторий движения, обнаружения препятствий и предупреждения водителя об опасности. УЗИ 13 служит для звукового оповещения водителя об опасности. ЖКИ 14 используется для визуального оповещения водителя об опасности.The first OED 1 and the second OED 4 are used to obtain images of the working stage along the front of the vehicle, the third OED 7 and the fourth OED 9 are used to obtain images of the working stage from the back of the vehicle, the fifth OED 11 is used to obtain images of the driver’s eyes. The
Устройство работает следующим образом. Первый ОЭД 1, второй ОЭД 4, третий ОЭД 7 и четвертый ОЭД 9 преобразуют распределение оптического излучения рабочей сцены в электрический сигнал и далее в цифровой форме формируют изображение рабочей сцены на своих выходах, с которых затем изображения поступают на входы первого УВИ 2, второго УВИ 5, третьего УВИ 8 и четвертого УВИ 10, соответственно, для хранения и последующей обработки. Изображения, полученные по ходу движения транспортного средства, хранимые в первом УВИ 2 и втором УВИ 5, передаются с их выходов на входы первого УКР 3, второго УКР 6, соответственно. Первый УКР 3 и второй УКР 6 производят обнаружение движущихся объектов и повышение четкости изображений.The device operates as follows. The
Первый УКР 3 и второй УКР 6 повышают четкость изображения адаптивно посредством изменения выходных значений яркости изображения текущего кадра в зависимости от входных значений яркости пикселей текущего и предыдущего кадров. Первый УКР 3 и второй УКР 6 также обнаруживают на изображении движущиеся объекты и измеряют их двумерные координаты.The first RBM 3 and the second RBM 6 increase the clarity of the image adaptively by changing the output brightness values of the image of the current frame depending on the input brightness values of the pixels of the current and previous frames. The first RBM 3 and the second RBM 6 also detect moving objects in the image and measure their two-dimensional coordinates.
Повышение четкости состоит из следующих этапов:Clarity improvement consists of the following steps:
- выделение движущихся пикселей на изображении на основе анализа межкадровой разницы,- the allocation of moving pixels in the image based on the analysis of the inter-frame difference,
- определение направления движения каждого пикселя,- determination of the direction of movement of each pixel,
- объединение движущихся в одном направлении пикселей,- the combination of pixels moving in one direction,
- подчеркивание контуров движущихся объектов (см. патент РФ №2337501) [6].- underlining the contours of moving objects (see RF patent No. 2337501) [6].
Первый УКР 3 и второй УКР 6 объединяют в объекты пиксели, движущиеся в одном направлении. Под объектом понимают совокупность отличных от фона точек (пикселей) изображения с направлением движения, таких, что для каждой точки найдется не менее одной соседней точки, расположенной на расстоянии в один пиксель.The first RBM 3 and the second RBM 6 combine pixels moving in the same direction into objects. An object is understood to mean a set of image points (pixels) different from the background with the direction of movement, such that for each point there is at least one adjacent point located at a distance of one pixel.
Для повышения четкости изображения у движущихся объектов первый УКР 3 и второй УКР 6 производят подчеркивание контуров путем сложения их исходного изображения с градиентным изображением. Значения яркости статичных областей изображения первый УКР 3 и второй УКР 6 оставляют неизменными.To increase the clarity of the image in moving objects, the
Реализация алгоритма обнаружения движущихся объектов, основанного на вычислении межкадровой разности, позволяет компенсировать искажения изображения движущихся объектов на аппаратном уровне в первом УКР 3 и втором УКР 6 и обеспечивает своевременное обнаружение движущихся встречных объектов в реальном времени.The implementation of the algorithm for detecting moving objects, based on the calculation of the interframe difference, allows you to compensate for distortions in the image of moving objects at the hardware level in the first RBM 3 and the second RBM 6 and ensures timely detection of moving oncoming objects in real time.
С выхода пятого ОЭД 11 на пятый вход СК 12 поступает изображение глаз водителя. Анализ изображения глаз водителя включает операции анализа изображений лица водителя, полученных в различных спектральных диапазонах (инфракрасном (ИК) и видимом) излучения и последующего обнаружения изображения лица и зрачков на основе следующих особенностей изображения лица: яркость фона в некотором диапазоне остается неизменной в независимости от ИК подсветки, яркость кожи лица значительно возрастает при включении ИК осветителя, а яркость зрачков, представляющих собой темные круги, неизменна. Каждый кадр изображения СК 12 разбивает на небольшие области. По каждой области СК 12 получает среднее значение яркостей пикселей, ее составляющих.From the output of the
По анализу средних яркостей областей кадров при выключенном и включенном источнике ИК излучения СК 12 обнаруживает лицо на основе следующих особенностей. При включенном ИК излучении расстоянии кожа лица имеет почти белый цвет, тогда как фон, расположенный дальше от ОЭД, чем лицо, характеризуется существенно меньшей яркостью. Кроме этого для обнаружения лица используют дополнительный признак: при выключенном и включенном ИК излучении яркость соответствующей коже лица части кадра будет существенно отличаться, а яркость фона за лицом лишь незначительно изменится. Таким образом, совокупность данных признаков позволяет обнаружить лицо водителя простой с вычислительной точки зрения процедурой, реализованной СК 12. Заключительной операцией является обнаружение СК 12 глаз по наличию зрачков на изображении на основе двух признаков: при ИК освещении зрачок остается почти черным на изображении, а остальная часть лица светлой, а также круглой формы зрачка.According to the analysis of the average brightness of the frame areas with the IR source turned off and on,
Изображения с выходов первого УКР 3, второго УКР 6, третьего УВИ 8, четвертого УВИ 10 поступают соответственно на первый, второй, третий, четвертый входы СК 12, который производит выделение контуров на изображениях, обнаружение неподвижных объектов на них, определение их трехмерных координат на основе известных формул (см. Шапиро Л., Стокман Дж. Компьютерное зрение: Пер. с англ. М.: БИНОМ. Лаборатория знаний, 2006. - 752 с.) [7] по парам стереоизображений, полученных первым ОЭД 1, втором ОЭД 4 и третьим ОЭД 7, четвертым ОЭД 9, и траекторий движения по изменению трехмерных координат объектов, обнаружение препятствий.Images from the outputs of the
При обнаружении опасной ситуации (возможно столкновение с препятствием или закрытии водителем глаз на длительное время) с первого и второго выходов СК 12 передается сигнал на входы УЗИ 13 и ЖКИ 14, соответственно, для звукового и визуального оповещения водителя о сложившейся обстановке.When a dangerous situation is detected (collision with the driver is possible or the eyes are closed for a long time) from the first and second outputs of
В своей совокупности представленные операции обнаружения движущихся объектов и глаз водителя позволяют параллельно распределить вычисления между различными модулями устройства и повысить скорость обработки изображений, что, в конечном счете, обеспечивает своевременное обнаружение факторов риска при движении транспортного средства.Together, the presented operations of detecting moving objects and the driver’s eyes make it possible to parallelly distribute the calculations between the various modules of the device and increase the speed of image processing, which ultimately ensures timely detection of risk factors during vehicle movement.
В качестве первого ОЭД 1, второй ОЭД 4, третьего ОЭД 7, четвертого ОЭД 9 могут быть использованы цифровые видеокамеры Logitech 9000, Philips 1300. Для реализации пятого ОЭД 11 целесообразно использовать или одну из указанных выше видеокамер или аналоговую монохроматическую видеокамеру, формирующую на своем выходе стандартный телевизионный сигнал.Logitech 9000, Philips 1300 digital video cameras can be used as the first OED 1, the second OED 4, the third OED 7, and the fourth OED 9. To implement the fifth OED 11, it is advisable to use either one of the above cameras or an analog monochromatic video camera that forms at its output standard television signal.
Первое УВИ 2, второе УВИ 5, третье УВИ 8, четвертое УВИ 10 могут быть реализованы по схеме, подробно рассмотренной в патенте РФ 2295153 [8], или на базе представленных широким спектром на современном рынке электроники стандартных средств ввода изображения, например, фирмы AverMedia. При этом отметим, что тип и структура устройств ввода изображения определяется типом используемых первого ОЭД 1, второй ОЭД 4, третьего ОЭД 7, четвертого ОЭД 9, пятого ОЭД 11 и типом системного контроллера 12.The
Первое УКР 3 и второе УКР 6 должны быть реализованы на программируемой логической интегральной схеме по представленному в [6] решению.The
В качестве системного контроллера 12 целесообразно использовать микроЭФВМ или цифровой сигнальный процессор, также допустимо использование так называемых карманных персональных компьютеров или компьютеров типа «ноутбук». В последнем случае с СК 12 конструктивно будут совмещены и УЗИ 13, ЖКИ 14. УЗИ 13, ЖКИ 14 кроме этого могут быть реализованы независимо от СК 12: для этого могут быть соответственно применены жидкокристаллические индикаторы и звуковые пьезоизлучатели.As a
Изобретение позволяет повысить безопасность движения за счет своевременного обнаружения препятствий на пути движения транспортного средства и закрытых длительное время глаз водителя и обеспечивает комплексный учет факторов, снижающих безопасность дорожного движения.The invention improves the safety of traffic due to the timely detection of obstacles to the vehicle and the driver’s eyes closed for a long time and provides a comprehensive account of factors that reduce road safety.
Claims (1)
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
RU2009113442/11A RU2441283C2 (en) | 2009-04-10 | 2009-04-10 | Electro-optical apparatus for preventing vehicle collision |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
RU2009113442/11A RU2441283C2 (en) | 2009-04-10 | 2009-04-10 | Electro-optical apparatus for preventing vehicle collision |
Publications (2)
Publication Number | Publication Date |
---|---|
RU2009113442A RU2009113442A (en) | 2011-06-27 |
RU2441283C2 true RU2441283C2 (en) | 2012-01-27 |
Family
ID=44738517
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
RU2009113442/11A RU2441283C2 (en) | 2009-04-10 | 2009-04-10 | Electro-optical apparatus for preventing vehicle collision |
Country Status (1)
Country | Link |
---|---|
RU (1) | RU2441283C2 (en) |
Cited By (2)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
RU2576315C1 (en) * | 2012-07-27 | 2016-02-27 | Ниссан Мотор Ко., Лтд. | Device for detecting three-dimensional objects and method of detecting three-dimensional objects |
RU2644518C2 (en) * | 2012-07-27 | 2018-02-12 | Ниссан Мотор Ко., Лтд. | Device for detecting drops of water and device for detecting three-dimensional objects using device for detecting drops of water |
-
2009
- 2009-04-10 RU RU2009113442/11A patent/RU2441283C2/en not_active IP Right Cessation
Cited By (2)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
RU2576315C1 (en) * | 2012-07-27 | 2016-02-27 | Ниссан Мотор Ко., Лтд. | Device for detecting three-dimensional objects and method of detecting three-dimensional objects |
RU2644518C2 (en) * | 2012-07-27 | 2018-02-12 | Ниссан Мотор Ко., Лтд. | Device for detecting drops of water and device for detecting three-dimensional objects using device for detecting drops of water |
Also Published As
Publication number | Publication date |
---|---|
RU2009113442A (en) | 2011-06-27 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
RU2573110C1 (en) | On-board image recognition device | |
US9321399B2 (en) | Surrounding area monitoring device for vehicle | |
JP5639283B2 (en) | Vehicle periphery monitoring device | |
CN102859567B (en) | Device for monitoring vicinity of vehicle | |
JP4872245B2 (en) | Pedestrian recognition device | |
JP4528283B2 (en) | Vehicle periphery monitoring device | |
US20070211919A1 (en) | Vehicle surroundings monitoring apparatus | |
JP4173902B2 (en) | Vehicle periphery monitoring device | |
WO2011065149A1 (en) | Target-object distance measuring device and vehicle mounted with the device | |
JP2008027309A (en) | Collision determination system and collision determination method | |
EP2414776B1 (en) | Vehicle handling assistant apparatus | |
CN106926794B (en) | Vehicle monitoring system and method thereof | |
JP2010044561A (en) | Monitoring device to be mounted on vehicle | |
JP2011227657A (en) | Device for monitoring periphery of vehicle | |
JP4813304B2 (en) | Vehicle periphery monitoring device | |
RU2441283C2 (en) | Electro-optical apparatus for preventing vehicle collision | |
JP5192009B2 (en) | Vehicle periphery monitoring device | |
JP2001160146A (en) | Method and device for recognizing image | |
JP5345992B2 (en) | Vehicle periphery monitoring device | |
JP2011191859A (en) | Apparatus for monitoring surroundings of vehicle | |
JP2010108182A (en) | Vehicle driving support apparatus | |
JP4765113B2 (en) | Vehicle periphery monitoring device, vehicle, vehicle periphery monitoring program, and vehicle periphery monitoring method | |
JP6087240B2 (en) | Vehicle periphery monitoring device | |
Kimura et al. | Measurement of visibility conditions toward smart driver assistance for traffic signals | |
US9030560B2 (en) | Apparatus for monitoring surroundings of a vehicle |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
MM4A | The patent is invalid due to non-payment of fees |
Effective date: 20110718 |