RU2315357C2 - Object detection method - Google Patents

Object detection method Download PDF

Info

Publication number
RU2315357C2
RU2315357C2 RU2003134283/09A RU2003134283A RU2315357C2 RU 2315357 C2 RU2315357 C2 RU 2315357C2 RU 2003134283/09 A RU2003134283/09 A RU 2003134283/09A RU 2003134283 A RU2003134283 A RU 2003134283A RU 2315357 C2 RU2315357 C2 RU 2315357C2
Authority
RU
Russia
Prior art keywords
dimensional
images
sensors
moving
stereo
Prior art date
Application number
RU2003134283/09A
Other languages
Russian (ru)
Other versions
RU2003134283A (en
Inventor
Вэнг Джин Мун
Йонг Джин ЛИ
Мин Сеок Пак
Александр Борисович Мурынин
Виктор Дмитриевич Кузнецов
Петр Алексеевич Иванов
Original Assignee
Корпорация "САМСУНГ ЭЛЕКТРОНИКС Ко., Лтд."
Корпорация "Эс1"
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Корпорация "САМСУНГ ЭЛЕКТРОНИКС Ко., Лтд.", Корпорация "Эс1" filed Critical Корпорация "САМСУНГ ЭЛЕКТРОНИКС Ко., Лтд."
Priority to RU2003134283/09A priority Critical patent/RU2315357C2/en
Publication of RU2003134283A publication Critical patent/RU2003134283A/en
Application granted granted Critical
Publication of RU2315357C2 publication Critical patent/RU2315357C2/en

Links

Landscapes

  • Image Analysis (AREA)
  • Image Processing (AREA)
  • Length Measuring Devices By Optical Means (AREA)

Abstract

FIELD: observation of moving objects.
SUBSTANCE: method includes using movement sensors, capable of recording two-dimensional distributions of intensity in form of images, where sensors are positioned with known spatial orientation, making it possible to perform simultaneous observation of one and the same scene, periodical query of sensors is performed during whole time period after their enabling, processing and analysis of data received from sensors is performed, which constitutes series of images, and output signal is generated in case of detection of three-dimensional moving object and determining of its spatial position, which signal is injected into output device.
EFFECT: increased trustworthiness when determining spatial position of a moving object.
3 cl, 1 dwg

Description

Изобретение относится к области радиоэлектротехники, а конкретно к способам определения пространственного положения трехмерного движущегося объекта (далее - «детектирование объекта»).The invention relates to the field of radio engineering, and specifically to methods for determining the spatial position of a three-dimensional moving object (hereinafter - “object detection”).

В последние годы было разработано много различных систем детектирования, распознавания и обнаружения текущего пространственного положения и характеристик движения трехмерного движущегося объекта в наблюдаемом пространстве. Однако сложные и высоконадежные системы весьма дорогостоящи, поэтому во всех странах продолжается разработка способов удешевления систем детектирования при сохранении высокой надежности.In recent years, many different systems for detecting, recognizing and detecting the current spatial position and motion characteristics of a three-dimensional moving object in the observed space have been developed. However, complex and highly reliable systems are very expensive, so the development of ways to reduce the cost of detection systems while maintaining high reliability continues in all countries.

В данной области сложилась специальная терминология, в частности, термин "трехмерный движущийся объект" определяется как объект, принадлежащий сцене, обозреваемой устройством видеоввода, например стереокамерой, с отличными от нуля геометрическими характеристиками, определенными в трехмерной (декартовой) системе координат, с отличной от нуля скоростью, определенной в трехмерной (декартовой) системе координат. Термин "сцена" определяется как изображение области пространства, обозреваемой устройством видеоввода, включая открытое пространство либо помещения различных типов, а именно, офисы, банки, частные дома или любые иные здания, любые области пространства, которое не является открытым. Далее, термин "стереокамера" определяется как две видеокамеры, смонтированные на одной плате, причем сигналы от вышеупомянутых камер смешиваются в один сигнал.A special terminology has developed in this area, in particular, the term “three-dimensional moving object” is defined as an object belonging to a scene viewed by a video capture device, such as a stereo camera, with non-zero geometric characteristics defined in a three-dimensional (Cartesian) coordinate system, with non-zero speed defined in a three-dimensional (Cartesian) coordinate system. The term "scene" is defined as an image of an area of space viewed by a video capture device, including open space or premises of various types, namely, offices, banks, private houses or any other buildings, any areas of space that is not open. Further, the term “stereo camera” is defined as two video cameras mounted on one board, the signals from the above cameras being mixed into one signal.

Один из примеров новых разработок систем определения пространственного положения движущегося объекта описан в патенте США №6,353,678 [1]. В данной системе сначала рассчитывают двумерные геометрические характеристики для набора изображений, затем вышеупомянутые характеристики подвергают проверке с целью определения, обладает ли наблюдаемая сцена значительными величинами трехмерных характеристик. Если таковые имеют место, то в этом случае по отношению к набору изображений рассчитывают трехмерные характеристики формы и далее этот набор подвергают проверке с целью обнаружения областей изображений, которые не соответствуют расчетным характеристикам, и, поэтому, данные области соответствуют движущимся объектам. Примененный в системе способ имеет несколько серьезных недостатков. Во-первых, он не позволяет производить определение пространственного положения самодеформирующихся объектов (например, размахивающего руками движущегося человека и т.п.), определение в данном случае возможно лишь в отношении движущихся объектов, не изменяющих своей формы. Более того, использование монокамеры для получения наборов изображений может приводить к серьезным ошибкам при подсчете характеристик геометрии и формы изображений и, соответственно, локализации и определения пространственного положения трехмерного движущегося объекта. Таким образом, этот известный способ весьма ограничен в отношении возможного применения.One example of new developments in systems for determining the spatial position of a moving object is described in US Pat. No. 6,353,678 [1]. In this system, two-dimensional geometric characteristics are first calculated for a set of images, then the above-mentioned characteristics are checked to determine if the observed scene has significant values of three-dimensional characteristics. If there are any, then in this case, three-dimensional shape characteristics are calculated with respect to the set of images, and then this set is checked to find areas of the images that do not correspond to the calculated characteristics, and therefore, these areas correspond to moving objects. The method used in the system has several serious drawbacks. Firstly, it does not allow determining the spatial position of self-deforming objects (for example, a waving moving person, etc.), the definition in this case is possible only in relation to moving objects that do not change their shape. Moreover, the use of a monocamera to obtain sets of images can lead to serious errors in calculating the characteristics of the geometry and shape of the images and, accordingly, the localization and determination of the spatial position of a three-dimensional moving object. Thus, this known method is very limited in relation to the possible application.

Другой патент США №5,388,059 [2] раскрывает более сложную систему наблюдения за положением объекта. Эта система включает в себя 4 световых источника, которые монтируются на поверхности объекта, простую электронную камеру, которая формирует изображения точек источников света и детектирует положения этих изображений для каждого изображения с камеры, и компьютер, который проводит итеративную обработку данных с использованием положений изображений точек для получения аккуратных оценок положения объекта в координатной системе камеры со скоростью видеоввода. Тем не менее, данный способ имеет довольно серьезные ограничения в плане применения. Во-первых, данная система использует дополнительные источники света, что крайне неудобно и неприменимо к использованию в большом количестве случаев. Кроме того, для подсчета характеристик и оценки положения объекта необходим компьютер, и по этой причине данная система может быть весьма дорогостоящей и неудобной. Несомненно, для установления смены или ремонта установленных источников света требуется вмешательство внешнего оператора, что крайне неудобно, дорого и нереализуемо в большом количестве случаев. Более того, в некоторых случаях такая система не может работать в режиме реального масштаба времени. Из этого следует, что в связи с перечисленными ограничениями сфера возможных применений системы недостаточно широка. Тем не менее, описанное решение содержит ряд признаков, позволяющих выбрать его в качестве наиболее близкого к предлагаемому изобретению.Another US patent No. 5,388,059 [2] discloses a more complex system for monitoring the position of the object. This system includes 4 light sources that are mounted on the surface of the object, a simple electronic camera that forms images of the points of light sources and detects the positions of these images for each image from the camera, and a computer that iterates the data using the positions of the image points obtaining accurate estimates of the position of the object in the coordinate system of the camera with the speed of video capture. However, this method has quite serious limitations in terms of application. Firstly, this system uses additional light sources, which is extremely inconvenient and not applicable to use in a large number of cases. In addition, a computer is needed to calculate the characteristics and evaluate the position of the object, and for this reason this system can be very expensive and inconvenient. Undoubtedly, the intervention of an external operator is required to establish a shift or repair of installed light sources, which is extremely inconvenient, expensive and unrealizable in a large number of cases. Moreover, in some cases, such a system cannot work in real time. It follows from this that, due to the listed limitations, the scope of possible applications of the system is not wide enough. However, the described solution contains a number of features that allow you to choose it as the closest to the proposed invention.

Задача, которую решает предлагаемое изобретение, заключается в разработке способа, который сочетал бы простоту и дешевизну используемого оборудования с качественной технологией, обеспечивающей достоверное детектирование трехмерного движущегося объекта. В частности, необходимо, чтобы такой способ позволял определять пространственное положение движущегося трехмерного объекта в процессе различных видов деформации объекта, смене его положения, в различных условиях освещенности, различной скорости движения и расстояния до объекта, присутствие нескольких движущихся трехмерных объектов и т.п.The problem that the invention solves is to develop a method that would combine the simplicity and low cost of the equipment used with high-quality technology that provides reliable detection of a three-dimensional moving object. In particular, it is necessary that this method allows one to determine the spatial position of a moving three-dimensional object during various types of deformation of the object, changing its position, under different lighting conditions, different speed and distance to the object, the presence of several moving three-dimensional objects, etc.

Желаемый технический результат достигается за счет разработки нового способа определения пространственного положения трехмерного движущегося объекта в реальном масштабе времени. Способ реализуется с помощью системы устройств, включающих, например, стереокамеру, аппарат обработки цифровых данных, например цифровой процессор сигналов, а также с помощью алгоритма определения пространственного положения движущегося трехмерного объекта. С помощью стереокамеры осуществляют наблюдение за сценой и формируют последовательности видеоизображений, которые далее передают на обработку в цифровой процессор сигналов. Для работы при слабом освещении или в его отсутствие используют осветитель, например массив светоизлучающих диодов. Алгоритм для определения пространственного положения движущегося трехмерного объекта состоит из трех частей: создания референтной карты, расчета оптического потока и нейросетевой классификации движущегося объекта. В случае обнаружения трехмерного движущегося объекта и определения его пространственного положения с помощью цифрового процессора сигналов формируют выходной сигнал и запоминают соответствующие видеопоследовательности. При этом определение пространственного положения объекта осуществляется как традиционными методами триангуляции, которые естественным образом вытекают из использования стереокамер, так и за счет сравнительного анализа референтной карты с текущими данными, поступающими от стереокамер, т.е. датчиков.The desired technical result is achieved by developing a new method for determining the spatial position of a three-dimensional moving object in real time. The method is implemented using a system of devices, including, for example, a stereo camera, an apparatus for processing digital data, for example, a digital signal processor, and also using an algorithm for determining the spatial position of a moving three-dimensional object. Using a stereo camera, the scene is monitored and video sequences are formed, which are then transmitted for processing to a digital signal processor. To work in low light or in its absence, a illuminator is used, for example, an array of light emitting diodes. The algorithm for determining the spatial position of a moving three-dimensional object consists of three parts: creating a reference map, calculating the optical flux and neural network classification of a moving object. In the case of detecting a three-dimensional moving object and determining its spatial position using a digital signal processor, an output signal is generated and the corresponding video sequences are stored. In this case, the spatial position of the object is determined both by traditional triangulation methods, which naturally follow from the use of stereo cameras, and through a comparative analysis of the reference map with current data from stereo cameras, i.e. sensors.

Относительная дешевизна и простота в эксплуатации системы, реализующей заявляемый способ, достигается за счет того, что система состоит, преимущественно, лишь из стереокамеры и цифрового процессора сигналов. Дополнительное оборудование стереокамеры массивом светоизлучающих диодов, которые могут непрерывно освещать сцену в случае недостатка либо отсутствия освещенности, открывает возможность определения пространственного положения трехмерного движущегося объекта в широком спектральном диапазоне вне зависимости от условий освещения фона или свойств наблюдаемой сцены.The relative cheapness and ease of operation of the system that implements the inventive method is achieved due to the fact that the system consists mainly of a stereo camera and a digital signal processor. The additional equipment of the stereo camera with an array of light emitting diodes, which can continuously illuminate the scene in the event of a lack or lack of illumination, makes it possible to determine the spatial position of a three-dimensional moving object in a wide spectral range, regardless of the background lighting conditions or the properties of the observed scene.

Высокая степень достоверности результатов детектирования достигается за счет применения алгоритма, являющегося неотъемлемой составной частью предлагаемого способа.A high degree of reliability of the detection results is achieved through the use of the algorithm, which is an integral part of the proposed method.

Предлагаемый способ состоит в следующем.The proposed method is as follows.

Перед началом наблюдения за сценой осуществляют с помощью стереокамеры наблюдение за сценой и формируют последовательности видеоизображений, которые далее передают на обработку в цифровой процессор сигналов, обеспечивая, таким образом, калибровку двух или более датчиков, которыми являются объективы стереокамеры. Калибровка состоит в представлении объекта с заранее известными геометрическими характеристиками, измерениями этих его характеристик, сравнением с заранее заданными, коррекции изображений, которая производится путем компенсации ошибок в измерениях. Такую операцию осуществляют с помощью цифрового процессора сигналов перед проведением измерений в случае изменения взаимного геометрического расположения датчиков или замены, по меньшей мере, одного из датчиков.Before starting to monitor a scene, a scene is monitored using a stereo camera and sequences of video images are formed, which are then transmitted to a digital signal processor for processing, thereby calibrating two or more sensors, which are stereo camera lenses. Calibration consists in representing an object with predetermined geometric characteristics, measuring its characteristics, comparing with predetermined ones, image correction, which is performed by compensating for measurement errors. Such an operation is carried out using a digital signal processor before taking measurements in the event of a change in the relative geometric arrangement of the sensors or replacement of at least one of the sensors.

Данные от двух и более датчиков, далее именуемые стереоизображениями, подают на вход обрабатывающего устройства, например цифрового процессора сигналов. С помощью процессора производят обработку полученных данных, которая состоит в предварительной обработке, подсчете скорости и определении положения движущегося объекта. Предварительная обработка стереоизображений состоит в выборе характеристик объекта (характерные деформации, способы движения и т.п.), выборе условий (темно или светло, далеко или близко до объекта, медленно или быстро движется объект и т.п.), сохранении в памяти последовательностей изображений с характерными движениями трехмерных объектов, выборе Областей Интереса (ОИ) и построении референтной карты.Data from two or more sensors, hereinafter referred to as stereo images, is fed to the input of a processing device, for example, a digital signal processor. Using the processor, the processing of the obtained data is carried out, which consists in preliminary processing, counting the speed and determining the position of a moving object. Pre-processing of stereo images consists in selecting the characteristics of the object (characteristic deformations, methods of movement, etc.), selecting conditions (dark or light, far or close to the object, slowly or quickly moving the object, etc.), storing sequences in memory images with characteristic movements of three-dimensional objects, the choice of Interest Areas (OI) and the construction of a reference map.

С помощью процессора сигналов производят следующие операции:Using the signal processor, the following operations are performed:

- сравнение последовательно переданных двух или более стереоизображений путем подсчета меры их различия, например геометрии движения;- comparing successively transmitted two or more stereo images by counting the measure of their differences, for example, motion geometry;

- в случае, если мера различия стереоизображений превышает некую заранее заданную величину, область изображения, в которой такая мера различия имеет место, запоминают в качестве ОИ;- in the event that the measure of difference in stereo images exceeds a certain predetermined value, the image area in which such a measure of difference takes place is stored as an OI;

- производят подсчет локальных характеристик, например скорости для каждой точки, принадлежащей вышеупомянутой ОИ стереоизображения с определенной мерой различия;- local characteristics are calculated, for example, the speed for each point belonging to the aforementioned stereo image OI with a certain measure of difference;

- для проведения анализа создают глобальную структуру, а именно, результаты расчета оптического потока, например двумерного поля скоростей;- for the analysis, a global structure is created, namely, the results of calculating the optical flux, for example, a two-dimensional velocity field;

- производят классификацию вышеупомянутого полученного результата расчета оптического потока путем создания решающего правила, например нейросетевого классификатора;- classify the aforementioned obtained result of the calculation of the optical flow by creating a decision rule, for example a neural network classifier;

- осуществляют обучение классификатора, например нейросетевого классификатора, на данных изображений, содержащих способы движения и деформации объектов во время движения. Вышеупомянутое обучение состоит в запоминании обучающего набора, и представления этого набора на вход и выход классификатора, например нейросетевого классификатора, для получения правильных величин для коррекции входного и выходного сигнала, например весов нейросетевого классификатора. Вышеупомянутый обучающий набор состоит из изображений, которые содержат движущиеся объекты в различных пространственных положениях с характерными движениями после различного рода деформаций, изменений положения, условий освещенности, с различными скоростями движения и расстояния до устройства видеоввода, присутствия нескольких движущихся трехмерных объектов и т.п.;- carry out the training of the classifier, for example a neural network classifier, on image data containing methods of movement and deformation of objects during movement. The aforementioned training consists in storing a training set, and presenting this set to the input and output of a classifier, for example, a neural network classifier, to obtain the correct values for the correction of the input and output signal, for example, the weights of a neural network classifier. The aforementioned training set consists of images that contain moving objects in various spatial positions with characteristic movements after various deformations, changes in position, lighting conditions, with different speeds and distance to the video capture device, the presence of several moving three-dimensional objects, etc .;

- получают от вышеупомянутого классификатора решение о наличии либо отсутствии во входном стереоизображении движущегося трехмерного объекта;- receive from the aforementioned classifier a decision on the presence or absence of a moving three-dimensional object in the input stereo image;

- в случае положительного решения осуществляют определение пространственного положения обнаруженного трехмерного движущегося объекта и генерируют соответствующий выходной сигнал.- in the case of a positive decision, the spatial position of the detected three-dimensional moving object is determined and the corresponding output signal is generated.

Использование предлагаемого способа определения пространственного положения трехмерного движущегося объекта является предпочтительным по целому ряду причин. Во-первых, при помощи сравнения переданных в аналитическое устройство, например цифровой процессор сигналов, стереоизображений, полученных от двух и более датчиков и подсчета распределения скорости, а именно, расчета оптического потока и построения двумерного поля скоростей, достигают улучшения эффективности, так как реализация этих действий позволяет отклонять неверно определенные точки, найденные на изображении в случае использования монокамеры, и существенно уменьшают ошибки обработки. Другое преимущество такого способа заключается в том, что определение пространственного положения трехмерного движущегося объекта осуществляют аналитическим устройством, например цифровым процессором сигналов, путем подсчета оптического потока - скорости каждой точки объекта в случае, если последний движется. Такой расчет производится с очень высокой производительностью. Именно за счет этого процессор сигналов осуществляет наблюдение за входной сценой и определяет пространственное положение трехмерного движущегося объекта в реальном масштабе времени с очень высокой скоростью обработки данных.Using the proposed method for determining the spatial position of a three-dimensional moving object is preferred for a number of reasons. Firstly, by comparing the signals transmitted to the analytical device, for example, a digital processor, stereo images received from two or more sensors and counting the velocity distribution, namely, calculating the optical flux and constructing a two-dimensional velocity field, they achieve an improvement in efficiency, since the implementation of these action allows you to reject incorrectly defined points found on the image in the case of using a monocamera, and significantly reduce processing errors. Another advantage of this method is that the spatial position of a three-dimensional moving object is determined by an analytical device, for example, a digital signal processor, by counting the optical flux — the speed of each point of the object in case the latter moves. This calculation is performed with very high performance. Due to this, the signal processor monitors the input scene and determines the spatial position of a three-dimensional moving object in real time with a very high data processing speed.

Еще один отличительный признак данного способа заключается в возможности наблюдения за более протяженными участками и обработки в короткий срок данных о всех точках. Это возможно в связи с использованием устройства видеоввода, например стереокамеры, которая может наблюдать за такими участками и высокопроизводительным аналитическим устройством, например цифровым процессором сигналов для проведения обработки данных.Another distinguishing feature of this method is the ability to monitor longer sections and process data on all points in a short time. This is possible due to the use of a video capture device, for example a stereo camera, which can monitor such areas and a high-performance analytical device, for example, a digital signal processor for processing data.

И, наконец, при реализации данного изобретения точность определения пространственного положения трехмерного движущегося объекта является очень высокой благодаря тому, что с помощью процессора сигналов проводят настройку, позволяющую осуществлять компенсацию геометрических искажений правой и левой линз стереокамеры и тем самым повысить точность.And finally, when implementing this invention, the accuracy of determining the spatial position of a three-dimensional moving object is very high due to the fact that using the signal processor, tuning is performed to compensate for geometric distortions of the right and left stereo camera lenses and thereby improve accuracy.

При практической реализации предпочтительного варианта данного изобретения использовалось устройство видеоввода, а именно, стереокамера, состоящая из двух видеокамер, дополненное инфракрасным осветителем, выполненным в виде массива светоизлучающих диодов, и двумерной матрицей фотодетекторов в виде КМОП-датчика. Устройство видеоввода формировало последовательности изображений с входной сцены (т.е. начальных кадров), которые конвертировались в NTSC сигналы КМОП -датчиком, смешивались в один сигнал и поступали для обработки на аналитическое устройство, в качестве которого использовался цифровой процессор сигналов, с помощью которого проводился анализ и обработка смешанного сигнала.In the practical implementation of the preferred embodiment of the present invention, a video capture device was used, namely, a stereo camera consisting of two video cameras, complemented by an infrared illuminator made in the form of an array of light emitting diodes, and a two-dimensional photodetector array in the form of a CMOS sensor. The video capture device generated sequences of images from the input scene (i.e., initial frames), which were converted into NTSC signals by a CMOS sensor, mixed into a single signal, and fed to an analytical device for processing, which was used as a digital signal processor, which was used to mixed signal analysis and processing.

Пример последовательности операций (алгоритм) такого рода обработки представлен на чертеже в виде следующих шагов:An example of the sequence of operations (algorithm) of this kind of processing is presented in the drawing in the form of the following steps:

- получение изображений 3 с устройства 1 видеоввода;- obtaining images 3 from the device 1 video capture;

- подготовка к обработке (т.е. предобработка) этих стереоизображений 3 путем фиксации данных об искажениях линз камеры и смещении оптических осей, т.е. подсчета всех контрольных параметров 2 устройства 1 видеоввода и ввод данных калибровки 4;- preparation for processing (i.e., preprocessing) of these stereo images 3 by recording data on the distortion of the camera lenses and the displacement of the optical axes, i.e. counting all control parameters 2 of the device 1 video input and input calibration data 4;

- выбор типа 5 объекта (характерных деформаций, способов движения и т.п.) и условий 6 наблюдения (светло или темно, близко или далеко до объекта, медленно или быстро движется объект и т.п.), запоминания 7 изображений с характерными движениями трехмерных объектов, выбора 8 Областей Интереса (ОИ) и построения референтной карты, т.е. введение данных калибровки 4;- selection of type 5 of the object (characteristic deformations, methods of movement, etc.) and observation conditions 6 (light or dark, close or far to the object, the object moves slowly or quickly, etc.), remembering 7 images with characteristic movements three-dimensional objects, selecting 8 Areas of Interest (OI) and constructing a reference map, i.e. entering calibration data 4;

- подсчет оптического потока 9, который состоит в вычислении скорости каждой точки объекта, если он движется;- calculation of the optical flux 9, which consists in calculating the speed of each point of the object, if it moves;

- регистрация 10 движущихся трехмерных объектов после коррекции стереоизображений в соответствии с данными предобработки;- registration of 10 moving three-dimensional objects after correction of stereo images in accordance with pre-processing data;

- принятие решения 11 относительно классификации движущихся трехмерных объектов, которое аналитическое устройство, в данном случае цифровой процессор сигналов, выдает относительно того, зарегистрирован ли трехмерный движущийся объект и определено ли его пространственное положение;- decision 11 regarding the classification of moving three-dimensional objects, which the analytical device, in this case, a digital signal processor, gives out whether a three-dimensional moving object is registered and its spatial position is determined;

- в случае положительного ответа процессор заносит в память 12 стереоизображения, на которых имеется в наличии данный трехмерный движущийся объект и генерирует выходной сигнал 13. Если ответ относительно наличия в сцене трехмерного движущегося объекта отрицателен, то процессор сигналов повторяет обработку;- in the case of a positive response, the processor stores 12 stereo images in which this three-dimensional moving object is available and generates an output signal 13. If the answer regarding the presence of a three-dimensional moving object in the scene is negative, the signal processor repeats the processing;

- сохранение последовательностей стереоизображений, зафиксировавших случаи наличия движущегося трехмерного объекта, в памяти 14 процессора. Полное число стереоизображений для каждой последовательности, предпочтительно, должно быть не менее 10. В это число входят 2 предварительных кадра (перед появлением движущегося трехмерного объекта в сцене), 1 стереоизображение с появлением движущегося трехмерного объекта в сцене и 7 последующих кадров (после появления);- saving sequences of stereo images, recorded cases of the presence of a moving three-dimensional object, in the memory 14 of the processor. The total number of stereo images for each sequence should preferably be at least 10. This number includes 2 preliminary frames (before the appearance of the moving three-dimensional object in the scene), 1 stereo image with the appearance of the moving three-dimensional object in the scene and 7 subsequent frames (after the appearance);

- генерации выходного сигнала 13 в случае, если движущийся трехмерный объект обнаружен и определено его пространственное положение процессор сигналов генерирует выходной сигнал и передает его на выходное устройство 15, которое воспроизводит его. В качестве выходного устройства, как и в аналогах, предполагается использовать традиционные сигнальные приспособления, включающие дисплей, звуковую сигнализацию, исполнительные механизмы (например, автоматические запоры) и т.п.- generating an output signal 13 in the event that a moving three-dimensional object is detected and its spatial position is determined, the signal processor generates an output signal and transfers it to the output device 15, which reproduces it. As an output device, as well as in analogs, it is supposed to use traditional signaling devices, including a display, an audible alarm, actuators (for example, automatic locks), etc.

Промышленное применение способа определения пространственного положения трехмерного движущегося объекта может быть весьма широким ввиду его эффективности и простоты конструкции. Имеется возможность использовать вышеупомянутый способ в области наблюдения за открытым пространством, а также помещениями офисов, банков, магазинов, частных домов, производственных помещений и других закрытых пространств с различными целями.Industrial application of the method for determining the spatial position of a three-dimensional moving object can be very wide in view of its efficiency and simplicity of design. It is possible to use the aforementioned method in the field of surveillance of open space, as well as the premises of offices, banks, shops, private houses, industrial premises and other enclosed spaces for various purposes.

Claims (3)

1. Способ определения пространственного положения трехмерного движущегося объекта, осуществляемый в виде детектирования объекта, включающий использование датчиков движения, способных регистрировать двумерные распределения интенсивности в виде изображений, отличающийся тем, что используют более одного датчика, которые располагают с заранее известной пространственной ориентацией, позволяющей производить одновременное наблюдение за одной и той же сценой, производят периодический опрос датчиков в течение всего периода времени после их включения, осуществляют обработку и анализ полученных от датчиков данных, образующих последовательности стереоизображений, причем алгоритм обработки и анализа полученных от датчиков данных включает следующие операции: данные, полученные от датчиков, подают на вход цифрового процессора сигналов, выполненного с возможностью обработки и анализа этих данных; производят предварительную обработку стереоизображений, которая состоит из выбора характеристик объекта и условий наблюдения, сохранения в памяти процессора характерных движений трехмерных движущихся объектов, выбора Областей Интереса и в построении референтной карты; производят сравнение двух и более последовательных стереоизображений путем подсчета меры их различия; при обнаружении факта, что мера различия стереоизображений превышает предварительно заданную величину, область изображения, в которой такая мера различия имеет место, заносят в память процессора; производят подсчет локальных характеристик, включающих скорость для каждой точки, принадлежащей сохраненной в памяти Области Интереса стереоизображения с мерой различия, превышающей предварительно заданную величину; производят анализ полученных локальных характеристик для каждой точки, принадлежащей сохраненной в память Области Интереса стереоизображения, при этом анализ производят путем создания глобальной структуры в виде результата расчета оптического потока; производят классификацию полученного результата расчета оптического потока путем введения решающего правила в виде нейросетевого классификатора, обучение которого производят на данных об изображениях, содержащих способы движения и деформации объектов во время движения, при этом обучение состоит в запоминании обучающего набора и представлении этого набора на вход и выход нейросетевого классификатора для получения значения коррекции входного и выходного сигнала, обучающий набор состоит из изображений, которые содержат движущиеся объекты в различных пространственных положениях с характерными движениями после различного рода деформаций, изменений положения, условий освещенности, с различными скоростями движения и расстояния до устройства видео-ввода, присутствия нескольких движущихся трехмерных объектов; на основании результатов классификации определяют факт наличия или отсутствия во входном стереоизображении движущегося трехмерного объекта; при установлении факта наличия во входном стереоизображении движущегося трехмерного объекта осуществляют определение пространственного положения обнаруженного трехмерного движущегося объекта и генерируют соответствующий выходной сигнал.1. A method for determining the spatial position of a three-dimensional moving object, carried out in the form of detecting an object, including the use of motion sensors capable of recording two-dimensional intensity distributions in the form of images, characterized in that they use more than one sensor, which have a predetermined spatial orientation that allows simultaneous observation of the same scene, periodically interrogate the sensors for the entire period of time after x enable, process and analyze the data received from the sensors, forming a sequence of stereo images, and the algorithm for processing and analyzing the data received from the sensors includes the following operations: the data received from the sensors is fed to the input of a digital signal processor, configured to process and analyze this data ; pre-processing stereo images, which consists of selecting the characteristics of the object and the observation conditions, storing in the processor memory the characteristic movements of three-dimensional moving objects, selecting Areas of Interest, and constructing a reference map; comparing two or more consecutive stereo images by counting the measure of their differences; upon the discovery of the fact that the measure of the difference in stereo images exceeds a predetermined value, the image area in which such a measure of difference takes place is recorded in the processor memory; local characteristics are calculated, including the speed for each point belonging to the stereo image stored in the memory of the Region of Interest with a measure of difference exceeding a predetermined value; analyze the obtained local characteristics for each point belonging to the stereo image area of interest of interest stored in the memory, while the analysis is performed by creating a global structure in the form of the result of calculating the optical flux; they classify the obtained result of calculating the optical flux by introducing a decision rule in the form of a neural network classifier, the training of which is performed on data on images containing the methods of movement and deformation of objects during movement, and the training consists in memorizing the training set and presenting this set to the input and output neural network classifier to obtain the correction value of the input and output signal, the training set consists of images that contain moving objects objects in different spatial positions with characteristic movements after various kinds of deformations, changes in position, lighting conditions, with different speeds and distance to the video input device, the presence of several moving three-dimensional objects; based on the classification results, the fact of the presence or absence of a moving three-dimensional object in the input stereo image is determined; when it is established that there is a moving three-dimensional object in the input stereo image, the spatial position of the detected three-dimensional moving object is determined and the corresponding output signal is generated. 2. Способ по п.1, отличающийся тем, что перед началом наблюдения за сценой производят калибровку двух или более датчиков, при этом калибровка состоит в представлении объекта с заранее известными геометрическими характеристиками, измерении этих его характеристик, сравнении с предварительно заданными и коррекции в изображениях, которую производят путем компенсации ошибок в измерениях.2. The method according to claim 1, characterized in that before starting to monitor the scene, calibrate two or more sensors, the calibration consists in representing an object with previously known geometric characteristics, measuring its characteristics, comparing with predefined and correcting images which is produced by compensating for errors in the measurements. 3. Способ по п.1, отличающийся тем, что данные от каждого датчика обрабатывают как по отдельности, так и совместно.3. The method according to claim 1, characterized in that the data from each sensor is processed both individually and together.
RU2003134283/09A 2003-11-27 2003-11-27 Object detection method RU2315357C2 (en)

Priority Applications (1)

Application Number Priority Date Filing Date Title
RU2003134283/09A RU2315357C2 (en) 2003-11-27 2003-11-27 Object detection method

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
RU2003134283/09A RU2315357C2 (en) 2003-11-27 2003-11-27 Object detection method

Publications (2)

Publication Number Publication Date
RU2003134283A RU2003134283A (en) 2005-05-27
RU2315357C2 true RU2315357C2 (en) 2008-01-20

Family

ID=35824160

Family Applications (1)

Application Number Title Priority Date Filing Date
RU2003134283/09A RU2315357C2 (en) 2003-11-27 2003-11-27 Object detection method

Country Status (1)

Country Link
RU (1) RU2315357C2 (en)

Cited By (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
RU2547840C1 (en) * 2014-02-26 2015-04-10 Федеральное Государственное Автономное Образовательное Учреждение Высшего Профессионального Образования "Сибирский Федеральный Университет" (Сфу) Device for determination of object space orientation
RU2592457C2 (en) * 2011-06-14 2016-07-20 ЭЙДЗО Корпорейшн Apparatus for identifying area of moving image and method
RU2591302C1 (en) * 2015-05-26 2016-07-20 Федеральное государственное бюджетное учреждение науки Физико-технический институт им. А.Ф. Иоффе Российской академии наук Device for determining position of object
RU2615063C2 (en) * 2011-11-02 2017-04-03 Еадс Дойчланд Гмбх Method and device for detecting moving objects in video image sequence

Cited By (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
RU2592457C2 (en) * 2011-06-14 2016-07-20 ЭЙДЗО Корпорейшн Apparatus for identifying area of moving image and method
RU2615063C2 (en) * 2011-11-02 2017-04-03 Еадс Дойчланд Гмбх Method and device for detecting moving objects in video image sequence
RU2547840C1 (en) * 2014-02-26 2015-04-10 Федеральное Государственное Автономное Образовательное Учреждение Высшего Профессионального Образования "Сибирский Федеральный Университет" (Сфу) Device for determination of object space orientation
RU2591302C1 (en) * 2015-05-26 2016-07-20 Федеральное государственное бюджетное учреждение науки Физико-технический институт им. А.Ф. Иоффе Российской академии наук Device for determining position of object

Also Published As

Publication number Publication date
RU2003134283A (en) 2005-05-27

Similar Documents

Publication Publication Date Title
CN105335955B (en) Method for checking object and object test equipment
CN104935893B (en) Monitor method and apparatus
EP2071280B1 (en) Normal information generating device and normal information generating method
US7088243B2 (en) Method of intruder detection and device thereof
CN107635129B (en) Three-dimensional trinocular camera device and depth fusion method
CN107392965B (en) Range finding method based on combination of deep learning and binocular stereo vision
CN110067274B (en) Equipment control method and excavator
CN110136186B (en) Detection target matching method for mobile robot target ranging
CN107203743B (en) Face depth tracking device and implementation method
JP3637226B2 (en) Motion detection method, motion detection device, and recording medium
RU2363018C1 (en) Method of selecting objects on remote background
CN108364306B (en) Visual real-time detection method for high-speed periodic motion
CN114399882A (en) Fire source detection, identification and early warning method for fire-fighting robot
RU2315357C2 (en) Object detection method
CN112699748B (en) Human-vehicle distance estimation method based on YOLO and RGB image
CN114120171A (en) Fire smoke detection method, device and equipment based on video frame and storage medium
CN112418251B (en) Infrared body temperature detection method and system
WO2021111747A1 (en) Image processing device, monitoring system, and image processing method
CN111862511B (en) Target intrusion detection device and method based on binocular stereo vision
CN106898014B (en) Intrusion detection method based on depth camera
JPH11250252A (en) Three-dimensional object recognizing device and method therefor
Liu et al. Outdoor camera calibration method for a GPS & camera based surveillance system
CN112541403B (en) Indoor personnel falling detection method by utilizing infrared camera
CN113792645A (en) AI eyeball fusing image and laser radar
CN110288865A (en) A kind of system of skill operation supplemental training and detection based on machine vision

Legal Events

Date Code Title Description
FA92 Acknowledgement of application withdrawn (lack of supplementary materials submitted)

Effective date: 20060619

FZ9A Application not withdrawn (correction of the notice of withdrawal)

Effective date: 20060705

MM4A The patent is invalid due to non-payment of fees

Effective date: 20121128

NF4A Reinstatement of patent

Effective date: 20140610

PC41 Official registration of the transfer of exclusive right

Effective date: 20140805