WO2015118075A1 - Procede de detection et de classification d'evenements d'une scene - Google Patents

Procede de detection et de classification d'evenements d'une scene Download PDF

Info

Publication number
WO2015118075A1
WO2015118075A1 PCT/EP2015/052430 EP2015052430W WO2015118075A1 WO 2015118075 A1 WO2015118075 A1 WO 2015118075A1 EP 2015052430 W EP2015052430 W EP 2015052430W WO 2015118075 A1 WO2015118075 A1 WO 2015118075A1
Authority
WO
WIPO (PCT)
Prior art keywords
swir
vispir
event
images
scene
Prior art date
Application number
PCT/EP2015/052430
Other languages
English (en)
Inventor
Thierry Midavaine
Olivier Garin
Original Assignee
Thales
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Thales filed Critical Thales
Priority to JP2016545990A priority Critical patent/JP6449894B2/ja
Priority to CA2938227A priority patent/CA2938227C/fr
Priority to US15/110,937 priority patent/US9953226B2/en
Priority to DK15705929.6T priority patent/DK3103062T3/da
Priority to EP15705929.6A priority patent/EP3103062B1/fr
Priority to FIEP15705929.6T priority patent/FI3103062T3/fi
Priority to RU2016135936A priority patent/RU2686566C2/ru
Publication of WO2015118075A1 publication Critical patent/WO2015118075A1/fr
Priority to IL246633A priority patent/IL246633B/en

Links

Classifications

    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V20/00—Scenes; Scene-specific elements
    • F—MECHANICAL ENGINEERING; LIGHTING; HEATING; WEAPONS; BLASTING
    • F41—WEAPONS
    • F41G—WEAPON SIGHTS; AIMING
    • F41G3/00—Aiming or laying means
    • F41G3/14—Indirect aiming means
    • F41G3/147—Indirect aiming means based on detection of a firing weapon
    • G—PHYSICS
    • G01—MEASURING; TESTING
    • G01J—MEASUREMENT OF INTENSITY, VELOCITY, SPECTRAL CONTENT, POLARISATION, PHASE OR PULSE CHARACTERISTICS OF INFRARED, VISIBLE OR ULTRAVIOLET LIGHT; COLORIMETRY; RADIATION PYROMETRY
    • G01J1/00—Photometry, e.g. photographic exposure meter
    • G01J1/02—Details
    • G01J1/0219—Electrical interface; User interface
    • G—PHYSICS
    • G01—MEASURING; TESTING
    • G01J—MEASUREMENT OF INTENSITY, VELOCITY, SPECTRAL CONTENT, POLARISATION, PHASE OR PULSE CHARACTERISTICS OF INFRARED, VISIBLE OR ULTRAVIOLET LIGHT; COLORIMETRY; RADIATION PYROMETRY
    • G01J1/00—Photometry, e.g. photographic exposure meter
    • G01J1/02—Details
    • G01J1/0242—Control or determination of height or angle information of sensors or receivers; Goniophotometry
    • G—PHYSICS
    • G01—MEASURING; TESTING
    • G01J—MEASUREMENT OF INTENSITY, VELOCITY, SPECTRAL CONTENT, POLARISATION, PHASE OR PULSE CHARACTERISTICS OF INFRARED, VISIBLE OR ULTRAVIOLET LIGHT; COLORIMETRY; RADIATION PYROMETRY
    • G01J1/00—Photometry, e.g. photographic exposure meter
    • G01J1/02—Details
    • G01J1/04—Optical or mechanical part supplementary adjustable parts
    • G01J1/0488—Optical or mechanical part supplementary adjustable parts with spectral filtering
    • G—PHYSICS
    • G01—MEASURING; TESTING
    • G01J—MEASUREMENT OF INTENSITY, VELOCITY, SPECTRAL CONTENT, POLARISATION, PHASE OR PULSE CHARACTERISTICS OF INFRARED, VISIBLE OR ULTRAVIOLET LIGHT; COLORIMETRY; RADIATION PYROMETRY
    • G01J1/00—Photometry, e.g. photographic exposure meter
    • G01J1/42—Photometry, e.g. photographic exposure meter using electric radiation detectors
    • G01J1/4228—Photometry, e.g. photographic exposure meter using electric radiation detectors arrangements with two or more detectors, e.g. for sensitivity compensation
    • G—PHYSICS
    • G01—MEASURING; TESTING
    • G01J—MEASUREMENT OF INTENSITY, VELOCITY, SPECTRAL CONTENT, POLARISATION, PHASE OR PULSE CHARACTERISTICS OF INFRARED, VISIBLE OR ULTRAVIOLET LIGHT; COLORIMETRY; RADIATION PYROMETRY
    • G01J5/00—Radiation pyrometry, e.g. infrared or optical thermometry
    • G01J5/0066—Radiation pyrometry, e.g. infrared or optical thermometry for hot spots detection
    • G—PHYSICS
    • G01—MEASURING; TESTING
    • G01J—MEASUREMENT OF INTENSITY, VELOCITY, SPECTRAL CONTENT, POLARISATION, PHASE OR PULSE CHARACTERISTICS OF INFRARED, VISIBLE OR ULTRAVIOLET LIGHT; COLORIMETRY; RADIATION PYROMETRY
    • G01J5/00—Radiation pyrometry, e.g. infrared or optical thermometry
    • G01J5/02—Constructional details
    • G01J5/025—Interfacing a pyrometer to an external device or network; User interface
    • G—PHYSICS
    • G01—MEASURING; TESTING
    • G01J—MEASUREMENT OF INTENSITY, VELOCITY, SPECTRAL CONTENT, POLARISATION, PHASE OR PULSE CHARACTERISTICS OF INFRARED, VISIBLE OR ULTRAVIOLET LIGHT; COLORIMETRY; RADIATION PYROMETRY
    • G01J5/00—Radiation pyrometry, e.g. infrared or optical thermometry
    • G01J5/02—Constructional details
    • G01J5/0275—Control or determination of height or distance or angle information for sensors or receivers
    • G—PHYSICS
    • G01—MEASURING; TESTING
    • G01J—MEASUREMENT OF INTENSITY, VELOCITY, SPECTRAL CONTENT, POLARISATION, PHASE OR PULSE CHARACTERISTICS OF INFRARED, VISIBLE OR ULTRAVIOLET LIGHT; COLORIMETRY; RADIATION PYROMETRY
    • G01J5/00—Radiation pyrometry, e.g. infrared or optical thermometry
    • G01J5/60—Radiation pyrometry, e.g. infrared or optical thermometry using determination of colour temperature
    • G01J5/602—Radiation pyrometry, e.g. infrared or optical thermometry using determination of colour temperature using selective, monochromatic or bandpass filtering
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00—Image analysis
    • G06T7/70—Determining position or orientation of objects or cameras
    • G06T7/73—Determining position or orientation of objects or cameras using feature-based methods
    • G06T7/74—Determining position or orientation of objects or cameras using feature-based methods involving reference images or patches
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V20/00—Scenes; Scene-specific elements
    • G06V20/50—Context or environment of the image
    • G06V20/52—Surveillance or monitoring of activities, e.g. for recognising suspicious objects
    • G—PHYSICS
    • G01—MEASURING; TESTING
    • G01J—MEASUREMENT OF INTENSITY, VELOCITY, SPECTRAL CONTENT, POLARISATION, PHASE OR PULSE CHARACTERISTICS OF INFRARED, VISIBLE OR ULTRAVIOLET LIGHT; COLORIMETRY; RADIATION PYROMETRY
    • G01J5/00—Radiation pyrometry, e.g. infrared or optical thermometry
    • G01J2005/0077—Imaging
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00—Indexing scheme for image analysis or image enhancement
    • G06T2207/10—Image acquisition modality
    • G06T2207/10048—Infrared image
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00—Indexing scheme for image analysis or image enhancement
    • G06T2207/30—Subject of image; Context of image processing
    • G06T2207/30212—Military
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00—Indexing scheme for image analysis or image enhancement
    • G06T2207/30—Subject of image; Context of image processing
    • G06T2207/30232—Surveillance

Definitions

  • the field of the invention is that of the classification of events in an observed scene. This classification of events is part of the detection of pre-shooting or post-fire threats for the self-protection or collateral protection of vehicles, boats, aircraft such as helicopters or airplanes, or military or military infrastructure. civil.
  • start gun detectors or "HFI"
  • acoustic solutions or radar, or infrared band 2 or MWIR (Mid Wave InfraRed 3 ⁇ - 5 ⁇ ) or UV (Ultra Violet) or a combination of these techniques;
  • sniper detectors based on acoustic solutions for the detection of the muzzle and supersonic waves of the ammunition or cat eye detection (DOP). means of sighting;
  • MSDs Missile Warning Sensors
  • LADs laser warning detectors
  • LADs or MSDs have been on the market for more than 20 years and have not found real opportunities for land vehicles.
  • These networks of N distributed and synchronized cameras remain expensive and complex solutions in integration and in fact unaffordable.
  • today most armored vehicles have no means of protection outside their armor. Indeed, in the terrestrial field the existing solutions are not satisfactory mainly because of the costs and the difficulty of making a complete protection system. Indeed it is useless to detect threats if we do not know how to initiate a reaction ensuring the neutralization of the threat or its effects and to ensure the survival of the crew, the platform or to ensure the continuation of the realization of the mission.
  • the object of the invention is to overcome these disadvantages.
  • the subject of the invention is a method for detecting and classifying shooting threat events of a scene by means of a monopupillic imaging system mounted on a mobile platform and equipped with several detectors including a detector. in the wavelength band 0.6 ⁇ -1, 1 ⁇ said VisPIR detector (Visible Near InfraRed) and a detector in the wavelength band 0.9 ⁇ -1, 7 ⁇ or band 1 said detector SWIR (Short Wave InfraRed, associated with a processing unit, which includes a step of acquisition of 2D images successive stages of the scene from the VisPIR detector called VisPIR images and successive 2D images of the scene from the SWIR detector and synchronized with the VisPIR images, called SWIR images, a step of displaying the VisPIR images, a step of processing the images VisPIR and SWIR by the processing unit. It is mainly characterized in that this image processing step comprises the following substeps:
  • this variation of illumination SWIR is greater than a predetermined illumination threshold, then this variation of illumination SWIR during which it is greater than said threshold is designated signature of an event i and an event is associated with said pixel (xi, yi ) or the center of gravity of the pixels considered, and:
  • the coordinates of the pixel are determined
  • the distance R of the corresponding point of the scene is estimated to calculate the intensity of the event i from the SWIR and VisPIR illuminations of this pixel and from this distance R ,
  • o is estimated the total energy E, of the event from the temporal shape of the signature of the event and the intensity I,
  • the event i is classified according to its duration ⁇ , its temperature T ,, its intensity and its energy E ,,
  • the VisPIR detector ensures the basic function of high resolution day and night vision but also complementary functions of detection, angular localization and classification of events (or threats) or rejection of false alarms, by the use of one (or more) possibly multispectral SWIR detectors (s) and determining duration, temperature and intensity attributes of these events.
  • the luminance of the SWIR band event is determined, and the event is also classified according to its luminance in the SWIR domain.
  • the event is incrusted on the displayed VisPIR image, possibly accompanied by the associated distance. It can be incremented in reality augmented by the embedding of a symbology for example a colored reticle with associated data.
  • This distance information makes it possible to make the classification of the detected threat more robust, to assess its degree of threat or priority, and to assess whether we are within the lethal range of this threat and to eventually launch an appropriate response.
  • automatic or supervised by an operator moving, masking by smoke firing, riposte to neutralize the threatening firing post, riposte to neutralize the ammunition for example).
  • the processing unit is connected to an event management system and the detection and classification method further comprises a step of triggering this management system from the event classified and its distance.
  • the invention also relates to a computer program product, said computer program comprising code instructions for performing the steps of the method as described, when said program is executed on a computer.
  • the invention also relates to a system for detecting and classifying events of a scene, which comprises:
  • a monopupillic imaging system of the stage mounted on a mobile platform and equipped with several detectors including a visible-near-IR detector and a SWIR detector,
  • a display device connected to the processing unit, characterized in that the processing unit comprises means for implementing the detection and classification method as described.
  • FIG. 1 diagrammatically represents an example of a system used to implement the method according to the invention
  • FIG. 2 represents an exemplary flowchart of the steps of the method according to the invention
  • FIGS. 3 are examples of images obtained by the SWIR detector (FIG. 3a), by the VisPIR detector without inlay (FIG. 3b) and with inlay (FIG. 3c) of an event detected on the SWIR image together with the distance associated with this event,
  • FIG. 4 shows an example of an enlarged SWIR image of a resolved event
  • Figure 5 shows an example of a threat classification determined by its attributes.
  • the method of detection and classification according to the invention is implemented by means of a monopupill imaging system which can be seen in FIG. 1, comprising an optics 10 designed to accommodate at least two focal planes with, for example, a detector 22 visible - PIR (0.6 ⁇ -1, 1 ⁇ or else 0.4 ⁇ -1, 1 ⁇ including the visible range) and for the other a detector 21 in Band 1 or SWIR (0.9 ⁇ -1, 7 ⁇ ).
  • a monopupill imaging system which can be seen in FIG. 1, comprising an optics 10 designed to accommodate at least two focal planes with, for example, a detector 22 visible - PIR (0.6 ⁇ -1, 1 ⁇ or else 0.4 ⁇ -1, 1 ⁇ including the visible range) and for the other a detector 21 in Band 1 or SWIR (0.9 ⁇ -1, 7 ⁇ ).
  • This optic is preferably designed to form on each detector a panoramic image of the scene to be observed; it comprises a head module 1 1 hemispherical field or more, followed by optical elements 12 of image formation, a dichroic separator 13 and on each spectral channel, a matching optics 14 and 15. It is used for example a catadioptric combination (mirrors and glass diopters) to enable it to operate in a very wide Visible, Near IR (NIR) and Band 1 (SWIR) spectral band.
  • NIR Near IR
  • SWIR Band 1
  • the matrix detector SWIR 21 typically has the format of the matrix 320 lines x 256 columns at step of 30 ⁇ with an image rate of 400 Hz or 640 rows x512 columns with a pitch of 15 ⁇ with an image rate of 300 Hz, which correspond to the current state of the art.
  • This detector typically has a spatial resolution of 4 mrd for a pixel with the format 640x512. Larger formats can be considered.
  • the need for image rate and temporal response for the classification of threats that are for the most part very short (generally ⁇ 100 ms duration) require acquisition rates equal to or greater than 200 Hz or even 1000 Hz if we seek to classify small calibers.
  • the detector integrates its reading circuit and multiplexing said ROIC (acronym for the English expression "Read Out Integrated Circuit").
  • the pixels are provided with one or more adapted filters such as: A single filter on the whole of the matrix of pixels 21 1 simultaneously allowing a narrow band to pass around 1, 064 ⁇ and a wide band above 1, 4 ⁇ up to the cut-off wavelength of the detector for example 1, 7 ⁇ or beyond.
  • the read circuit or ROIC is connected to a proximity electronics (or E-prox) 210 of the detector; the ROIC and / or ⁇ -prox integrate special functions such as for example:
  • a high dynamic (HDR mode acronym for the English expression High Dynamic Range) can be achieved in different ways: bi-slope, non-linear logarithmic response or root for example, reset before saturation counted ...
  • a CMOS silicon detector is for example used as a visible detector 22. It has a high spatial resolution (for example 1 mrd for 1 pixel) and operates at a rate of 25 Hz or more generally between 25 Hz and 100 Hz.
  • CMOS 4T or 5T with 4 or 5 transistors in the pixel
  • low noise and amplification and parallel digital analog conversion by column such as a CMOS s-CMOS.
  • the CMOS detector 221 integrates its reading and multiplexing circuit (or ROIC) which is connected to the proximity electronics (or E-prox) 220 of the detector.
  • ROIC reading and multiplexing circuit
  • E-prox proximity electronics
  • This proximity electronics associated with the ROIC performs all the operations of digital analog conversion and signal restoration (NUC Non Uniformity Corrections) to allow exploiting the acquired images with the maximum performance day and night. It is connected to a display device 40 so as to provide a vision function of the scene for an operator.
  • the visible image 42 is displayed but not necessarily the image SWIR 41.
  • detectors 22, 21 are connected to a processing unit 50 of the visible images 42 and SWIR 41 respectively obtained by the two detectors, able to implement the following steps described with reference to FIG. 1 and the flowchart of FIG. 2 Threats (or events) are characterized by optical signatures on the acquired images. According to the invention, an event is detected and then four attributes are defined from which these optical signatures will be classified.
  • the temporal profiles of the signatures that is to say their duration, and possibly rise time and descent profile, constitute a first attribute; it is obtained in the following manner.
  • An event is first detected by detection means 51 and some of its characteristics are estimated as follows. Images of the scene to be observed said SWIR 41 images are acquired successively by the SWIR detector. Images of this scene called VisPIR images 42 are simultaneously acquired by the visible detector, these SWIR and VisPIR images being temporally synchronized with each other by means of an electronics 30 for controlling and synchronizing the detectors, and stored in memory for the purposes of the classification. This synchronization can result from an acquisition of images at the same rate for the two detectors, but the rates are generally different as mentioned above.
  • the images SWIR 41 are compared with each other to determine for each pixel (x M , yn) the variation of illumination SWIR.
  • the illumination e M is given by the integrated signal on the pixel on which the image of the threat is formed. If this variation of illumination is greater than a predetermined or adaptive threshold according to the signatures of the temporal space backgrounds, then it is considered to represent the SWIR signature of an event: an event i is detected as shown in FIG. 3a.
  • This illumination threshold is typically 2 to 10 times the variation of the standard deviation of the background according to the probabilities of detection and the false alarm rates desired at this stage.
  • An illumination e M in W / m 2 is thus determined in the reception spectral band determined by the detector SWIR, its optical 15 and its possible filters.
  • the coordinates of the pixel (x i2 , y i2 ) corresponding to this event in the VisPIR images 42 synchronized with said SWIR images are determined by means 53.
  • This operation of correspondence of the pixels VisPIR and SWIR can be carried out at the factory after integration of the arrays of detectors on the optics. If the detection is made on adjacent SWIR pixels, the position of its center of gravity is determined and the VisPIR pixels corresponding to this center of gravity are located. By performing the measurement of the peak signal in the VisPIR band or by adding the contribution of the adjacent pixels illuminated by the event, the VisPIR illumination of the event e i2 in W / m 2 is determined in the spectral band of this receiver. It is possible that the VisPIR channel can not detect the event. In this case the illumination e i2 and zero or amplitude too small compared to noise or uncertainties to be determined.
  • This VisPIR illumination ratio on the illumination SWIR makes it possible to estimate a temperature T, (in K) of the event (step B), by the means for calculating the attributes 54.
  • This temperature is the second attribute of the signature optical.
  • a predetermined table is used which makes it possible to establish a correspondence between these illuminance ratios and the temperature of the corresponding black body or gray body, for example using the Planck law, the contribution of which for both bands is incorporated.
  • spectral SWIR and VisPIR depending on the temperature.
  • the digital signal from both channels is calibrated in W / m 2 to allow measurement in this unit. Another way to do this is to calibrate the detectors by measuring the signal they deliver by targeting a black calibration body in the laboratory.
  • This temperature is typically used to reject a source of false alarm constituted by the Sun or its modulation or diffusion by clouds, or its reflection by mirrors, metal contours (such as those of windows or road signs) or by reflections on the water. Indeed, on a mobile platform these solar reflections are likely to generate spatio-temporal signatures in the SWIR domain very close to those of the ammunition sought.
  • the Sun or its reflections having a black body temperature close to 5800K will generate an intense signature at shorter wavelength (in the visible and the near IR) much stronger than those associated with the pyrotechnic signatures of the start of shots having a black body temperature of less than 2000 K.
  • the flow level collected on the visible detector allows via the temperature to validate the detection of the event or to reject it: for a scene of day, if the temperature is higher than a threshold (5000 K for example), then this event is a false alarm, otherwise the event is validated (step C).
  • This validated event may also be embedded in the visible image for the attention of the operator.
  • This temperature attribute is advantageously determined by the processing unit parallel to the first duration attribute. All devices that cause these threats are characterized by lethal or P-effectiveness ranges beyond which the threat is no longer effective. They are 100m class for an RPG or short-range anti-tank rocket, 500m to 8km for anti-tank missiles according to their type or shell fire according to their caliber and their load.
  • the processing unit comprises means 52 for estimating the distance R from a point of the visible image 42 (object point of the scene-imaging system).
  • the imaging system is installed on a platform, for example terrestrial. Knowing the site and deposit directions in the VisPIR detector's reference system and knowing its position in height and orientation with respect to the platform or better with respect to the ground (by exploiting the relative position information of the platform with respect to the ground) it is possible to estimate the distance of the points of the ground image according to their apparent elevation by assuming a horizontal plane ground or better by exploiting a digital terrain model (DTM) recalibrated for example by the GPS position of the vehicle and data from the images delivered by the visible detector, to have a horizon profile or the location of bitters in the field of the image.
  • DTM digital terrain model
  • the measurement of the angular velocities of the characteristic points of the scene is possible between successive VisPIR images with good accuracy due to the angular resolution of the imaging system.
  • This field of angular velocities throughout the scene is called optical flow. It makes it possible to measure the rotation (s) of the field and the direction of the speed vector of the platform (after rotation of the field), direction for which the optical flow is zero.
  • a large coverage of the angular field of the panoramic imaging system ensures that the direction of the platform velocity vector is in the field of view and coincides with a pixel.
  • the measurement of the angular velocity of the elements of the scene and the measurement of the angular difference between the pixel in coincidence with the speed vector of the platform and the direction associated with the image of a scene element whose angular velocity is estimated makes it possible to estimate its distance R.
  • the distance R associated with the event i can be displayed in real time on the visible image 42 as shown in FIG. 3c; the event i is embedded in the visible image using for example a predetermined symbol, such as a colored reticle.
  • the SWIR image 41 shown in FIG. 3a is generally not displayed.
  • the means 54 calculate its intensity (in W / sr) which is the third attribute (step D). Indeed, it is recalled that the amplitude of the illumination SWIR is dependent on the distance R with a law in 1 / R 2 and the atmospheric attenuation T has t m which will bring a transmission coefficient dependent on the distance R .
  • the optical signatures of the sources are either resolved (extended over several pixels) or unresolved (the image of the source is formed on a single pixel) or in an intermediate situation very small compared to the field of view. instant view defined by the pixel size, the focal length of the optics and its FTM (Modulation Transfer Function) in band 1.
  • FTM Modulation Transfer Function
  • the illumination e M corresponding to the amplitude of the peak signal seen on a pixel is determined by the luminance of the signature during the integration time (Step E), and obtained by the means 54.
  • This value constitutes a fourth attribute for the classification of the threat.
  • This attribute is very robust because it is not dependent on the distance R by a law in 1 / R 2 as in the case of illumination delivered by an unresolved source.
  • the luminance L, in W / sr / m 2 of the event is given by the peak illumination seen on a pixel by the relation:
  • the I FOV being the solid angle of the instantaneous field of view of the detector.
  • the average luminance can be given by the integration of the signal e M collected by the adjacent pixels on which the image of the source divided by the solid angle ⁇ in steradian under which the resolved event is seen. Due to the dependence of the illumination received as a function of the distance R (law in 1 / R 2 ), it is not an attribute for the classification of the threat. Only the barycenter of this signature has a meaning by allowing to locate angularly in site and deposit in the repository of the detector SWI R or in the repository of the platform knowing the movement of the first compared to the frame if the imaging system is mounted on an articulated body on the platform (turret, pan and tilt platform). This "resolved" event is then classified according to its duration, temperature, intensity and luminance.
  • the intensity of the event or its luminance associated with its size and its duration makes it possible to estimate the energy E, (in J) of the event (step F) which can be related to an estimation of the range the threat and its ammunition. They are calculated by means 54.
  • the combination of the threat classification and the estimate of the distance and energy of the event makes it possible to decide whether the imaging system or the observer is in the lethal domain P of the threat and thus to engage if necessary and if possible a response adapted in real time.
  • This riposte can be triggered automatically by means 56 of the processing unit as shown in FIG. 1 or manually by the operator.
  • This method of detection and classification can in particular be implemented from a computer program product, the computer program comprising code instructions for performing the steps of the method. It is recorded on a computer readable medium, also used to synchronize SWIR images and visible images.
  • the support can be electronic, magnetic, optical, electromagnetic or be an infrared type of diffusion medium.
  • Such media are, for example, Random Access Memory RAMs (ROMs), magnetic or optical tapes, disks or disks (Compact Disk - Read Only Memory (CD-ROM), Compact Disk - Read / Write (CD-R / W) and DVD).

Abstract

L'invention a pour objet un procédé de détection et de classification d'événements d'une scène au moyen d'un système d'imagerie monopupille équipé d'un détecteur VisPIR dans la bande 0,6 μm-1,1 μm et d'un détecteur SWIR, qui comprend des étapes d'acquisition d'images 2D successives VisPIR et SWIR synchronisées, d'affichage des images VisPIR, et de traitement de ces images, qui consiste à: comparer les images SWIR pour déterminer pour chaque pixel la variation d'éclairement d'une image SWIR à l'autre et la valeur crête de ces éclairements SWIR, si cette variation d'éclairement SWIR est supérieure à un seuil, alors un événement associé audit pixel est détecté et: on détermine sa date, sa forme temporelle et sa durée, on détermine dans les images VisPIR, les coordonnées du pixel correspondant pour lequel, on calcule la variation de l'éclairement d'une image VisPIR à l'autre et la valeur crête de ces éclairements VisPIR, et on compare ces variations d'éclairement SWIR et VisPIR et leurs valeurs crêtes pour estimer une température de l'événement, on estime la distance du point correspondant de la scène pour calculer l'intensité de l'événement à partir des éclairements SWIR et VisPIR et à partir de cette distance, on estime l'énergie totale de l'événement à partir de sa forme temporelle et de son intensité, on classifie l'événement en fonction de sa durée, de sa température, de son intensité et de son énergie, on réitère les étapes précédentes pour un autre pixel des images SWIR.

Description

PROCEDE DE DETECTION ET DE CLASSIFICATION D'EVENEMENTS D'UNE SCENE
Le domaine de l'invention est celui de la classification d'événements dans une scène observée. Cette classification d'événements entre dans le cadre de la détection de menaces avant tir ou après tir pour l'auto protection ou la protection collatérale de véhicules, de bateaux, d'aéronefs tels des hélicoptères ou avions, ou encore d'infrastructures militaires ou civiles.
Ces plateformes sont susceptibles d'être exposées à différents types de menaces qui peuvent provenir de toutes les directions dans 360° en azimut autour de la plateforme ou dans des domaines en angle solide de 2π stéradians ou plus (supra hémisphérique) pour des plateformes au sol ou encore 4π stéradians pour des plateformes aériennes. Ces menaces sont : des tirs de munitions, des illuminations laser, des systèmes de visées d'armements, les hommes qui les mettent en œuvre (tireurs) ou les éventuelles plateformes où elles sont intégrées.
Plusieurs systèmes de type « Soft Kill » (neutralisation de la menace avant tir) ou « Hard Kill » (neutralisation de la menace après tir) intégrant des fonctions de détection de menaces, de moyens de réaction, de protection, ou de survie du véhicule ou de son équipage et de ripostes réclament des fonctions de détection temps réel à très court temps de réaction.
Aujourd'hui peu d'équipements sont proposés pour répondre à la diversité des menaces. Il existe toutefois :
des détecteurs de départ de coup de canon (ou « HFI » acronyme de l'expression anglo-saxonne «Hostile Fire Indicator »), basés sur des solutions acoustiques, ou radar, ou infrarouge bande 2 ou MWIR (Mid Wave InfraRed 3 μηι-5 μιτι) ou UV (Ultra Violet) ou encore une combinaison de ces techniques ;
des détecteurs de tireurs isolés (« snipers ») basés sur des solutions acoustiques de détection de l'onde de bouche et de l'onde supersonique de la munition ou de détection par effet œil de chat (DOP Détecteurs d'Optiques Pointées) de leur moyen de visée ;
- des détecteurs de départ de missile (DDM ou MWS Missile Warning Sensor) basés sur des détections Radar, UV ou MWIR ; des détecteurs d'alerte laser (ou DAL) basés sur des détections optiques sur les longueurs d'ondes des lasers employés pour les applications militaires.
On rencontre ces types de récepteur parfois sur des aéronefs de haute valeur tels que les avions de combat. Sur les véhicules blindés ils sont plus rares du fait des coûts unitaires de ces équipements et du coût de leur intégration dans un système de protection comparé à la valeur de la plateforme.
Les DAL ou les DDM sont depuis plus de 20 ans sur le marché et n'ont pas trouvé de réels débouchés sur les véhicules terrestres.
Quelques sociétés proposent des équipements à différents stades de maturité pour la détection de départ de missiles ou de coup de canon basés sur des techniques associant N caméras par exemple 4 couvrant chacune un secteur en gisement de 90° pour assurer la couverture à 360°. Ces réseaux de N caméras distribuées et synchronisées restent des solutions coûteuses et complexes en intégration et de fait inabordables. De fait, aujourd'hui la plupart des véhicules blindés sont dépourvus de moyens de protection en dehors de leur blindage. En effet, dans le domaine terrestre les solutions existantes ne sont pas satisfaisantes essentiellement du fait des coûts et de la difficulté de faire un système de protection complet. En effet il est inutile de détecter des menaces si on ne sait pas engager une réaction assurant la neutralisation de la menace ou de ses effets et permettant d'assurer la survie de l'équipage, de la plateforme ou encore d'assurer la poursuite de la réalisation de la mission.
Le but de l'invention est de pallier ces inconvénients.
Plus précisément l'invention a pour objet un procédé de détection et de classification d'événements de type menaces de tir d'une scène au moyen d'un système d'imagerie monopupille monté sur une plateforme mobile et équipé de plusieurs détecteurs dont un détecteur dans la bande de longueurs d'onde 0,6 μηπ-1 ,1 μηι dit détecteur VisPIR (Visible Proche InfraRouge) et un détecteur dans la bande de longueurs d'onde 0,9 μηπ-1 ,7 μηι ou bande 1 dit détecteur SWIR (Short Wave InfraRed, associé à une unité de traitement, qui comprend une étape d'acquisition d'images 2D successives de la scène issues du détecteur VisPIR dites images VisPIR et d'images 2D successives de la scène issues du détecteur SWIR et synchronisées avec les images VisPIR, dites images SWIR, une étape d'affichage des images VisPIR, une étape de traitement des images VisPIR et SWIR par l'unité de traitement. Il est principalement caractérisé en ce que cette étape de traitement des images comporte les sous-étapes suivantes :
- comparer les images SWIR successives pour déterminer pour chaque pixel (x-i ,yi ) et des pixels voisins, la variation d'éclairement d'une image SWIR à l'autre et la valeur crête e-i (t) de ces éclairements dits SWIR,
si cette variation d'éclairement SWIR est supérieure à un seuil d'éclairement prédéterminé, alors cette variation d'éclairement SWIR pendant laquelle elle est supérieure audit seuil est désignée signature d'un événement i et un événement est associé audit pixel (x-i ,y-i ) ou au barycentre des pixels considérés, et :
- on détermine la date t, de l'événement i
- on détermine la forme temporelle et la durée δΐ, de la signature de l'événement i,
- on détermine dans les images VisPIR synchronisées avec les images SWIR, les coordonnées du pixel
( 2 2) et des pixels voisins correspondant au pixel (x-i ,y-i ) ou au barycentre, et pour ce pixel {^2 ^2) et ces pixels voisins,
o on calcule la variation de l'éclairement d'une image VisPIR à l'autre et la valeur crête e2(t) de ces éclairements dits VisPIR, et on compare ces variations d'éclairement SWIR et VisPIR et leurs valeurs crêtes e-i (t) et e2(t) pour estimer une température de l'événement à partir d'une table de correspondance prédéterminée,
■ Si la scène est une scène de jour et que la température est supérieure à un seuil de température, alors l'événement est une fausse alarme (= l'événement est rejeté) et on réitère les étapes précédentes avec un autre pixel, ■ Sinon,
o à partir de mesures de vitesses angulaires d'éléments de la scène et de la vitesse de la plateforme, et des images VisPIR, on estime la distance R, du point correspondant de la scène pour calculer l'intensité \ de l'événement i à partir des éclairements SWIR et VisPIR de ce pixel et à partir de cette distance R,,
o on estime l'énergie totale E, de l'événement à partir de la forme temporelle de la signature de l'événement et de l'intensité I,,
- on classifie l'événement i en fonction de sa durée δΐ,, de sa température T,, de son intensité et de son énergie E,,
on réitère les étapes précédentes pour un autre pixel des images SWIR.
Grâce à ce procédé, le détecteur VisPIR permet d'assurer la fonction de base de vision haute résolution jour et nuit mais aussi des fonctions complémentaires de détection, localisation angulaire et classification des événements (ou menaces) ou de rejection de fausses alarmes, par l'emploi conjoint d'un (ou de plusieurs) détecteurs(s) de type SWIR éventuellement multispectral(aux) et en déterminant des attributs de durée, de température et d'intensité de ces événements.
Lorsqu'un événement est associé à plusieurs pixels adjacents de plus de 4x4 pixels par exemple, alors on détermine la luminance de l'événement en bande SWIR, et on classifie l'événement aussi en fonction de sa luminance dans le domaine SWIR.
Dans la bande visible-proche IR, il est également possible de mesurer la luminance apparente associée à l'événement. Ces deux luminances SWIR et VisPIR permettent d'estimer la température de l'événement (déjà estimée comme indiqué précédemment) avec plus de précision. De plus en ayant estimé la distance de l'événement on peut estimer sa dimension, son intensité et son énergie totale.
De préférence, on incruste l'événement sur l'image VisPIR affichée, éventuellement assorti de la distance associée. Il peut être incrusté en réalité augmentée par l'incrustation d'une symbologie par exemple un réticule coloré avec des données associées. Cette information de distance permet de rendre plus robuste la classification de la menace détectée, d'évaluer son degré de menace ou de priorité et d'évaluer si nous sommes à portée de létalité de cette menace et d'engager éventuellement une riposte adaptée de manière automatique ou supervisée par un opérateur (mouvement, masquage par tir de fumigène, riposte pour neutraliser le poste de tir menaçant, riposte pour neutraliser la munition par exemple). Selon une caractéristique de l'invention, l'unité de traitement est reliée à un système de gestion d'un événement et le procédé de détection et de classification comporte en outre une étape de déclenchement de ce système de gestion à partir de l'événement classifié et de sa distance. L'invention a aussi pour objet un produit programme d'ordinateur, ledit programme d'ordinateur comprenant des instructions de code permettant d'effectuer les étapes du procédé tel que décrit, lorsque ledit programme est exécuté sur un ordinateur.
Et l'invention a également pour objet un système de détection et de classification d'événements d'une scène, qui comprend :
- un système d'imagerie monopupille de la scène, monté sur une plateforme mobile et équipé de plusieurs détecteurs dont un détecteur visible-proche IR et un détecteur SWIR,
- une unité de traitement reliée aux détecteurs,
- des moyens d'estimation des distances entre des points de la scène et le système d'imagerie,
- un dispositif d'affichage relié à l'unité de traitement, caractérisé en ce que l'unité de traitement comprend des moyens de mise en œuvre du procédé de détection et de classification tel que décrit. D'autres caractéristiques et avantages de l'invention apparaîtront à la lecture de la description détaillée qui suit, faite à titre d'exemple non limitatif et en référence aux dessins annexés dans lesquels :
la figure 1 représente schématiquement un exemple de système utilisé pour mettre en œuvre le procédé selon l'invention,
la figure 2 représente un exemple d'organigramme des étapes du procédé selon l'invention,
les figures 3 sont des exemples d'images obtenues par le détecteur SWIR (fig 3a), par le détecteur VisPIR sans incrustation (fig 3b) et avec incrustation (fig 3c) d'un événement détecté sur l'image SWIR assortie de la distance associée à cet événement,
la figure 4 présente un exemple d'image SWIR agrandie d'un événement résolu,
la figure 5 montre un exemple de classification de menace déterminée en fonction de ses attributs.
D'une figure à l'autre, les mêmes éléments sont repérés par les mêmes références. Le procédé de détection et de classification selon l'invention est mis en œuvre au moyen d'un système d'imagerie monopupille que l'on peut voir figure 1 , comportant une optique 10 conçue pour accueillir au moins deux plans focaux avec pour l'un un détecteur 22 visible - PIR (0,6 μηπ- 1 ,1 μηι ou encore 0,4μηι-1 ,1 μηι en englobant le domaine visible) et pour l'autre un détecteur 21 en Bande 1 ou SWIR (0,9 μηπ-1 ,7 μηι). Cette optique est de préférence conçue pour former sur chaque détecteur une image panoramique de la scène à observer ; elle comporte un module de tête 1 1 à champ hémisphérique voire plus, suivi d'éléments optiques 12 de formation des images, d'un séparateur dichroïque 13 et sur chaque voie spectrale, une optique d'adaptation 14 et 15. On utilise par exemple une combinaison catadioptrique (miroirs et dioptres en verres) pour lui permettre de fonctionner dans une très large bande spectrale Visible, Proche IR (NIR) et Bande 1 (SWIR). L'emploi d'une optique commune aux deux détecteurs permet d'éviter l'effet de parallaxe sur les images issues de ces détecteurs.
Le détecteur matriciel SWIR 21 par exemple à base d'InGaAs a typiquement comme format de la matrice 320 lignes x 256 colonnes au pas de 30μηη avec une cadence image de 400 Hz ou 640 lignes x512 colonnes au pas de 15μηη avec une cadence image de 300 Hz, qui correspondent à l'état de l'art actuel. Ce détecteur a typiquement une résolution spatiale de 4 mrd pour un pixel avec le format 640x512. Des formats plus grands peuvent être envisagés. Toutefois le besoin de cadence image et de réponse temporelle pour la classification des menaces qui sont pour la plus part très brèves (durée généralement <100 ms) réclament des cadences d'acquisition égales ou supérieures à 200Hz voire 1000Hz si on cherche à classifier des petits calibres. Le détecteur intègre son circuit de lecture et de multiplexage dit ROIC (acronyme de l'expression anglo-saxonne « Read Out Integrated Circuit »).
Les pixels sont munis d'un ou de plusieurs filtres adaptés tels que: Un filtre unique sur l'ensemble de la matrice de pixels 21 1 laissant passer simultanément une bande étroite autour de 1 ,064μηι et une bande large au-dessus de 1 ,4 μηι jusque la longueur d'onde de coupure du détecteur par exemple 1 ,7μηι ou au-delà.
Plusieurs filtres différents adaptés chacun à un pixel par exemple sur un pavage 2x2 avec :
o Une sous bande pour la détection des signatures de départ de coup (1 ,4 - 1 ,7 μηι)
o Des bandes étroites accordées sur les raies laser (1 ,06 μιτι, 1 ,5 μηη, ...)
Le circuit de lecture ou ROIC est relié à une électronique de proximité (ou E-prox) 210 du détecteur ; le ROIC et/ou ΙΈ-prox intègrent des fonctions particulières telles que par exemple :
Une lecture haute cadence supérieure à 200Hz ou inférieure à 5ms de période et de temps d'intégration sans temps mort ; le temps d'intégration est égal ou très proche de la période d'acquisition des trames images.
- Une haute dynamique (mode HDR acronyme de l'expression anglo-saxonne High Dynamic Range) pouvant être réalisée de différentes manières : bi-pente, réponse non linéaire logarithmique ou en racine par exemple, reset avant saturation décompté... Un détecteur Silicium CMOS est par exemple utilisé comme détecteur visible 22. Il a une haute résolution spatiale (par exemple 1 mrd pour 1 pixel) et fonctionne à une cadence de 25 Hz ou plus généralement comprise entre 25 Hz et 100Hz. On peut citer comme exemple d'un tel détecteur une matrice 221 CMOS 4T ou 5T (à 4 ou 5 transistors dans le pixel) à faible bruit et amplification et conversion analogique digitale parallèle par colonne tel un s-CMOS (scientifique CMOS). Le détecteur CMOS 221 intègre son circuit de lecture et de multiplexage (ou ROIC) qui est relié à l'électronique de proximité (ou E-prox) 220 du détecteur. Cette électronique de proximité associée au ROIC réalise toutes les opérations de conversion analogique numérique et de restauration du signal (NUC Non Uniformity Corrections) pour permettre d'exploiter les images acquises avec le maximum de performance de jour comme de nuit. Il est relié à un dispositif d'affichage 40 de manière à assurer une fonction de vision de la scène pour un opérateur. L'image visible 42 est affichée mais pas nécessairement l'image SWIR 41 .
Ces détecteurs 22, 21 sont reliés à une unité de traitement 50 des images visible 42 et SWIR 41 respectivement obtenues par les deux détecteurs, apte à mettre en œuvre les étapes suivantes décrites en relation avec la figure 1 et l'organigramme de la figure 2. Les menaces (ou événements) se caractérisent par des signatures optiques sur les images acquises. Selon l'invention on détecte un événement puis on définit quatre attributs à partir desquels seront classées ces signatures optiques.
Toutes les menaces se caractérisent par des signatures optiques très brèves et donc très difficilement discernables à l'œil par un opérateur regardant un écran ou même en vision directe du fait du domaine spectral d'émission ; leur détection doit donc être assurée par un traitement automatique.
Les profils temporels des signatures c'est-à-dire leur durée, et éventuellement temps de montée et profil de descente, constituent un premier attribut ; il est obtenu de la manière suivante.
Un événement est tout d'abord détecté par des moyens de détection 51 et certaines de ses caractéristiques sont estimées de la manière suivante. Des images de la scène à observer dites images SWIR 41 sont acquises successivement par le détecteur SWIR. Des images de cette scène dites images VisPIR 42 sont simultanément acquises par le détecteur visible, ces images SWIR et VisPIR étant temporellement synchronisées entre elles au moyen d'une électronique 30 de pilotage et de synchronisation des détecteurs, et stockées en mémoire aux fins de la classification. Cette synchronisation peut résulter d'une acquisition d'images à la même cadence pour les deux détecteurs, mais les cadences sont généralement différentes comme mentionné précédemment.
Les images SWIR 41 sont comparées entre elles pour déterminer pour chaque pixel (xM , yn ) la variation d'éclairement SWIR. L'éclairement eM est donné par le signal intégré sur le pixel sur lequel se forme l'image de la menace. Si cette variation d'éclairement est supérieure à un seuil prédéterminé ou adaptatif suivant les signatures des fonds spatiaux temporels, alors on considère qu'elle représente la signature SWIR d'un événement : un événement i est détecté comme montré figure 3a. Ce seuil d'éclairement est typiquement de 2 à 10 fois la variation de l'écart-type du fond suivant les probabilités de détection et les taux de fausse alarme souhaités à ce stade. On détermine ainsi un éclairement eM en W/m2 dans la bande spectrale de réception déterminée par le détecteur SWIR, son optique 15 et ses filtres éventuels.
Et on détermine sa durée δΐ, en secondes c'est-à-dire la durée pendant laquelle cette variation d'éclairement est supérieure à ce seuil. Cette durée δΐ, constitue donc le premier attribut de classification de l'événement (étape A).
A partir de cette détection d'événement réalisée dans le domaine SWIR, on va pouvoir mesurer sur les images VisPIR 42 le niveau de flux collecté de manière synchrone dans le même champ de vision. On procède de la manière suivante.
On détermine par des moyens 53, les coordonnées du pixel (xi2, yi2) correspondant à cet événement dans les images VisPIR 42 synchronisées avec lesdites images SWIR. Lorsque les dimensions des images SWIR et VisPIR sont les mêmes, les coordonnées du pixel dans les images visibles sont identiques à celles des images SWIR ; on a xM = xi2 et y,i = yi2. Si les images VisPIR sont plus résolues que les images SWIR du fait de la résolution spatiale du détecteur VisPIR supérieure à celle du détecteur SWIR comme dans l'exemple des figures 3, on détermine les coordonnées des pixels VisPIR en correspondance avec le pixel SWIR sur lequel est faite la détection. Cette opération de correspondance des pixels VisPIR et SWIR peut être réalisée en usine après intégration des matrices de détecteurs sur l'optique. Si la détection est faite sur des pixels SWIR adjacents, on détermine la position de son barycentre et on localise les pixels VisPIR correspondant à ce barycentre. En réalisant la mesure du signal crête dans la bande VisPIR ou en sommant la contribution des pixels adjacents illuminés par l'événement on détermine l'éclairement VisPIR de l'événement ei2 en W/m2 dans la bande spectrale de ce récepteur. Il est possible que sur la voie VisPIR on ne puisse détecter l'événement. Dans ce cas l'éclairement ei2 et nul ou d'amplitude trop faible par rapport au bruit ou aux incertitudes pour être déterminé.
Pour ce pixel, on calcule le rapport ei2/eii . Ce rapport d'éclairement VisPIR sur l'éclairement SWIR permet d'estimer une température T, (en K) de l'événement (étape B), par les moyens de calcul des attributs 54. Cette température est le deuxième attribut de la signature optique. On utilise à cet effet une table prédéterminée qui permet d'établir une correspondance entre ces rapports d'éclairements et la température du corps noir ou du corps gris correspondant, en utilisant par exemple la loi de Planck dont on intègre la contribution pour les deux bandes spectrales SWIR et VisPIR en fonction de la température. Le signal numérique issu des deux voies est calibré en W/m2 pour permettre d'avoir les mesures dans cette unité. Une autre manière de faire est de calibrer les détecteurs en mesurant le signal qu'ils délivrent en visant un corps noir de calibration en laboratoire.
Cette température est typiquement utilisée pour rejeter une source de fausse alarme constituée par le Soleil ou sa modulation ou sa diffusion par des nuages, ou encore sa réflexion par des miroirs, contours métalliques (tels ceux des fenêtres ou des panneaux de signalisation) ou encore par des réflexions sur l'eau. En effet, sur une plateforme mobile ces reflets solaires sont susceptibles de générer des signatures spatio-temporelles dans le domaine SWIR très proches de celles des munitions recherchées. Le Soleil ou ses reflets ayant une température de corps noir voisine de 5800K va générer une signature intense à plus courte longueur d'onde (dans le visible et le proche IR) beaucoup plus forte que celles associées aux signatures pyrotechniques des départs de coups ayant une température de corps noir inférieure à 2000 K. Ainsi la détection de signatures intenses dans le domaine visible ou proche IR permet de neutraliser les éventuelles détections dans le SWIR sur les pixels couvrant le même champ de vision instantané. Le niveau de flux collecté sur le détecteur visible permet via la température de valider la détection de l'événement ou de la rejeter : pour une scène de jour, si la température est supérieure à un seuil (5000 K par exemple), alors cet événement est une fausse alarme, sinon l'événement est validé (étape C). Cet événement validé peut en outre être incrusté sur l'image visible à l'attention de l'opérateur.
Cet attribut de température est avantageusement déterminé par l'unité de traitement parallèlement au premier attribut de durée. Tous les engins à l'origine de ces menaces se caractérisent par des portées de létalité ou d'efficacité P au-delà de laquelle la menace n'est plus effective. Elles sont de la classe 100m pour un RPG ou une rocket anti char de courte portée, 500m à 8km pour des missiles anti char suivant leur type ou des tirs d'obus suivant leur calibre et leur charge.
Selon l'invention, l'unité de traitement comporte des moyens 52 d'estimation de la distance R, d'un point de l'image visible 42 (point objet de la scène- système d'imagerie).
Le système d'imagerie est installé à bord d'une plateforme, par exemple terrestre. En connaissant les directions sites et gisement dans le référentiel du détecteur VisPIR et en connaissant sa position en hauteur et en orientation par rapport à la plateforme ou mieux par rapport au sol (en exploitant les informations de position relative de la plateforme par rapport au sol) il est possible d'estimer la distance des points de l'image du sol en fonction de leur élévation apparente en faisant l'hypothèse d'un sol plan horizontal ou mieux en exploitant un modèle numérique de terrain (MNT) recalé par exemple par la position GPS du véhicule et par des données issues des images délivrées par le détecteur visible, permettant d'avoir un profil d'horizon ou par la localisation d'amers dans le champ de l'image. Lorsque la plateforme est fixe sur une infrastructure il est possible, lors de son installation, d'apparier à tous les points de l'image visible de la scène terrestre sa distance. Lorsque la plateforme est mobile, la mesure des vitesses angulaires des points caractéristiques de la scène est possible entre images VisPIR successives avec une bonne précision du fait de la résolution angulaire du système d'imagerie. Ce champ de vitesses angulaires dans toute la scène est appelé flot optique. Il permet de mesurer la ou les rotations du champ et la direction du vecteur vitesse de la plateforme (après dé rotation du champ), direction pour laquelle le flot optique est nul. Une grande couverture du champ angulaire du système d'imagerie panoramique permet d'assurer que la direction du vecteur vitesse de la plateforme est dans le champ d'observation et coïncide avec un pixel. En connaissant la vitesse de la plateforme, information délivrée par sa conduite et sa propulsion ou en exploitant les informations d'une centrale inertielle ou encore éventuellement mesurée en exploitant le flot optique au sol à courte distance, la mesure de la vitesse angulaire des éléments de la scène et la mesure de l'écart angulaire entre le pixel en coïncidence avec le vecteur vitesse de la plateforme et la direction associée à l'image d'un élément de la scène dont on estime une vitesse angulaire, permet d'estimer sa distance R.
On peut afficher en temps réel sur l'image visible 42 la distance R, associée à l'événement i comme montré figure 3c ; l'événement i est incrusté sur l'image visible en utilisant par exemple un symbole prédéterminé, tel qu'un réticule coloré. L'image SWIR 41 montrée figure 3a n'est généralement pas affichée.
A partir de cette distance et de l'éclairement visible obtenu pour cet événement, on calcule par les moyens 54 son intensité \ (en W/sr) qui est le troisième attribut (étape D). En effet, on rappelle que l'amplitude de l'éclairement SWIR est dépendante de la distance R avec une loi en 1 /R2 et de l'atténuation atmosphérique Tatm qui va apporter un coefficient de transmission dépendant de la distance R. On a :
Figure imgf000014_0001
Dans les images SWIR 41 , les signatures optiques des sources sont soit résolues (étendues sur plusieurs pixels) soit non résolues (l'image de la source est formée sur un seul pixel) ou dans une situation intermédiaire très peu étendues par rapport au champ de vue instantané défini par la taille du pixel, la focale de l'optique et sa FTM (Fonction de Transfert de Modulation) dans la bande 1 .
Lorsque la signature est résolue spatialement comme montré dans l'exemple de la figure 3 ou 4, l'éclairement eM correspondant à l'amplitude du signal crête vu sur un pixel est déterminée par la luminance de la signature pendant le temps d'intégration (étape E), et obtenue par les moyens 54. Cette valeur constitue un quatrième attribut pour la classification de la menace. Cet attribut est très robuste car il n'est pas dépendant de la distance R par une loi en 1 /R2 comme dans le cas de l'éclairement délivré par une source non résolue. Dans ce cas, la luminance L, en W/sr/m2 de l'événement est donnée par l'éclairement crête vu sur un pixel par la relation :
= eu/[Tatm(\ FOV)2].
L'I FOV étant l'angle solide du champ de vue instantané du détecteur. Ou encore la luminance moyenne peut être donnée par l'intégration du signal eM collecté par les pixels adjacents sur lesquels se forme l'image de la source divisée par l'angle solide Ω en stéradian sous lequel est vu l'événement résolu. Du fait de la dépendance de l'éclairement reçu fonction de la distance R (loi en 1 /R2), il ne constitue pas un attribut pour la classification de la menace. Seul le barycentre de cette signature a une signification en permettant de localiser angulairement en site et gisement dans le référentiel du détecteur SWI R ou dans le référentiel de la plateforme en connaissant le mouvement du premier par rapport au châssis si le système d'imagerie est monté sur un organe articulé sur la plateforme (tourelle, plateforme « pan and tilt »). On classifie alors cet événement « résolu » en fonction de sa durée, de sa température, de son intensité et de sa luminance.
Enfin l'intensité de l'événement ou sa luminance associée à sa dimension et à sa durée permettent d'estimer l'énergie E, (en J) de l'événement (étape F) qui peut être relié à une estimation de la portée de la menace et de sa munition. Ils sont calculés par les moyens 54.
Lorsque l'événement i est résolu on a : E
Figure imgf000015_0001
Ω R 2 4 π δί,.
Lorsque l'événement n'est pas résolu on a : ΕΞ s = I s 4π 5tL Ces quatre (si signature non résolue) ou cinq (si signature résolue) attributs permettent de réaliser par les moyens 55, une classification robuste de la menace. Lorsque l'événement a été validé à partir de sa température ou plutôt n'a pas été considéré comme une fausse alarme, on le classifie alors à partir de sa durée, de sa température, de son intensité, de son énergie et éventuellement de sa luminance et de classes prédéterminées telles que montrées dans le tableau de la figure 5. Et on réitère ces étapes pour chaque autre pixel de l'image SWIR.
L'association de la classification de la menace et de l'estimation de la distance et de l'énergie de l'événement permettent de décider si le système d'imagerie ou l'observateur se situe dans le domaine de létalité P de la menace et ainsi d'engager si nécessaire et si possible une riposte adaptée en temps réel. Cette riposte peut être déclenchée automatiquement par les moyens 56 de l'unité de traitement comme montré figure 1 ou manuellement par l'opérateur.
Ce procédé de détection et de classification peut notamment s'implémenter à partir d'un produit programme d'ordinateur, ce programme d'ordinateur comprenant des instructions de code permettant d'effectuer les étapes du procédé. Il est enregistré sur un support lisible par ordinateur, aussi utilisé pour synchroniser images SWIR et images visibles. Le support peut être électronique, magnétique, optique, électromagnétique ou être un support de diffusion de type infrarouge. De tels supports sont par exemple, des mémoires à semi-conducteur (Random Access Memory RAM, Read- Only Memory ROM), des bandes, des disquettes ou disques magnétiques ou optiques (Compact Disk - Read Only Memory (CD-ROM), Compact Disk - Read/Write (CD-R/W) et DVD).

Claims

REVENDICATIONS
Procédé de détection et de classification d'événements de type menaces de tir d'une scène au moyen d'un système d'imagerie monopupille monté sur une plateforme mobile et équipé de plusieurs détecteurs dont un détecteur dans la bande de longueurs d'onde 0,6 μηπ-1 ,1 μηι dit détecteur VisPIR (22) et un détecteur dans la bande de longueurs d'onde 0,9 μηπ-1 ,7 μηι dit détecteur SWIR (21 ), associé à une unité de traitement (50), qui comprend une étape d'acquisition d'images 2D successives de la scène issues du détecteur VisPIR dites images VisPIR (42) et d'images 2D successives de la scène issues du détecteur SWIR et synchronisées avec les images VisPIR, dites images SWIR (41 ), une étape d'affichage des images VisPIR, une étape de traitement des images VisPIR et SWIR par l'unité de traitement, caractérisé en ce que cette étape de traitement des images comporte les sous-étapes suivantes :
- comparer les images SWIR successives pour déterminer pour chaque pixel (xi ,yi ) et des pixels voisins, la variation d'éclairement d'une image SWIR à l'autre et la valeur crête e-i (t) de ces éclairements dits SWIR,
si cette variation d'éclairement SWIR est supérieure à un seuil d'éclairement prédéterminé, alors la variation d'éclairement SWIR pendant laquelle ledit seuil est dépassé est désignée signature d'un événement i et un événement est associé audit pixel (xi ,yi ) ou au barycentre des pixels considérés, et :
- on détermine la date t, de l'événement i
- on détermine la forme temporelle et la durée 5t, de la signature de l'événement (étape A),
- on détermine dans les images VisPIR synchronisées avec les images SWIR, les coordonnées du pixel ( 2 2) et des pixels voisins correspondant au pixel (x-i ,y-i ) ou au barycentre, et pour ce pixel (X2 2) et ces pixels voisins,
o on calcule la variation de l'éclairement d'une image VisPIR à l'autre et la valeur crête e2(t) de ces éclairements dits VisPIR, et on compare ces variations d'éclairement SWIR et VisPIR et leurs valeurs crêtes e-i (t) et e2(t) pour estimer une température de l'événement à partir d'une table de correspondance prédéterminée (étape B),
■ si la scène est une scène de jour et que la température est supérieure à un seuil de température, alors l'événement est une fausse alarme (étape C) et on réitère les étapes précédentes avec un autre pixel,
■ sinon,
o à partir de mesures de vitesses angulaires d'éléments de la scène et de la vitesse de la plateforme, et des images VisPIR, on estime la distance R, du point correspondant de la scène pour calculer l'intensité \ de l'événement i à partir des éclairements SWIR et VisPIR de ce pixel et à partir de cette distance R, (étape D),
o on estime l'énergie totale E, de l'événement à partir de la forme temporelle de la signature et de l'intensité \ (étape F),
- on classifie l'événement i en fonction de sa durée δΐ,, de sa température T,, de son intensité et de son énergie E,,
- on réitère les étapes précédentes pour un autre pixel des images SWIR.
Procédé de classification d'événements d'une scène selon la revendication précédente, caractérisé en ce que lorsqu'un événement est associé à des pixels adjacents, alors on détermine la luminance de l'ensemble de ces événements (étape E), et on classifie cet ensemble d'événements aussi en fonction de sa luminance. Procédé de classification d'événements d'une scène selon l'une des revendications précédentes, caractérisé en ce qu'on incruste l'événement sur l'image VisPIR (42) affichée.
Procédé de classification d'événements d'une scène selon la revendication précédente, caractérisé en ce qu'on affiche la distance associée à l'événement, sur l'image VisPIR (42) affichée.
Procédé de classification d'événements d'une scène selon l'une des revendications précédentes, caractérisé en ce que l'unité de traitement (50) est reliée à un système de gestion d'un événement et en ce qu'il comporte en outre une étape de déclenchement de ce système de gestion à partir de l'événement classifié et de sa distance.
Un produit programme d'ordinateur, ledit programme d'ordinateur comprenant des instructions de code permettant d'effectuer les étapes du procédé selon l'une quelconque des revendications 1 à 5, lorsque ledit programme est exécuté sur un ordinateur.
Système de détection et de classification d'événements d'une scène, qui comprend :
- un système d'imagerie monopupille de la scène, monté sur une plateforme mobile et équipé de plusieurs détecteurs dont un détecteur VisPIR (22) et un détecteur SWIR (21 ),
- une unité de traitement (50) reliée aux détecteurs,
- des moyens d'estimation de la distance entre des points de la scène et le système d'imagerie,
- un dispositif d'affichage (40) relié à l'unité de traitement,
caractérisé en ce que l'unité de traitement comprend des moyens de mise en œuvre du procédé de détection et de classification selon l'une des revendications 1 à 5.
8. Système de détection et de classification selon la revendication précédente, caractérisé en ce que les moyens de mise en œuvre du procédé de détection et de classification sont un programme d'ordinateur selon la revendication 6.
PCT/EP2015/052430 2014-02-07 2015-02-05 Procede de detection et de classification d'evenements d'une scene WO2015118075A1 (fr)

Priority Applications (8)

Application Number Priority Date Filing Date Title
JP2016545990A JP6449894B2 (ja) 2014-02-07 2015-02-05 シーンのイベントを検出および分類する方法
CA2938227A CA2938227C (fr) 2014-02-07 2015-02-05 Procede de detection et de classification d'evenements d'une scene
US15/110,937 US9953226B2 (en) 2014-02-07 2015-02-05 Method for detecting and classifying events of a scene that include firing threat type events
DK15705929.6T DK3103062T3 (da) 2014-02-07 2015-02-05 Fremgangsmåde til detektering og klassificering af hændelser fra en scene
EP15705929.6A EP3103062B1 (fr) 2014-02-07 2015-02-05 Procede de detection et de classification d'evenements d'une scene
FIEP15705929.6T FI3103062T3 (fi) 2014-02-07 2015-02-05 Menetelmä näkökentän tapahtumien detektoimiseksi ja luokittelemiseksi
RU2016135936A RU2686566C2 (ru) 2014-02-07 2015-02-05 Способ для детектирования и классифицирования событий сцены
IL246633A IL246633B (en) 2014-02-07 2016-07-06 A method for detecting and classifying scene events

Applications Claiming Priority (2)

Application Number Priority Date Filing Date Title
FR1400350 2014-02-07
FR1400350A FR3017480B1 (fr) 2014-02-07 2014-02-07 Procede de detection et de classification d'evenements d'une scene

Publications (1)

Publication Number Publication Date
WO2015118075A1 true WO2015118075A1 (fr) 2015-08-13

Family

ID=51518802

Family Applications (1)

Application Number Title Priority Date Filing Date
PCT/EP2015/052430 WO2015118075A1 (fr) 2014-02-07 2015-02-05 Procede de detection et de classification d'evenements d'une scene

Country Status (10)

Country Link
US (1) US9953226B2 (fr)
EP (1) EP3103062B1 (fr)
JP (1) JP6449894B2 (fr)
CA (1) CA2938227C (fr)
DK (1) DK3103062T3 (fr)
FI (1) FI3103062T3 (fr)
FR (1) FR3017480B1 (fr)
IL (1) IL246633B (fr)
RU (1) RU2686566C2 (fr)
WO (1) WO2015118075A1 (fr)

Cited By (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2018146384A (ja) * 2017-03-06 2018-09-20 株式会社Ｊｖｃケンウッド レーザ光照射検出装置、レーザ光照射検出方法、レーザ光照射検出システム

Families Citing this family (7)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
FR3017480B1 (fr) * 2014-02-07 2017-09-08 Thales Sa Procede de detection et de classification d'evenements d'une scene
US9626569B2 (en) * 2014-11-06 2017-04-18 Bae Systems Information And Electronics Systems Integration Inc. Filtered image data recovery using lookback
FR3033649B1 (fr) * 2015-03-12 2018-06-15 Sagem Defense Securite Equipement aeroporte de detection de tirs et d'aide au pilotage
FR3042041B1 (fr) * 2015-10-02 2020-03-20 Mbda France Procede et dispositif pour determiner la distance entre un recepteur aerien et un emetteur terrestre
KR102630227B1 (ko) * 2016-07-21 2024-01-29 한화비전 주식회사 감시 데이터 제공 시스템 및 방법
CN110782481B (zh) * 2019-10-18 2023-09-05 华中光电技术研究所（中国船舶重工集团有限公司第七一七研究所） 无人艇智能决策方法及系统
CN112712702B (zh) * 2019-10-24 2022-08-26 杭州海康威视系统技术有限公司 违法事件去重方法、装置、电子设备及机器可读存储介质

Family Cites Families (19)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US5233541A (en) * 1990-08-10 1993-08-03 Kaman Aerospace Corporation Automatic target detection process
US6178141B1 (en) * 1996-11-20 2001-01-23 Gte Internetworking Incorporated Acoustic counter-sniper system
US5930202A (en) * 1996-11-20 1999-07-27 Gte Internetworking Incorporated Acoustic counter-sniper system
US5970024A (en) * 1997-04-30 1999-10-19 Smith; Thomas Acousto-optic weapon location system and method
GB2340222B (en) * 1998-07-14 2000-07-26 Infrared Integrated Syst Ltd Multi-array sensor and method of identifying events using same
JP2001194092A (ja) * 2000-01-05 2001-07-17 Mitsubishi Electric Corp 射場安全監視装置
WO2004001667A2 (fr) * 2002-06-21 2003-12-31 The Trustees Of Columbia University In The City Of New York Systemes et procedes destines a rendre nettes des images obtenues floues en raison d'un deplacement
WO2007056753A2 (fr) * 2005-11-08 2007-05-18 General Atomics Appareil et procedes servant lors d’une detection de flash
CA2645206C (fr) * 2006-04-28 2014-09-16 Orica Explosives Technology Pty Ltd Relais d'amorcage sans fil et procedes d'abattage a l'explosif
US8131012B2 (en) * 2007-02-08 2012-03-06 Behavioral Recognition Systems, Inc. Behavioral recognition system
US8385997B2 (en) * 2007-12-11 2013-02-26 Tokitae Llc Spectroscopic detection of malaria via the eye
US20100222774A1 (en) * 2007-12-11 2010-09-02 Searete Llc, A Limited Liability Corporation Of The State Of Delaware Systems, devices, and methods for inducing ultraviolet energy generation via hemozoin nanoparticles in a biological tissue
WO2010125962A1 (fr) * 2009-04-30 2010-11-04 ソニー株式会社 Dispositif de commande d'affichage, procédé de commande d'affichage et programme
US9044141B2 (en) * 2010-02-10 2015-06-02 Tokitae Llc Systems, devices, and methods including a dark-field reflected-illumination apparatus
FR2964818B1 (fr) * 2010-09-14 2012-09-28 Thales Sa Systeme optronique a vision supra hemispherique
US9692991B2 (en) * 2011-11-04 2017-06-27 Qualcomm Incorporated Multispectral imaging system
US9117277B2 (en) * 2012-04-04 2015-08-25 Canon Kabushiki Kaisha Determining a depth map from images of a scene
FR3017480B1 (fr) * 2014-02-07 2017-09-08 Thales Sa Procede de detection et de classification d'evenements d'une scene
IL231111A (en) * 2014-02-24 2016-06-30 Ori Afek Flash detection

Non-Patent Citations (4)

* Cited by examiner, † Cited by third party
Title
ADAM D. DEVIR ET AL: "Fast multichannel radiometer for diagnosing munition flashes", PROCEEDINGS OF SPIE, vol. 6940, 3 April 2008 (2008-04-03), pages 69401O - 69401O-8, XP055154803, ISSN: 0277-786X, DOI: 10.1117/12.784275 *
KASTEK MARIUSZ ET AL: "Analysis of multispectral signatures of the shot", SENSORS, AND COMMAND, CONTROL, COMMUNICATIONS, AND INTELLIGENCE (C3I) TECHNOLOGIES FOR HOMELAND SECURITY AND HOMELAND DEFENSE X, SPIE, 1000 20TH ST. BELLINGHAM WA 98225-6705 USA, vol. 8019, no. 1, 13 May 2011 (2011-05-13), pages 1 - 11, XP060014431, DOI: 10.1117/12.883923 *
MICHAEL Y. ENGEL ET AL: "Methodology for accurate multi-spectral signature measurement", PROCEEDINGS OF SPIE, vol. 7113, 1 October 2008 (2008-10-01), pages 711312, XP055154940, ISSN: 0277-786X, DOI: 10.1117/12.800285 *
SHAVIT NADAV: "Uncooled infrared sensor technology for hostile fire indication systems", OPTICAL ENGINEERING, vol. 50, no. 6, 1 June 2011 (2011-06-01), pages 061012, XP055152996, ISSN: 0091-3286, DOI: 10.1117/1.3583567 *

Cited By (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2018146384A (ja) * 2017-03-06 2018-09-20 株式会社Ｊｖｃケンウッド レーザ光照射検出装置、レーザ光照射検出方法、レーザ光照射検出システム
US11165217B2 (en) 2017-03-06 2021-11-02 Jvckenwood Corporation Laser beam irradiation detection device, laser beam irradiation detection method, and laser beam irradiation detection system

Also Published As

Publication number Publication date
EP3103062A1 (fr) 2016-12-14
FI3103062T3 (fi) 2024-02-08
EP3103062B1 (fr) 2023-11-29
FR3017480B1 (fr) 2017-09-08
JP2017516049A (ja) 2017-06-15
RU2016135936A (ru) 2018-03-13
CA2938227C (fr) 2022-11-08
US9953226B2 (en) 2018-04-24
FR3017480A1 (fr) 2015-08-14
JP6449894B2 (ja) 2019-01-09
RU2686566C2 (ru) 2019-04-29
US20160335504A1 (en) 2016-11-17
CA2938227A1 (fr) 2015-08-13
RU2016135936A3 (fr) 2018-09-17
DK3103062T3 (da) 2024-02-26
IL246633B (en) 2019-03-31

Similar Documents

Publication Publication Date Title
EP3103062B1 (fr) Procede de detection et de classification d&#39;evenements d&#39;une scene
CA2975849C (fr) Equipement aeroporte de detection de tirs et d&#39;aide au pilotage
EP0379425A1 (fr) Système de détermination de la position d&#39;au moins une cible par triangulation
US8731240B1 (en) System and method for optics detection
WO2012034963A1 (fr) Systeme optronique a vision supra hemispherique
WO2012007692A1 (fr) Procédé et dispositif d&#39;imagerie bi-spectral multifonctions
EP3415949B1 (fr) Systeme d&#39;observation embarque comprenant un lidar pour l&#39;obtention d&#39;images tridimensionnelles haute resolution
EP2193477B1 (fr) Procede et systeme d&#39;aide au roulage d&#39;un aeronef
EP3571468B1 (fr) Procédé d&#39;observation de la surface terrestre et dispositif pour sa mise en oeuvre
EP2652430A1 (fr) Procédé et système de détection d&#39;un train d&#39;impulsions électromagnétiques, dispositif de guidage électromagnétique d&#39;une munition vers une cible comprenant un tel système de détection
de Jong IRST and its perspective
FR2969273A1 (fr) Conduite de tir bi-spectrale pour projectile autopropulse
Hewitt et al. optimizing sensor design using a time-limited search model for moving sensor
EP0540395B1 (fr) Dispositif de détection passive d&#39;un tir d&#39;artillerie ou analogue
FR3040848A1 (fr) Procede et systeme d&#39;imagerie bistatique
FR2726360A1 (fr) Procede d&#39;elaboration d&#39;un ordre d&#39;allumage automatique pour un piege antichar et allumeur pour la mise en oeuvre du procede
FR2570835A1 (fr) Dispositif de detection optique du passage d&#39;un mobile et de localisation du point de passage
WO2024018164A1 (fr) Procede et systeme de surveillance spatiale infrarouge de jour
WO2023094409A1 (fr) Procede et dispositif de visualisation d&#39;impacts d&#39;impulsions laser sur une cible
FR2974432A1 (fr) Dispositif de guidage differentiel par imagerie active laser
FR3110226A1 (fr) Simulateur de tir de combat vidéo et procédé de simulation de tir associé
WO2009063038A1 (fr) Systeme de brouillage et d&#39;endommagement de capteur ir
EP1772743A1 (fr) Procédé de détection d&#39;un objet par traitement spatio-temporel et dispositif de mise en oeuvre du procédé
McManamon Superior data for superior information: multidiscriminate ladar

Legal Events

Date Code Title Description
121 Ep: the epo has been informed by wipo that ep was designated in this application

Ref document number: 15705929

Country of ref document: EP

Kind code of ref document: A1

DPE1 Request for preliminary examination filed after expiration of 19th month from priority date (pct application filed from 20040101)
REEP Request for entry into the european phase

Ref document number: 2015705929

Country of ref document: EP

WWE Wipo information: entry into national phase

Ref document number: 2015705929

Country of ref document: EP

WWE Wipo information: entry into national phase

Ref document number: 246633

Country of ref document: IL

ENP Entry into the national phase

Ref document number: 2016545990

Country of ref document: JP

Kind code of ref document: A

WWE Wipo information: entry into national phase

Ref document number: 15110937

Country of ref document: US

ENP Entry into the national phase

Ref document number: 2938227

Country of ref document: CA

NENP Non-entry into the national phase

Ref country code: DE

ENP Entry into the national phase

Ref document number: 2016135936

Country of ref document: RU

Kind code of ref document: A