EP3791359A1 - Correlation of thermal satellite image data for generating thermal maps at high spatial resolution - Google Patents

Correlation of thermal satellite image data for generating thermal maps at high spatial resolution

Info

Publication number
EP3791359A1
EP3791359A1 EP19724144.1A EP19724144A EP3791359A1 EP 3791359 A1 EP3791359 A1 EP 3791359A1 EP 19724144 A EP19724144 A EP 19724144A EP 3791359 A1 EP3791359 A1 EP 3791359A1
Authority
EP
European Patent Office
Prior art keywords
thermal image
thermal
satellite
pixel
pixels
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
EP19724144.1A
Other languages
German (de)
French (fr)
Other versions
EP3791359B1 (en
Inventor
Max GULDE
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Fraunhofer Gesellschaft zur Forderung der Angewandten Forschung eV
Original Assignee
Fraunhofer Gesellschaft zur Forderung der Angewandten Forschung eV
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Fraunhofer Gesellschaft zur Forderung der Angewandten Forschung eV filed Critical Fraunhofer Gesellschaft zur Forderung der Angewandten Forschung eV
Publication of EP3791359A1 publication Critical patent/EP3791359A1/en
Application granted granted Critical
Publication of EP3791359B1 publication Critical patent/EP3791359B1/en
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/97Determining parameters from multiple pictures
    • GPHYSICS
    • G01MEASURING; TESTING
    • G01JMEASUREMENT OF INTENSITY, VELOCITY, SPECTRAL CONTENT, POLARISATION, PHASE OR PULSE CHARACTERISTICS OF INFRARED, VISIBLE OR ULTRAVIOLET LIGHT; COLORIMETRY; RADIATION PYROMETRY
    • G01J5/00Radiation pyrometry, e.g. infrared or optical thermometry
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T3/00Geometric image transformations in the plane of the image
    • G06T3/40Scaling of whole images or parts thereof, e.g. expanding or contracting
    • G06T3/4053Scaling of whole images or parts thereof, e.g. expanding or contracting based on super-resolution, i.e. the output image resolution being higher than the sensor resolution
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T5/00Image enhancement or restoration
    • G06T5/50Image enhancement or restoration using two or more images, e.g. averaging or subtraction
    • GPHYSICS
    • G01MEASURING; TESTING
    • G01JMEASUREMENT OF INTENSITY, VELOCITY, SPECTRAL CONTENT, POLARISATION, PHASE OR PULSE CHARACTERISTICS OF INFRARED, VISIBLE OR ULTRAVIOLET LIGHT; COLORIMETRY; RADIATION PYROMETRY
    • G01J5/00Radiation pyrometry, e.g. infrared or optical thermometry
    • G01J2005/0077Imaging
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/10Image acquisition modality
    • G06T2207/10016Video; Image sequence
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/10Image acquisition modality
    • G06T2207/10032Satellite or aerial image; Remote sensing
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/10Image acquisition modality
    • G06T2207/10048Infrared image
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/20Special algorithmic details
    • G06T2207/20212Image combination
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/20Special algorithmic details
    • G06T2207/20212Image combination
    • G06T2207/20221Image fusion; Image merging
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/30Subject of image; Context of image processing
    • G06T2207/30181Earth observation

Definitions

  • the present invention relates to the determination of spatially high resolution thermal maps using satellite image thermal data.
  • LST Land Surface Temperature
  • the temperature is not measured directly, for example, but derived from the radiance at the detector aboard the satellite.
  • the radiant Te Rx is the radiation (energy) emitted by a surface in a given time in a given spectral range in a given direction and is given in watts per square meter steradian.
  • the detector itself records a gray level image in which the brightness of a single pixel can be assigned to a measured radiance.
  • h Planck's constant
  • c the speed of light in vacuum
  • s B the Boltzmann constant
  • the measured output from which the temperature can be derived may depend on the type of detector.
  • micro bolometers for example, either a temperature-dependent electrical shear resistance is measured or the temperature change of the absorber directly through a thermometer.
  • the temperature is determined by a previously determined functional dependence between resistance and temperature.
  • Mercury Cadmium Telluride (English MCT) detectors are semiconductor devices in which the amount of energy trapped per pixel correlates linearly with its brightness in a good approximation. With a known field of view of the pixel and exposure time can thus be concluded on the radiance which is related to temperature as described above.
  • Another detector type is the quantum well infrared photodetector (English QWIP), in which also charge carriers are released at Infra red (IR) light incidence, which then generate a measurable current.
  • Edinburgh QWIP quantum well infrared photodetector
  • the temperature is determined as a derived quantity by changing easily measurable physical parameters (resistance, voltage, etc.).
  • a general challenge in the measurement of LST by infrared cameras from space is the achievement of a high absolute radiometric accuracy, ie accuracy of the measured radiation temperature of the earth's surface.
  • the measured temperature should reflect the actual radiation temperature of the measuring range on the average as accurately as possible. This results in difficulties, inter alia, by temperature fluctuations of the detector, the passage of the IR radiation to be measured through the atmosphere, the Weil length and viewing angle-dependent Emis sion level of the earth's surface, different surface types (such as roads, fields, forests, buildings, etc.) with different emissivities in the measuring range, the reflected solar radiation and the physical interpretation of the results.
  • a radiation temperature is usually measured and an attempt is then made to conclude the surface temperature by a surface model.
  • Geostationary satellites such as GOES or Meteosat have very high temporal repetition rates (5 minutes for MSG SEVIRI in rapid scanning mode) and high radiometric precision, but limited spatial resolution with projected pixel sizes of several square kilometers.
  • Spatially high-resolution platforms such as Landsat-7 or 8 (ETM +, TI RS) and Terra (ASTER) offer spatial resolutions of around 60 - 120 m, but they only allow global coverage with a repetition rate of about two weeks.
  • Thermal Sharpening uses high-resolution physical environment models to predict temperatures in a rectangular subpixel network. These can be, for example, maps with exact information on emission coefficients or the local Al bedo. It is assumed that the recorded, coarse Tempe raturpixel can be expressed as a linear combination of its Subpixelkonstituenten. These are divided into classes depending on the parameter set (eg "forest”, “meadow”, “street”, “building”) and correlated, for example, via multilinear regression or sequential Monte Carlo methods.
  • the emission coefficient e determines the relationship between the measured radiation temperature T s and the kinetic surface temperature T 0 of a body via the following relationship:
  • Remote Sensing methods typically measure the product of temperature and emission coefficient. Since both variables can not be determined independently in a band at the same time, the problem is then underdetermined. Accordingly, further information is needed. There are several ways to determine the emission coefficient.
  • NDVI Difference Vegetation Index
  • TSP can lead to relatively precise results with a moderate increase in resolution (about factor 10) and good data situation, with average LST errors (RMSE) of about 2-3 K.
  • RMSE average LST errors
  • the results are all the more accurate, the fewer classes and subcomponents are chosen.
  • the factor of the increase in resolution (downsampling) depending on the application is about 40 - 100 and there are many classes within a coarse pixel (pixel size of SEVIRI minimal 9.6 km 2 , about Central Europe about 15 km 2 ) ,
  • the mean error here is at best about 5 K, but individual outliers may well differ by 20 K and more.
  • spectral segregation attempts to infer irregularly shaped subpixel components.
  • TUM Temperature UnMixing
  • several thermal bands are analyzed in parallel, in order to achieve an increase in resolution of the output data.
  • temporal image sequences of the same region, different angles of view or different resolutions in further, synchronously recorded thermal bands can be used to improve the spatial resolution of a region.
  • the emission coefficient needed is difficult to determine when using multiple bands, and time sequences are difficult to parametrize if the surface parameters are time-variable.
  • the proposed solution consists in the use of small satellites to create spatially high-resolution heat maps of the earth's surface at the same time high radiometric precision.
  • the presented principle is based on the combination of 1) recorded with satellite ther mal Scheme high absolute accuracy, but low spatial Auflö solution with 2) temporally and spatially ko registered, ie temporally synchronous and from the same area, recorded thermal data of a second satellite platform shape with lesser Measuring accuracy but significantly higher spatial resolution.
  • measured values are, for example, the gray values of a photosensor, which can be associated with a physical radiance (and thus radiation temperature), the electrical resistance or an electrical voltage which can be directly assigned to a temperature or other physical measured variables used for non-contact determination of the temperature ,
  • the method described here and the device combine the advantages of both measurements and thus results both in a high tempera ture precision as well as in a high spatial resolution.
  • uncertainties arising from the usual methods for the spatial disaggregation of satellite-based LST can be avoided, at least in large parts.
  • a method for creating a time series of spatially high-resolution thermal maps and a computer program product for carrying out the described method will be described.
  • the method described is designed to determine the thermal map of a region, preferably to determine a spatially highly resolved th thermal map with a high measurement accuracy, such as a high temperature accuracy.
  • the method comprises receiving a first thermal image and receiving a second thermal image, wherein the thermal images are provided by different platforms and therefore have different properties.
  • a thermal image is a graphical representation of a physical unit over a region and can represent various physical units. set, for example, a radiance (W / m 2 sr) or a temperature (K).
  • the first thermal image taken by a receiving device of a first satellite has a high radiometric precision but a low spatial resolution.
  • the first thermal image shows the recorded thermal radiation of a first landscape comprising the region, wherein the first thermal image comprises pixels spatially associated with the region and the first thermal image pixel-wise each a measured first temperature value, radiance, or other radiometry assigns to the measured variable.
  • the second thermal image taken by a cradle of a second satellite or, alternatively, a drone, a balloon or other manned or unmanned aerial vehicle has a lower radiometric precision but a higher spatial resolution, compared to the first thermal image.
  • the second thermal image shows the recorded thermal radiation of a second landscape comprising the area, the second thermal image comprising pixels spatially associated with the area and the second thermal image associating the area pixel by pixel with a measured second temperature value.
  • the "area" for which the heat map is to be determined may well be a small part of the landscape, for example a single building or field, or even a larger part of the landscape shown on the heat pictures, such as a village , a district or an entire city.
  • the "area” can thus extend over various pixels of at least the second thermal image.
  • Different pixels can be assigned to the individual pixels of the two thermal images.
  • the spatial resolution of the second thermal image is higher than the spatial resolution of the first thermal image, so that in each case a plurality of pixels of the second thermal image are spatially associated with one pixel of the first thermal image.
  • the first and second thermal images continued to be temporally synchronous or less than a predetermined time delay Barrier of preferably a few minutes, for example, taken 10 minutes.
  • the temporal tolerance is given by the characteristic period of time with which the temperature or the radiation properties in the area change significantly. This period of time may vary depending on the conditions, such as the weather conditions, as well as the intended use case.
  • the high radiometric precision and thus temperature accuracy or, more generally, measurement accuracy of the first thermal image results beispielswei se from the receiving device of the first satellite, which is preferably a large satellite, such as a weather satellite, and has sophisticated calibration technology, for example, using specially tempered black bodies or sensors. Satellites that can capture images with high accuracy, such as temperature accuracy, are known in the art, however, the necessary Kalib ration technology is very costly and too large for small satellites such as pico, nano, or microsatellite.
  • the first satellite can be a geo stationary satellite, which further allows a high temporal repetition rate of the recorded thermal images.
  • geostationary weather satellites are not able to take high-resolution images due to their distance from Earth.
  • the spatial resolution of the first thermal image is in the range of one to several square kilometers per pixel.
  • the first satellite may be a large satellite in low earth orbit, such as known by the Landsat satellites.
  • a satellite which is also configured via calibration technology for the acquisition of thermal images with high radiometric precision, a significantly better spatial resolution compared to a geo stationary satellite is possible.
  • the spatial resolution for many applications is still in need of improvement.
  • large satellite in a low Earth orbit the same Operaaus cut the earth's surface record only at a distance of several days to several weeks, making a recording at a desired time point or a time series of several shots or only with a very low temporal resolution or by Combination of several such Satellite is possible.
  • large satellites are very costly, it is financially very expensive to use the necessary for a better time accuracy variety of large satellites in a low Earth orbit (with a distance below 2000 km to the earth).
  • the second thermal image can be recorded by a small satellite orbiting closer to the earth, well below 1000 kg or below 500 kg, such as a pico-satellite up to about 1 kg, a nanosatellite up to about 10-15 kg or a microsatellite up to about 100 kg , Due to the proximity to the earth, a higher spatial resolution can be made possible.
  • the thermal images can be recorded by a small satellite with a much higher resolution of edge lengths of the individual pixels below 100 m, preferably below 50 m, between 30 m and 50 m or below 30 m ,
  • post-processing the recorded images for example, by using or overlaying several pictures taken even higher spatial resolution, example, less than 20 m or less than 10 m possible.
  • the second satellite with the recording device of which the second thermal image was taken, is hereby generally in a low earth orbit, in particular in a lower earth orbit than the first satellite, whereby only a lower repetition frequency, of at least several hours, can be achieved by a single satellite or days or, for example, 2 to 4 weeks at a relatively high resolution of, for example, about 100 m, for the recordings of an area is possible, please include.
  • the repetition frequency can be considered as a function of the resolution.
  • the repeat frequency is a function of the field of view of the detector and thus can be directly coupled to the resolution.
  • the method for determining the thermal map further comprises determining a measurement offset, such as a temperature offset, of a first spatially associated pixel group of the second thermal image, wherein the first pixel group comprises a plurality of pixels.
  • a measurement offset such as a temperature offset
  • the absolute measurement accuracy example, temperature accuracy of the second thermal image is low and can, if the measured variable, for example. To a temperature to several degrees, for example, about 2 K, or, more often, about 5 K or even about 10-20 K, deviate from reality.
  • the relative measured values, for example relative temperature values, of the second thermal image have sufficient accuracy, in particular the relative measured values of adjacent pixels or of pixels which are in the vicinity of one another, for example within a few pixels of one another.
  • a measured variable offset for the first pixel group by comparing a mean value of the measured value, for example the average temperature value, for the first pixel group with a value of the same measured variable of the reference pixels of the first thermal image.
  • adjacent pixels both with regard to the first thermal image (ie adjacent pixels of the at least one first pixel) and with respect to the second thermal image (ie adjacent pixels of the first pixel group) to be taken into account in the determination of the measured variable offset.
  • the "coarser" reference pixels of the first thermal image can in this case be expressed as a linear combination or weighted sum of the first pixel group.
  • the pixels of the first pixel group are taken into account in the calculation of the mean value with the weighting of their area fraction. So with also different sized pixels can be considered.
  • the measured values can either be scalar measured quantities for each pixel, or it is possible that several values are recorded simultaneously, so that the individual measured values are then in vector form.
  • the method further comprises the step of determining corrected absolute measurement values of the pixels of the first pixel group assigned to the region based on the second measured measured values of the pixels of the first pixel group and the measured value offset.
  • the determination of the corrected absolute measured values for the pixels of the first pixel group is preferably carried out by adding the second measured measured values and the previously determined measured-value offset.
  • the method also includes a step of determining or generating the high spatial resolution thermal map with high radiometric precision based on the corrected absolute measurements.
  • the measured variable is a temperature, measured, for example. in Kelvin.
  • the temperature offset between the two thermal images is then determined.
  • it may also be a beam size, measured e.g. in watts per square meter and per steroid, to provide electrical resistance e.g. measured in ohms or measured by a voltage e.g. in volts.
  • the radiation temperature of the land surface is determined.
  • an accurate determination of the surface temperature of the surface given by the given heat map radiation temperature below With the aid of an emissivity of the respective surface, depending on the type of the respective surface.
  • first specific intensities or beam densities are measured by infrared sensors, which are integrated to compare the GE measured radiances of the first and second thermal image over the jewei as possible congruent surfaces. From the measured values, a radiation temperature can then be determined which can be averaged for the respective surfaces.
  • a pixel is illuminated, for example, with a certain amount of energy in the IR and thus has a certain brightness.
  • Pi xelantwort eg measured in the laboratory before the start
  • the pixel brightness on physical units, for example by means of a compensation function or a conversion table.
  • this is the spectral radiance (W / (m 2 sr pm)).
  • the (radiation) temperature then results directly from Planck's law of radiation.
  • the surface temperature can then be determined from this and an emission coefficient.
  • the determination of the surface temperature is possible with significantly reduced effort, compared with those known in the prior art method.
  • the first pixel group of the second thermal image is spatially associated with exactly one pixel of the first thermal image.
  • the measured value offset of the first pixel group of the second thermal image is preferably determined by a possibly weighted total relative measured values of the first pixel group of the second thermal image compared to the first measured measured value of the pixel of the first thermal image spatially assigned to the first pixel group of the second thermal image ,
  • This calculation is made on the assumption that the value of the first pixel of the first thermal image measured with high measurement accuracy an average of the measured values of the pixels of the first pixel group of the second thermal image is known. With this, the measured value offset DG can be eliminated. This is given by the difference between the mean values of, on the one hand, measured value of the first pixel of the first thermal image and, on the other hand, the measured measured values of the pixels of the first pixel group of the second thermal image.
  • T A (. X, y,) is the recorded measured size of the first thermal image of the pixel (x, y) and T B (i, j) of the measurement of the second thermal image in all pixels (i, j) located within the first pixel group where w (j, j) represents the respective area proportion of the pixel (i) at the total area spatially associated with the first pixel.
  • w (j, j) 1 if the pixel (i, /) is completely contained in the total area of the first pixel.
  • this linear approach applies, to a good approximation, to a mean temperature range on the earth of around 300 K, as normally found on a single thermal image, with a difference between the maximum and minimum Temperature of a few tens of Kelvin, for example 20 K or 30 K.
  • the method includes optionally reworking the pixels of the first pixel group using land surface models.
  • land surface models can, for example, using emission coefficients, which are associated with the respective surfaces, from corrected absolute temperature values, which, for example, include a radiation pattern. specify temperature, precise surface temperatures are calculated.
  • the present application further comprises a device for determining the thermal map of a region, the device comprising at least one receiving unit and a determining unit.
  • the receiving unit is in this case configured to receive a first thermal image of a first landscape comprising the area, wherein the first thermal image was taken by a recording device of a first satellite, wherein the first thermal image comprises pixels spatially associated with the area and the thermal image Area assigns a first measured value pixel by pixel.
  • the at least one receiving unit is further configured to receive a second thermal image of a second landscape comprising the region, the second thermal image being captured by a receiving device of a second satellite, the second thermal image comprising pixels spatially associated with the region second heat mesent the area pixelwise a second recorded reading points.
  • a ra diometric precision of the first thermal image is higher than a radiometric precision of the second thermal image
  • a spatial resolution of the two th thermal image is higher than a spatial resolution of the first heat image
  • the determining unit of the device for determining the thermal map of the area is configured to determine a measured value offset of a first, spatially assigned, pixel group of the second thermal image, wherein the first pixel group comprises a multiplicity of pixels a sum or linear combination of relative measured values of the pixels of the first pixel group with respect to the first recorded measured value of the at least one first pixel of the first thermal image, wherein the at least one first pixel of the first thermal image of the first pixel group of the second heat mesentes is at least partially spatially associated.
  • the determination of a temperature offset can be carried out, for example, using formulas (1) and (2).
  • the calculation of the radiation temperature can be made either before or after determining the offsets. It is thus possible, as described in formulas (1) and (2), that the sensor data are converted into temperature values and then a temperature offset is determined by comparing the temperature values of the first and second thermal images. Alternatively, however, it is also possible for a measured value offset to be based on another measured or derived variable and the conversion into temperature values to take place only afterwards.
  • the determination unit is further configured to determine corrected absolute measurements of the pixels of the first pixel group based on the second acquired measurements of the pixels of the first pixel group and the measurement offset.
  • both the first and second thermal images are infrared images respectively taken by infrared sensors of the first and second satellites, respectively.
  • infrared waves in the range of 8 - 14 pm, often even only 10.8 and 12 pm are used.
  • the short-wave infrared range is more interesting, for example between 3 and 5 pm.
  • Most weather satellites therefore have multiple bands that cover the area Cover 0.5 - 13 mih. The recorded measured values can thus be available in vector form.
  • the spatial resolution of the first thermal image is generally clear, at least one or even two or three orders of magnitude coarser than the spatial resolution of the second thermal image.
  • the pixels of the first thermal image may have an edge length of at least about 1 km so that the area covered by a pixel is about 1 km 2 or even more than 1 km 2 or more than 3 km 2 at the first thermal image.
  • the edge length of a pixel of the second heat image is preferably less than 100 m, or even less than 70 m or less than 50 m.
  • the edge length of a pixel of the second thermal image is in the range of only 10 m, so that the area imaged by a pixel of the second thermal image is only a few 100 m 2 .
  • the method described here is also applicable if the spatial resolution of the first thermal image is less than an order of magnitude, for example only by a factor of 2 or 3, greater than the spatial resolution of the second thermal image.
  • the method is applicable to any pair of images in which the spatial resolution of the second thermal image is higher, or less coarse, than the spatial resolution of the first thermal image.
  • the radiometric precision of the first thermal image is higher than the radiometric precision of the second thermal image.
  • This feature of the thermal images is preferably achieved in that the Radiovorrich tion of the first satellite via appropriate calibration technique, for example, by the use of black bodies or specially cooled th or temperature-controlled sensors has a high radiomet-metallic accuracy, preferably less than 2 K or, particularly preferably even under 1 K, ideally per pixel or even on average of the recorded thermal images guaranteed.
  • the recording devices of the satellites can also provide data which, preferably per recorded pixel, indicates an accuracy of measurement estimated by sensors of the recording device.
  • the radiometric precision of the second thermal image is lower, for example by the fact that the second thermal image has been recorded by the recording device of a low-cost small-sized satellite or another manned or unmanned aerial object which does not have a correspondingly precise calibration technique.
  • the present application comprises a method for determining the change of a measured variable within a region over a period of time, such as within an hour, a day or even within a week, a month or a year.
  • determining the temporal change of the measured variable of a territory as precisely as possible for example, urban heat islands can be detected and their causes analyzed.
  • measures-time series provide knowledge for urban planning, for example the effect of green spaces, different roof types or areas of water on the urban climate.
  • the method described for determining the change in the measured variable within a region comprises first determining at least two, preferably a plurality of more than 10 or more than 100, as precise as possible thermal map of the area at different times, the two heat maps according to the above Procedures were determined.
  • the first thermal map was determined using first and second received thermal images of the area, wherein the first and second thermal images were taken synchronously or approximately synchronously at a first time and, of the first and second thermal images, the first thermal image was higher radiometric Precision and the second thermal image has a higher spatial resolution.
  • the second thermal map was determined using third and fourth received thermal images of the area, the third and fourth thermal images being taken in synchronism or approximately synchronously at a second time and, of the third and fourth thermal images, the third thermal image being higher radiometric Precision and the fourth thermal image has a higher spatial resolution. From the first and second heat map of the area, a time series of the measured variable within the area can then be created.
  • the first and second times are within a bestimm th time period, for example within a day, or within a few hours or even within less than one or half an hour to ensure a high temporal resolution of the time series of the measurand within the area, for example to the Change in the measured quantity within one day.
  • the first and the third thermal image are each taken by a large satellite platform with appropriate calibration technology to ensure high radiometric precision, such as a geostationä ren weather satellites.
  • a first and third thermal image which are recorded by geostationary satellites
  • both the first and the third thermal image are taken up by the recording device of the same geostationary satellite.
  • the first and third thermal images may also originate from different geostationary satellites with similar coverage.
  • the first and third thermal image are recorded by the recording devices of different large but not geosta tionary satellites in a low Erdorbit, the recording devices should be equipped with calibration technology for high measurement accuracy. If the first and third thermal images originate from different non-geostationary satellite platforms, then this is only possible if these two satellite platforms were within the predetermined time span over the area. Since non-geostationary large satellites, such as Landsats, have a temporal repetition rate of several ta with respect to a given area.
  • How many image pairs are necessary to create a time series, as well as the tolerable time intervals of the image pairs is generally strongly dependent on the application. For example, for some applications where temperature evolution is to be monitored over the year, one or two images per day may suffice, while for other applications where, for example, heat development during the day is to be investigated, a temporal resolution of only a few minutes is desirable is worth, for example, under 10 or under 30 minutes. To create a longer time series consisting of more than 10 or more than 100 image pairs, it is helpful if the first heat image with the higher radiometric precision was always or at least mostly taken by the same geostationary satellite of each synchronously recorded image pair.
  • the second thermal image and the fourth thermal image are respectively recorded by recording devices of small satellites or other manned or unemann th flight objects that can provide a high spatial resolution of the recorded thermal images by their proximity to the earth.
  • small satellites just described orbit the Earth generally in low Earth orbit.
  • the thermal images of several different small satellites such as pico, nano, or microsatellites can be used, so that the second thermal image was taken by the receiving device of a first Kleinsatelli th while the fourth thermal image of the recording device a second small satellite was added. Since small satellites, such as CubeSats, are less expensive to produce compared to geostationary large satellites, it is possible to generate a time series with high temporal resolution of the measured quantity within a region.
  • the present description further includes a computer program product for calculating a thermal image, wherein the computer program product includes instructions that, when executed on a computer, perform the method described above.
  • the instructions may optionally be instructions for determining a spatially highly resolved and simultaneously accurate thermal image of an area, or the instructions may be instructions for determining a time series of the measured variable within the area. In any case, the instructions are based on thermal images of different satellite platforms received by a corresponding receiving unit of the computer.
  • the computer can be a stationary PC or a mobile computer.
  • the computer can also be part of a distributed system or a
  • cloud-based service suitable for executing program instructions.
  • the temperature was chosen as the parameter because of its easy interpretability.
  • the measurements may include other radiometric data such as radiances or other data acquired by the sensors of the satellites used or derived from the acquired measurements. Show it
  • Fig. 1 is a schematic representation of a device for determining a thermal map of an area
  • Figure 2 is a schematic representation of a sequence of the method for Be mood of a heat map of an area.
  • Fig. 3A Schematic representation of a recorded with a first satellite A thermal image of the earth's surface;
  • FIG. 3B Schematic representation of a thermal image of the earth's surface recorded synchronously with FIG. 3B with a second satellite B;
  • FIG. 4A Schematic representation of a single pixel of the recorded by Satel lit A thermal image according to Fig. 3A;
  • FIG. 4B Schematic representation of the measurement of satellite B of the same region as shown in Fig. 4A;
  • FIG. 4C Schematic representation of the particular heat map based on FIG. 4B and a specific temperature offset.
  • FIG. 1 shows an apparatus for determining a heat map of a Ge territory.
  • the device 101 comprises a receiving unit 102 which can receive signals from various satellites 104 and 105 which revolve around the earth 106.
  • the reception of the signals of the satellites 104, 105 is usually indirect, that is not directly from the satellite, but via an intermediate device 107, which receive the signals of the satellite or satellites 104, 105 and then forward or make available for download.
  • the receiving unit receives thermal imagery of the earth's surface taken by recording devices of the satellites 104 and 105.
  • the receiving device 102 first configures a first thermal image of a first satellite 104 and a second thermal image of a first second satellite 105 to receive.
  • the first satellite 104 is a large satellite with high temperature accuracy, such as a geostationary weather satellite or a large earth satellite orbiting in a low earth orbit, such as a Landsat.
  • the first satellite 104 via built-in calibration technology.
  • this first satellite 104 has only a very large spatial resolution capability because of its great distance from the earth, so that the pixels recorded have a size of several square kilometers.
  • a large satellite is used as the first satellite 104 in a low Earth orbit, such as a Landsat
  • the spatial resolution is already better than in the previously described geostationary satellites, but there is still room for improvement with respect to space higher resolution heat of a second satellite platform possible.
  • Landsat 8 currently has a resolution of 100 m.
  • this resolution can be improved to well below 60 m. With post-processing of the data, even lower resolutions, for example below 30 m, are possible.
  • the second satellite 105 is a small satellite or CubeSat, which has a higher spatial resolution compared to the first satellite, but only one compared to the first satellite, reduced measurement accuracy.
  • the receiving unit 102 of the described device receives temporally and synchronously recorded first and second thermal images of spatially coregistered landscapes of the two satellites 104 and 105, that is, the recorded subregions of the earth's surface at least partially overlap.
  • the device 101 further comprises a determination unit 103.
  • the determination unit 103 is configured to spatially allocate a pixel of the first thermal image of the first satellite to a group of pixels of the second thermal image of the second satellite and to calculate a measured quantity offset or temperature offset of the group of pixels of the second thermal image. This calculation is based on the assumption that the temperature deviation or measured variable deviation of the pixels of the second thermal image is at least locally constant, ie that the deviation of a pixel is not or only very slightly different from the deviation of adjacent pixels. Furthermore, it is assumed that the (measured with high precision) measured variable or temperature of the pixel of the first thermal image can be represented as a (weighted) sum or linear combination of the assigned pixels of the second thermal image.
  • the measured variable offset for the group of pixels of the second thermal image can be determined from the relative measured variable differences of the pixels of the group of the second thermal image and the recorded measured variable of the assigned pixel of the first thermal image.
  • the determination unit 103 is further configured to create a precise heat map of the area from the measured variable offset and the recorded measured variables of the second heat map.
  • FIG. 2 schematically shows a method for determining a precise heat map of a region, wherein the method can be implemented, for example, by the arrangement described above or by a computer program product which comprises corresponding instructions for carrying out the method.
  • the method described here for determining the precise heat map of a region comprises the following steps:
  • S201 receiving a first thermal image of a first region comprising transmitting a landscape captured by a first satellite receiver, the first thermal image comprising pixels spatially associated with the region and the thermal image respectively pixel-wise capturing the region one first Messwertzund.
  • S202 receiving a second thermal image of a second area encompassing landscape captured by a capture device of a second satellite, the second thermal image comprising pixels spatially associated with the region and the thermal image one pixel at a time assigns the second recorded reading.
  • steps S201 and S202 may be performed in any order or at the same time.
  • the received first and second thermal image must be used to carry out the Method additionally satisfy the following requirements: between the recording of the first satellite image and the recording of the second satellite image, there must be only a time offset below a fixed threshold, preferably less than 10 minutes or even less than 5 minutes, since the correlation of the thermal readings given in the two thermal images, with a greater time interval between the shots of the two images is not possible or only with difficulty.
  • the time limit can be selected depending on the prevailing conditions. Under constant weather conditions, the longer distances between the two shots may be tolerated under circumstances as changing weather conditions.
  • a radiometric precision of the first thermal image i. the accuracy of the recorded measured variable
  • a radiometric precision of the second thermal image higher than a radiometric precision of the second thermal image
  • a spatial resolution of the second thermal image is higher than a spatial resolution of the first thermal image
  • S203 determining a measurement offset of a first spatially associated pixel group of the second thermal image, wherein the first pixel group comprises a plurality of pixels by a weighted sum of relative measurements of the pixels of the first pixel group of the second thermal image versus the first acquired measurement the at least one pixel of the first thermal image, which is at least partially spatially associated with the first pixel group of the second thermal image.
  • the mean value of the measured values of the first pixel group is determined in order then to determine the offset, for example as a difference, to the assigned measured value or values of the first region of the first thermal image.
  • S204 determining corrected absolute measurements of the pixels of the first pixel group ordered to the region based on the second measured measured values of the pixels of the first pixel group and of the measured value offset.
  • S205 Creation of the precise heat map of the area based on the corrected absolute measurements.
  • the above-described method for determining spatially high-resolution thermal maps with high measurement accuracy will be further described with reference to FIGS. 3A, 3B, 4A, 4B and 4C.
  • the method presented here combines the radiometric accuracy of large satellite platforms with the spatial resolution of a second satellite platform, such as a small satellite or CubeSat.
  • the method is based on the assumption that the specific intensity (radiance) of a pixel results from the linear combination of its subpixel components (linear mixing model).
  • a large satellite platform ideally one with a very high radiometric precision (Sentinel-3) and simultaneously high temporal resolution (Meteosat Second and Third Generation) is used.
  • satellite A designates the platform with high radiometric precision
  • satellite B (FIG. 3B) the platform with high spatial resolution.
  • the drawn grid shows which areas of the satellite image B are to be assigned to the satellite of satellite A.
  • the data from satellite B has an unknown temperature offset DG in the measurement of the radiation temperature, which does not allow an exact absolute temperature determination for satellite B alone. Relative temperature differences, for example between adjacent pixels, are correctly measured by satellite B (ensured by a previous calibration of the instrument).
  • ⁇ O ⁇ y is the measured temperature of satellite A in the cell (x, y) and T B (i, j) of the temperature measurement of satellite B in all pixels (i, /) inside this cell (x, y ) of satellite A, each with an areal fraction of w (i, j).
  • the measurement method is illustrated schematically for a single cell in FIGS. 4A, 4B and 4C: the mean value of all pixels of satellite B (FIG. 4B) shown does not yet correspond to the value of the corresponding pixel of satellite A (FIG. 4A).
  • the entire cell of the image is calibrated by satellite B and now has the same mean value as recorded by satellite A ( Figure 4C).
  • the presented method combines the advantages of both measurements, high radiometric precision on the one hand and high spatial resolution on the other without having to access additional data sources. This enables resolutions of the order of a few meters, which is of great importance for applications in the field of UHI and satellite-based agriculture.
  • Copernicus offers Sentinel-3 temperature data with ⁇ 0.2 K accuracy at a resolution of 1 km 2 . These data are freely accessible through the Copernicus program. Meteosat-9 offers about 9 - 15 km 2 resolution with a temperature accuracy of about 2 K and a temporal resolution of a few minutes for large area coverage.
  • the concept is also suitable for measurements with high temporal repetition rates when using multiple (small) satellites in a suitable constellation.
  • a time series of the measured variable can be created within a region which enables an analysis and / or visualization of the change in the size of an area over a certain period of time, for example over the course of a day.
  • previously determined heat maps of a region are combined to form a time series, the recording times in each case being two consecutive heat maps of the time series each within a defined time span.
  • a recording time of a heat map in this case the time point of recording the heat map associated with this first and two th thermal images are considered or, with a small temporal Ver rate of the two synchronous recordings of the thermal images through the two satellites used, a mean time or a pair of both Recording times of the thermal images.
  • the fixed period of time may vary depending on the application, but in many cases it is within a few hours, less than an hour, or even in the range of about 10 minutes.
  • the inclusion of several consecutive images each within the specified period of time can therefore be done in many cases only by a geostationä ren satellite or by a plurality of satellites in a low Earth orbit.
  • a complex and complex absolute calibration of the detector aboard satellite B is eliminated, without thereby deteriorating the accuracy of the resulting surface temperature of the land.
  • the solution does not require tracing or recognition of objects in the image and no ground measurements.

Landscapes

  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Engineering & Computer Science (AREA)
  • Theoretical Computer Science (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • Spectroscopy & Molecular Physics (AREA)
  • Radiation Pyrometers (AREA)
  • Image Processing (AREA)
  • Image Analysis (AREA)

Abstract

The invention relates to a method and a device for producing a thermal map of an area, wherein the thermal map is generated by a combination of two thermal images of different properties, and both thermal images comprise pixels associated with the area and have been recorded by satellites. The two thermal images are recorded at different times using different recording devices. Furthermore, a radiometric precision of the first thermal image is higher than that of the second thermal image, and a spatial resolution of the second thermal image is higher than that of the first thermal image. The two thermal images are used to determine a measurement value offset of a first pixel group belonging to the second thermal image and spatially associated with the area, and then corrected absolute measurement values of the pixels belonging to the second thermal image and spatially associated with the area are determined. A precise thermal map of the area is then created on this basis. The invention also relates to a method for determining a time series of thermal maps and a computer programme product for carrying out the method described.

Description

Korrelation thermischer Satellitenbilddaten zur Generierung räumlich hoch aufgelöster Wärmekarten  Correlation of thermal satellite image data to generate spatially high resolution heat maps
Die vorliegende Erfindung bezieht sich auf die Bestimmung räumlich hochauf- gelöster Wärmekarten unter Verwendung thermischer Satellitenbilddaten. The present invention relates to the determination of spatially high resolution thermal maps using satellite image thermal data.
Eine möglichst genau bestimmte Landoberflächentemperatur (LST, Land Surface Temperature) ist ein wichtiger Bestandteil vieler unterschiedlicher Anwendungen, bspw. bei der Detektion von Waldbränden, der Vermessung von lokalen Maxima in der Stadttemperaturverteilung (UHI, Urban Heat Is land), bei der Bestimmung von Vegetationsindizes in der Landwirtschaft oder bei der Modellierung des lokalen und globalen Klimas. Die großflächige und genaue Vermessung der Landoberflächentemperatur ist dabei erst mit der Nutzung von Satelliten möglich geworden. An as accurate as possible determined land surface temperature (LST, Land Surface Temperature) is an important part of many different applications, for example in the detection of forest fires, the measurement of local maxima in the urban temperature distribution (UHI, Urban Heat Is land), in the determination of vegetation indices in agriculture or modeling the local and global climate. The large-area and accurate measurement of the surface temperature of the land has become possible only with the use of satellites.
Die Temperatur wird dabei beispielsweise nicht direkt gemessen, sondern von der Strahldichte am Detektor an Bord des Satelliten abgeleitet. Die Strahldich- te Rx ist dabei die von einer Fläche in einer gegebenen Zeit in einem gegebe nen Spektralbereich in eine gegebene Richtung ausgesendete Strahlung (Energie) und wird in Watt pro Quadratmeter Steradiant angegeben. The temperature is not measured directly, for example, but derived from the radiance at the detector aboard the satellite. The radiant Te Rx is the radiation (energy) emitted by a surface in a given time in a given spectral range in a given direction and is given in watts per square meter steradian.
Der Detektor selbst nimmt ein Grauwertebild auf, bei welchem die Helligkeit eines einzelnen Pixels einer gemessenen Strahldichte zugeordnet werden kann. The detector itself records a gray level image in which the brightness of a single pixel can be assigned to a measured radiance.
Die Zuordnung von Grauwerten DN zu Strahldichte R geschieht beispielsweise durch eine lineare Gleichung der Form The assignment of gray values DN to radiance R occurs, for example, by a linear equation of the form
R = a DN + b  R = a DN + b
, wobei die Konstanten a und b durch eine Kalibrierung des Detektors ermit telt werden.  , wherein the constants a and b are determined by a calibration of the detector ermit.
Über das Planck'sche Strahlungsgesetz kann bei bekannter Wellenlänge l di rekt auf die Temperatur T geschlossen werden über die folgende Beziehung: Via the Planck radiation law, at a known wavelength l di, it is possible to directly infer the temperature T via the following relationship:
k = 2 hc2 k = 2 hc 2
k2 = hc/aB k 2 = hc / a B
Dabei ist h das Planck'sche Wirkungsquantum, c die Lichtgeschwindigkeit in Vakuum und sB die Boltzmann Konstante. Here h is Planck's constant, c the speed of light in vacuum and s B the Boltzmann constant.
Die gemessene Ausgangsgröße, aus der die Temperatur abgeleitet werden kann, kann dabei vom Typ des Detektors abhängen. Bei sogenannten Mikro bolometern wird beispielsweise entweder ein temperaturabhängiger elektri scher Widerstand gemessen oder die Temperaturänderung des Absorbers direkt durch ein Thermometer. Im ersten Fall wird auf die Temperatur durch eine vorher ermittelte funktionale Abhängigkeit zwischen Widerstand und Temperatur geschlossen.  The measured output from which the temperature can be derived may depend on the type of detector. In so-called micro bolometers, for example, either a temperature-dependent electrical shear resistance is measured or the temperature change of the absorber directly through a thermometer. In the first case, the temperature is determined by a previously determined functional dependence between resistance and temperature.
Bei Quecksilber-Cadmium-Tellurid (englisch MCT) Detektoren handelt es sich um Halbleiterelemente, bei denen die eingefangene Energiemenge pro Pixel in guter Näherung linear mit dessen Helligkeit korreliert. Bei bekanntem Sicht feld des Pixels und Belichtungszeit kann somit auf die Strahldichte geschlossen werden, die wie oben beschrieben mit der Temperatur zusammenhängt. Mercury Cadmium Telluride (English MCT) detectors are semiconductor devices in which the amount of energy trapped per pixel correlates linearly with its brightness in a good approximation. With a known field of view of the pixel and exposure time can thus be concluded on the radiance which is related to temperature as described above.
Ein weiterer Detektortyp ist der Quantentopf-Infrarot-Photodetektor (engl. QWIP), bei welchem ebenfalls Ladungsträger bei Infra rot(IR)-Lichteinfall frei gesetzt werden, die dann einen messbaren Strom erzeugen. Another detector type is the quantum well infrared photodetector (English QWIP), in which also charge carriers are released at Infra red (IR) light incidence, which then generate a measurable current.
Es gibt noch weitere Detektortypen, die allerdings üblicherweise gemein ha ben, dass die Temperatur als abgeleitete Größe bestimmt wird durch eine Veränderung leicht messbarer physikalischer Parameter (Widerstand, Span nung, etc.). There are other types of detectors, but they usually have in common that the temperature is determined as a derived quantity by changing easily measurable physical parameters (resistance, voltage, etc.).
Eine generelle Herausforderung bei der Vermessung von LST durch Infrarot Kameras aus dem Weltraum ist die Erzielung einer hohen absoluten radiomet rischen Genauigkeit, also Genauigkeit der gemessenen Strahlungstemperatur der Erdoberfläche. Die gemessene Temperatur sollte hierbei die tatsächliche Strahlungstemperatur des Messbereichs im Mittel möglichst genau wiederge ben. Hierbei ergeben sich Schwierigkeiten unter anderem durch Temperatur schwankungen des Detektors, den Durchgang der zu messenden IR Strahlung durch die Atmosphäre, den weilenlängen- sowie blickwinkelabhängigen Emis sionsgrad der Erdoberfläche, unterschiedliche Oberflächentypen (wie Straßen, Felder, Wälder, Gebäude etc.) mit unterschiedlichen Emissionsgraden im Messbereich, die reflektierte Sonnenstrahlung und die physikalische Interpre tation der Ergebnisse. Somit wird üblicherweise eine Strahlungstemperatur gemessen und es wird dann versucht, durch ein Oberflächenmodell auf die Oberflächentemperatur zu schließen. A general challenge in the measurement of LST by infrared cameras from space is the achievement of a high absolute radiometric accuracy, ie accuracy of the measured radiation temperature of the earth's surface. The measured temperature should reflect the actual radiation temperature of the measuring range on the average as accurately as possible. This results in difficulties, inter alia, by temperature fluctuations of the detector, the passage of the IR radiation to be measured through the atmosphere, the Weil length and viewing angle-dependent Emis sion level of the earth's surface, different surface types (such as roads, fields, forests, buildings, etc.) with different emissivities in the measuring range, the reflected solar radiation and the physical interpretation of the results. Thus, a radiation temperature is usually measured and an attempt is then made to conclude the surface temperature by a surface model.
Viele der zuvor genannten Anwendungen erfordern gleichzeitig sowohl eine hohe zeitliche als auch hohe räumliche Auflösung, um beispielsweise den Ta geszyklus von UHIs oder der Evapotranspiration aufzuzeichnen. Diese Anfor derung kann von derzeit existierenden sowie für die nächsten Jahre geplanten Satellitenplattformen nicht erfüllt werden. Many of the aforementioned applications simultaneously require both high temporal and high spatial resolution to record, for example, the day cycle of UHIs or evapotranspiration. This requirement can not be fulfilled by currently existing satellite platforms planned for the next few years.
Geostationäre Satelliten wie GOES oder Meteosat besitzen zwar sehr hohe zeitliche Wiederholraten (5 Minuten für MSG SEVIRI im Rapid Scanning Mode) und eine hohe radiometrische Präzision, aber begrenzte räumliche Auflösung mit projizierten Pixelgrößen von mehreren Quadratkilometern. Räumlich hochauflösende Plattformen wie Landsat-7 oder 8 (ETM+, TI RS) und Terra (ASTER) bieten zwar räumliche Auflösungen von etwa 60 - 120 m, er möglichen eine globale Abdeckung allerdings nur mit einer Wiederholrate von etwa zwei Wochen. Geostationary satellites such as GOES or Meteosat have very high temporal repetition rates (5 minutes for MSG SEVIRI in rapid scanning mode) and high radiometric precision, but limited spatial resolution with projected pixel sizes of several square kilometers. Spatially high-resolution platforms such as Landsat-7 or 8 (ETM +, TI RS) and Terra (ASTER) offer spatial resolutions of around 60 - 120 m, but they only allow global coverage with a repetition rate of about two weeks.
Generell sind hochwertige Kalibrierungsmethoden zur präzisen Messung der Oberflächentemperatur an Bord des Satelliten sehr aufwendig und bisher nur innerhalb großer Satelliten zu realisieren. Dabei haben diese Plattformen den Nachteil, dass bei hoher räumlicher Auflösung (bspw. Landsat 7 und 8) in niedrigen Orbits sehr lange Zeit vergeht, bis dasselbe Gebiet wieder beobach tet werden kann und eine Verwendung einer Konstellation aus einer Vielzahl solcher Systeme einen extremen finanziellen Aufwand bedeutete. Weiter ent fernte Plattformen (Meteosat, GEOS) leiden wie oben beschrieben unter der Problematik schlechter räumlicher Auflösung. In general, high-quality calibration methods for precise measurement of the surface temperature on board the satellite are very expensive and so far only to be realized within large satellites. These platforms have the disadvantage that at high spatial resolution (eg Landsat 7 and 8) in low orbits very long time passes until the same area can be observed again be switched and use of a constellation of a variety of such systems an extreme financial cost meant. Remote platforms (Meteosat, GEOS) suffer from the problem of poor spatial resolution as described above.
Es existieren daher mehrere Ansätze radiometrisch präzise Thermaldaten mit hoher räumlicher und optional auch hoher zeitlicher Auflösung zu generieren. Die Ansätze haben alle gemein, vorhandene präzise thermische Satellitenda ten großer Plattformen wie Meteosat und Landsat, die über aufwendige Kalib rierungsmethoden an Bord verfügen, mit räumliche höher aufgelösten Hilfs daten zu kombinieren. Ein solches Downsampling von Thermaldaten kann genutzt werden, räumlich höher aufgelöste Thermalbilder zu erhalten und diese beispielsweise im Rahmen einer außerdem zeitlich hochaufgelösten Zeitreihe zu verwenden.  There are therefore several approaches to generate radiometrically precise thermal data with high spatial and optionally also high temporal resolution. The approaches all have in common to combine existing precise thermal satellite data of large platforms such as Meteosat and Landsat, which have elaborate calibration methods on board, with spatial higher-resolution auxiliary data. Such a downsampling of thermal data can be used to obtain spatially higher resolution thermal images and to use them, for example, in the context of a time-resolved high-resolution time series.
Es gibt zurzeit zwei Verfahrenstypen, diese räumliche Auflösungserhöhung zu erreichen. Beim thermalen Schärfen (TSP, Thermal SharPening) werden hoch aufgelöste physikalische Umgebungsmodelle genutzt, um auf Temperaturen in einem rechteckigen Subpixel-Netz zu schließen. Dies können beispielsweise Karten mit genauen Angaben zu Emissionskoeffizienten oder der lokalen Al bedo sein. Dabei wird angenommen, dass der aufgenommene, grobe Tempe raturpixel als Linearkombination seiner Subpixelkonstituenten ausgedrückt werden kann. Diese werden in Klassen je nach Parametersatz (bspw.„Wald", „Wiese", Straße",„Gebäude") eingeteilt und beispielsweise über multilineare Regression oder sequenzielle Monte-Carlo-Methoden korreliert. Der Emissionskoeffizient e bestimmt dabei den Zusammenhang zwischen der gemessenen Strahlungstemperatur Ts und der kinetischen Oberflächentem peratur T0 eines Körpers über den folgenden Zusammenhang: There are currently two types of procedures to achieve this spatial resolution increase. Thermal Sharpening (TSP) uses high-resolution physical environment models to predict temperatures in a rectangular subpixel network. These can be, for example, maps with exact information on emission coefficients or the local Al bedo. It is assumed that the recorded, coarse Tempe raturpixel can be expressed as a linear combination of its Subpixelkonstituenten. These are divided into classes depending on the parameter set (eg "forest", "meadow", "street", "building") and correlated, for example, via multilinear regression or sequential Monte Carlo methods. The emission coefficient e determines the relationship between the measured radiation temperature T s and the kinetic surface temperature T 0 of a body via the following relationship:
Ts eT0 Ts e T 0
Es wird üblicherweise bei Fernerkundungsmethoden das Produkt aus Tempe ratur und Emissionskoeffizient gemessen. Da sich in einem Band beide Größen nicht gleichzeitig unabhängig voneinander bestimmen lassen, ist das Problem dann unterbestimmt. Dementsprechend werden weitere Informationen benö tigt. Es gibt verschiedene Möglichkeiten, den Emissionskoeffizienten zu be stimmen.  Remote Sensing methods typically measure the product of temperature and emission coefficient. Since both variables can not be determined independently in a band at the same time, the problem is then underdetermined. Accordingly, further information is needed. There are several ways to determine the emission coefficient.
Zum einen über eine Karte des beobachteten Gebiets mit detaillierten Infor mationen zum Landschaftstyp (CORINE ist eine solche Karte für Europa, die etwa alle 2 Jahre neu erstellt wird). Ist der Landschaftstyp bekannt, können aus sogenannten spektralen Bibliotheken (Gillespie et al. 1998) die dazugehö rigen Emissionskoeffizienten (oder eng damit zusammenhängend die Reflexi onskoeffizienten) ausgelesen und zugeordnet werden. On the one hand, a map of the observed area with detailed information on the type of landscape (CORINE is one such map for Europe, which is recreated approximately every two years). If the type of landscape is known, so-called spectral libraries (Gillespie et al., 1998) can be used to read and allocate the associated emission coefficients (or closely related reflection coefficients).
Alternativ kann bei Verwendung mehrerer spektraler Bänder (mindestens 3) eine Separation von Emissionskoeffizienten und Temperatur erfolgen. Für mit Vegetation bedeckte Gebiete wird auch häufig über den Normalized  Alternatively, when using multiple spectral bands (at least 3), a separation of emission coefficients and temperature can take place. For vegetation-covered areas is also often above the normalized
Difference Vegetation Index (NDVI) auf den Emissionskoeffizienten geschlos sen (Valor & Caselles 1996). Difference Vegetation Index (NDVI) on the emission coefficients (Valor & Caselles 1996).
Die Anwendung von TSP kann bei moderater Auflösungserhöhung (etwa Fak tor 10) und guter Datenlage zu relativ präzisen Ergebnissen führen mit mittle ren LST Fehlern (RMSE, Root Mean Square Error) von etwa 2 - 3 K. Die Ergeb nisse sind dabei umso genauer, desto weniger Klassen und Subkomponenten gewählt werden. Bei realer Anwendung auf Meteosat Daten liegt der Faktor der Auflösungserhöhung (downsampling) edoch je nach Anwendungsfall bei etwa 40 - 100 und es existieren sehr viele Klassen innerhalb eines groben Pi xels (Pixelgröße von SEVIRI minimal 9.6 km2, über Zentraleuropa etwa 15 km2). Der mittlere Fehler liegt hier im besten Fall bei etwa 5 K, wobei einzelne Ausreißer jedoch durchaus um 20 K und mehr abweichen können. The application of TSP can lead to relatively precise results with a moderate increase in resolution (about factor 10) and good data situation, with average LST errors (RMSE) of about 2-3 K. The results are all the more accurate, the fewer classes and subcomponents are chosen. With actual application to Meteosat data, the factor of the increase in resolution (downsampling) depending on the application is about 40 - 100 and there are many classes within a coarse pixel (pixel size of SEVIRI minimal 9.6 km 2 , about Central Europe about 15 km 2 ) , The mean error here is at best about 5 K, but individual outliers may well differ by 20 K and more.
Alternativ wird versucht durch spektrale Entmischung (TUM, Temperature UnMixing) auf irregulär geformte Subpixelkomponenten zu schließen. Bei die- sem Verfahren werden bspw. mehrere thermische Bänder parallel analysiert, um eine Auflösungserhöhung der Ausgangsdaten zu erreichen. Alternativ können auch zeitliche Bildfolgen der gleichen Region, verschiedene Blickwin kel oder unterschiedliche Auflösungen in weiteren, synchron aufgenommenen thermischen Bändern verwendet werden, um die räumliche Auflösung einer Region zu verbessern. Es gibt allerdings wenige Satellitensensoren, die Regio nen aus mehreren Blickwinkeln aufnehmen, der benötigte Emissionskoeffi zient ist schwierig zu bestimmen bei der Verwendung von mehreren Bändern und zeitliche Abfolgen sind schwer zu parametrisieren, wenn die Oberflä chenparameter zeitlich variabel sind. Alternatively, spectral segregation (TUM, Temperature UnMixing) attempts to infer irregularly shaped subpixel components. In the case of sem process, for example, several thermal bands are analyzed in parallel, in order to achieve an increase in resolution of the output data. Alternatively, temporal image sequences of the same region, different angles of view or different resolutions in further, synchronously recorded thermal bands can be used to improve the spatial resolution of a region. However, there are few satellite sensors that record regions from multiple angles, the emission coefficient needed is difficult to determine when using multiple bands, and time sequences are difficult to parametrize if the surface parameters are time-variable.
Preisgünstigere Kleinsatelliten mit hoher räumlicher Auflösung sind hingegen nicht in der Lage, Bilder mit hoher radiometrischer Präzision aufzunehmen. Beim Einsatz kleinerer Satellitenplattformen, bspw. Piko- oder Nanosatelliten, basieren Ansätze zur Erstellung räumlich hochaufgelöster Thermaldaten des halb zumeist auf der Kalibrierung von räumlich hochaufgelösten IR-Bildern zusammen mit Referenzobjekten bekannter Temperatur. Durch eine Erken nung der Referenzobjekte innerhalb des IR-Bilds kann dieses dann entspre chend kalibriert werden. Alternativ wird ein zweiter Sensor genutzt, der präzi se Temperaturinformationen eines Bildausschnitts liefert. Der Einsatz gekühl ter Detektoren auf kleinen Satelliten wird ebenfalls vorgenommen, reicht aber zumeist nicht aus, um die Temperatur auf weniger als einige Kelvin genau zu bestimmen. However, lower-priced small satellites with high spatial resolution are not able to capture images with high radiometric precision. When using smaller satellite platforms, for example pico- or nanosatellites, approaches for the generation of spatially high-resolution thermal data of the half mostly based on the calibration of spatially high-resolution IR images together with reference objects known temperature. By recognizing the reference objects within the IR image, this can then be calibrated accordingly. Alternatively, a second sensor is used which provides precise temperature information of an image section. The use of cooled detectors on small satellites is also made, but is usually not sufficient to determine the temperature to less than a few Kelvin.
Es besteht daher ein Bedarf an einfachen, kostengünstigen Lösungen zur Er stellung räumlich hochauflösender Thermalbilder mit hoher radiometrischer Präzision, sowie an der Erstellung zeitlich hochaufgelöster Zeitreihen beste hend aus diversen räumlich hochaufgelösten Thermalbilder hoher radiometri scher Präzision. There is therefore a need for simple, cost-effective solutions for the creation of spatially high-resolution thermal images with high radiometric precision, as well as for the generation of temporally high-resolution time series consisting of various spatially high-resolution thermal images of high radiometric precision.
Die vorliegende Schutzrechtsanwendung löst diese Aufgabe gemäß den unab hängigen Ansprüchen. Vorteilhafte Weiterentwicklungen sind außerdem in den abhängigen Ansprüchen und dieser Beschreibung beschrieben. The present patent application solves this problem according to the independent claims. Advantageous further developments are also described in the dependent claims and this description.
Die vorgeschlagene Lösung besteht dabei in der Nutzung von Kleinsatelliten zur Erstellung räumlich hoch aufgelöster Wärmekarten der Erdoberfläche mit gleichzeitig hoher radiometrischer Präzision. Das vorgestellte Prinzip beruht dabei auf dem Zusammenschnitt von 1) mit Satelliten aufgenommenen Ther maldaten hoher absoluter Messgenauigkeit, aber niedriger räumlicher Auflö sung mit 2) zeitlich und räumlich ko registriert, also zeitlich synchron und vom selben Gebiet, aufgenommenen Thermaldaten einer zweiten Satellitenplatt form mit geringerer Messgenauigkeit aber deutlich höherer räumlicher Auflö sung. The proposed solution consists in the use of small satellites to create spatially high-resolution heat maps of the earth's surface at the same time high radiometric precision. The presented principle is based on the combination of 1) recorded with satellite ther maldaten high absolute accuracy, but low spatial Auflö solution with 2) temporally and spatially ko registered, ie temporally synchronous and from the same area, recorded thermal data of a second satellite platform shape with lesser Measuring accuracy but significantly higher spatial resolution.
Messwerte sind hierbei beispielsweise die Grauwerte eines Photosensors, die einer physikalischen Strahldichte (und damit Strahlungstemperatur) zugeord net werden können, der elektrische Widerstand oder eine elektrische Span nung, der direkt einer Temperatur zugeordnet werden können oder weitere zur berührungslosen Bestimmung der Temperatur verwendeten physikali schen Messgrößen. In this case, measured values are, for example, the gray values of a photosensor, which can be associated with a physical radiance (and thus radiation temperature), the electrical resistance or an electrical voltage which can be directly assigned to a temperature or other physical measured variables used for non-contact determination of the temperature ,
Das hier beschriebene Verfahren sowie die Vorrichtung kombinieren die Vor teile beider Messungen und resultiert somit sowohl in einer hohen Tempera turpräzision als auch in einer hohen räumlichen Auflösung. Dabei können durch die üblichen Verfahren zur räumlichen Aufschließung (disaggregation) satellitengestützter LST entstehenden Unsicherheiten zumindest in großen Teilen vermieden werden. Weiterhin wird ein Verfahren zum Erstellen einer Zeitreihe räumlich hochaufgelöster Wärmekarten sowie ein Computerpro grammprodukt zur Durchführung der beschriebenen Verfahren beschrieben. The method described here and the device combine the advantages of both measurements and thus results both in a high tempera ture precision as well as in a high spatial resolution. At the same time, uncertainties arising from the usual methods for the spatial disaggregation of satellite-based LST can be avoided, at least in large parts. Furthermore, a method for creating a time series of spatially high-resolution thermal maps and a computer program product for carrying out the described method will be described.
Das beschriebene Verfahren ist ausgelegt zur Bestimmung der Wärmekarte eines Gebietes, vorzugsweise zur Bestimmung einer räumlich hoch aufgelös ten Wärmekarte mit einer hohen Messgenauigkeit, wie beispielsweise einer hohen Temperaturgenauigkeit. The method described is designed to determine the thermal map of a region, preferably to determine a spatially highly resolved th thermal map with a high measurement accuracy, such as a high temperature accuracy.
Das Verfahren umfasst ein Empfangen eines ersten Wärmebildes sowie ein Empfangen eines zweiten Wärmebildes, wobei die Wärmebilder durch unter schiedliche Plattformen zur Verfügung gestellt werden und daher unterschied licher Eigenschaften haben. The method comprises receiving a first thermal image and receiving a second thermal image, wherein the thermal images are provided by different platforms and therefore have different properties.
Ein Wärmebild ist dabei eine grafische Repräsentation einer physikalischen Einheit über eine Region und kann verschiedene physikalische Einheiten dar- stellen, bspw. eine Strahldichte (W/m2sr) oder eine Temperatur (K). A thermal image is a graphical representation of a physical unit over a region and can represent various physical units. set, for example, a radiance (W / m 2 sr) or a temperature (K).
Das erste Wärmebild, welches durch eine Aufnahmevorrichtung eines ersten Satelliten aufgenommen wird, hat eine hohe radiometrische Präzision aber eine geringe räumliche Auflösung. Das erste Wärmebild zeigt die aufgenom mene Wärmestrahlung einer ersten Landschaft, die das Gebiet umfasst, wobei das erste Wärmebild Pixel umfasst, die dem Gebiet räumlich zugeordnet sind und das erste Wärmebild dem Gebiet pixelweise jeweils einen gemessenen ersten Temperaturwert, Strahldichte, oder Wert einer anderen radiometri schen Messgröße zuordnet. The first thermal image taken by a receiving device of a first satellite has a high radiometric precision but a low spatial resolution. The first thermal image shows the recorded thermal radiation of a first landscape comprising the region, wherein the first thermal image comprises pixels spatially associated with the region and the first thermal image pixel-wise each a measured first temperature value, radiance, or other radiometry assigns to the measured variable.
Das zweite Wärmebild, welches durch eine Aufnahmevorrichtung eines zwei ten Satelliten oder, alternativ, einer Drohne, eines Ballons oder eines anderen bemannten oder unbemannten Flugobjekts aufgenommen wird, hat eine ge ringere radiometrische Präzision aber eine höhere räumliche Auflösung, ver glichen mit dem ersten Wärmebild. Das zweite Wärmebild zeigt die aufge nommene Wärmestrahlung einer zweiten Landschaft, die das Gebiet umfasst, wobei das zweite Wärmebild Pixel umfasst, die dem Gebiet räumlich zuge ordnet sind und das zweite Wärmebild dem Gebiet pixelweise jeweils einen gemessenen zweiten Temperaturwert zuordnet. The second thermal image taken by a cradle of a second satellite or, alternatively, a drone, a balloon or other manned or unmanned aerial vehicle, has a lower radiometric precision but a higher spatial resolution, compared to the first thermal image. The second thermal image shows the recorded thermal radiation of a second landscape comprising the area, the second thermal image comprising pixels spatially associated with the area and the second thermal image associating the area pixel by pixel with a measured second temperature value.
Das "Gebiet", für das die Wärmekarte bestimmt werden soll kann hierbei so wohl ein kleiner Teil der Landschaft, beispielsweise ein einzelnes Gebäude oder Feld sein, oder auch ein größerer Teil der Landschaft, die auf den Wär mebildern gezeigt ist, wie beispielsweise ein Dorf, ein Stadtteil oder auch eine ganze Stadt. Das "Gebiet" kann sich somit über diverse Pixel zumindest des zweiten Wärmebildes erstrecken. The "area" for which the heat map is to be determined may well be a small part of the landscape, for example a single building or field, or even a larger part of the landscape shown on the heat pictures, such as a village , a district or an entire city. The "area" can thus extend over various pixels of at least the second thermal image.
Den einzelnen Pixeln der beiden Wärmebilder können jeweils unterschiedli che Werte zugeordnet sein. Außerdem ist die räumliche Auflösung des zwei ten Wärmebildes höher als die räumliche Auflösung des ersten Wärmebildes, so dass jeweils eine Vielzahl von Pixeln des zweiten Wärmebildes einem Pixel des ersten Wärmebildes räumlich zugeordnet sind. Different pixels can be assigned to the individual pixels of the two thermal images. In addition, the spatial resolution of the second thermal image is higher than the spatial resolution of the first thermal image, so that in each case a plurality of pixels of the second thermal image are spatially associated with one pixel of the first thermal image.
Das erste und das zweite Wärmebild wurden weiterhin zeitlich synchron oder mit nur einem geringen zeitlichen Versatz unterhalb einer festgelegten Schranke von vorzugsweise wenigen Minuten, beispielsweise 10 Minuten auf genommen. Die zeitliche Toleranz ist dabei gegeben durch die charakteristi sche Zeitspanne, mit der sich die Temperatur bzw. die Abstrahlungseigen schaften im Gebiet signifikant ändern. Diese Zeitspanne kann in Abhängigkeit von den Rahmenbedingungen, wie den Wetterbedingungen, sowie vom beab sichtigten Anwendungsfall unterschiedlich sein. The first and second thermal images continued to be temporally synchronous or less than a predetermined time delay Barrier of preferably a few minutes, for example, taken 10 minutes. The temporal tolerance is given by the characteristic period of time with which the temperature or the radiation properties in the area change significantly. This period of time may vary depending on the conditions, such as the weather conditions, as well as the intended use case.
Die hohe radiometrische Präzision und somit Temperaturgenauigkeit oder, allgemeiner, Messgenauigkeit des ersten Wärmebildes resultiert beispielswei se aus der Aufnahmevorrichtung des ersten Satelliten, der vorzugsweise ein großer Satellit ist, beispielsweise ein Wettersatellit, und der über aufwendige Kalibrierungstechnik verfügt, beispielsweise unter Verwendung von speziell temperierten Schwarzkörpern oder Sensoren. Satelliten, die Bilder mit hoher Messgenauigkeit, beispielsweise Temperaturgenauigkeit, aufnehmen können, sind aus dem Stand der Technik bekannt, allerdings ist die notwendige Kalib rierungstechnik sehr kostenintensiv und zu groß für kleine Satelliten wie bei spielsweise Piko-, Nano-, oder Mikrosatelliten. Der erste Satellit kann ein geo stationärer Satellit sein, was weiterhin eine hohe zeitliche Wiederholrate der aufgenommenen Wärmebilder ermöglicht. Allerdings sind geostationäre Wet tersatelliten aufgrund ihrer großen Entfernung zur Erde nicht in der Lage räumlich hoch aufgelöste Bilder aufzunehmen. Somit liegt die räumliche Auf lösung des ersten Wärmebildes im Bereich von einem bis mehreren Quadrat kilometern pro Pixel. The high radiometric precision and thus temperature accuracy or, more generally, measurement accuracy of the first thermal image results beispielswei se from the receiving device of the first satellite, which is preferably a large satellite, such as a weather satellite, and has sophisticated calibration technology, for example, using specially tempered black bodies or sensors. Satellites that can capture images with high accuracy, such as temperature accuracy, are known in the art, however, the necessary Kalib ration technology is very costly and too large for small satellites such as pico, nano, or microsatellite. The first satellite can be a geo stationary satellite, which further allows a high temporal repetition rate of the recorded thermal images. However, geostationary weather satellites are not able to take high-resolution images due to their distance from Earth. Thus, the spatial resolution of the first thermal image is in the range of one to several square kilometers per pixel.
Alternativ kann der erste Satellit ein großer Satellit in einem niedrigen Erdorbit sein, wie beispielsweise durch die Landsat Satelliten bekannt. Durch einen derartigen Satelliten, der ebenfalls über Kalibrierungstechnik zur Auf nahme von Wärmebildern mit hoher radiometrischer Präzision konfiguriert ist, ist eine deutlich bessere räumliche Auflösung verglichen mit einem geo stationären Satelliten möglich. Allerdings ist auch hierbei die räumliche Auflö sung für viele Anwendungen noch verbesserungswürdig. Weiterhin können derartige große Satelliten in einem niedrigen Erdorbit denselben Teilaus schnitt der Erdoberfläche nur in einem Abstand von mehreren Tagen bis meh reren Wochen aufnehmen, wodurch eine Aufnahme zu einem Wunschzeit punkt oder eine Zeitreihe mehrerer Aufnahmen nicht oder nur mit einer sehr geringen zeitlichen Auflösung oder durch Kombination mehrerer derartiger Satelliten möglich ist. Da große Satelliten aber sehr kostenintensiv sind, ist es finanziell sehr aufwendig die für eine bessere Zeitgenauigkeit notwendige Vielzahl von großen Satelliten in einem niedrigen Erdorbit (mit einer Entfer nung unter 2000 km zur Erde) zu verwenden. Alternatively, the first satellite may be a large satellite in low earth orbit, such as known by the Landsat satellites. Such a satellite, which is also configured via calibration technology for the acquisition of thermal images with high radiometric precision, a significantly better spatial resolution compared to a geo stationary satellite is possible. However, the spatial resolution for many applications is still in need of improvement. Furthermore, such large satellite in a low Earth orbit the same Teilaus cut the earth's surface record only at a distance of several days to several weeks, making a recording at a desired time point or a time series of several shots or only with a very low temporal resolution or by Combination of several such Satellite is possible. However, since large satellites are very costly, it is financially very expensive to use the necessary for a better time accuracy variety of large satellites in a low Earth orbit (with a distance below 2000 km to the earth).
Das zweite Wärmebild kann durch einen näher an der Erde kreisenden Klein satelliten deutlich unter 1000 kg oder unter 500 kg, wie einen Pikosatelliten bis ca. 1 kg, einen Nanosatelliten bis ca. 10-15 kg oder einen Mikrosatelliten bis ca. 100 kg aufgenommen werden. Durch die Erdnähe kann eine höhere räumliche Auflösung ermöglicht werden. Derartige Satelliten kreisen in einem niedrigeren Erdorbit mit einem Abstand von typischerweise zwischen 300 und 1000 km Abstand zur Erdoberfläche, beispielsweise zwischen 500 und 800 km Abstand zur Erdoberfläche. Im Allgemeinen kreisen kleinere Satelliten und Satelliten mit kürzerer Lebensdauer näher an der Erde als größere Satelliten und/oder Satelliten mit höherer Lebensdauer. Allerdings sind bei den um mehrere Größenordnungen kostengünstigeren Kleinsatelliten (mit einem Stand von 2018 liegen die Kosten für einen Geosatelliten im Bereich von ca. 1000 Millionen Euro, während ein Nanosatellit ungefähr zwischen 1 und 10 Millionen Euro kostet) die technischen Möglichkeiten und der Platz für auf wendige Technik wie beispielsweise Kalibrierungstechnik an Bord begrenzt, so dass die durch einen Kleinsatelliten gemessenen Wärmebilder unter Umstän den signifikant von den tatsächlichen Messgröße, wie Temperaturen oder Strahldichten abweichen können. Abweichungen können beispielsweise durch Temperaturschwankungen des Infrarotsensors, der zur Aufnahme verwendet wird, entstehen. Da Kleinsatelliten deutlich näher an der Erde kreisen als bei spielsweise Wettersatelliten, können die Wärmebilder durch einen Kleinsatel liten mit einer deutlich höheren Auflösung von Kantenlängen der individuellen Pixel unter 100 m, vorzugsweise unter 50 m, zwischen 30 m und 50 m oder unter 30m aufgenommen werden. Bei Nachbearbeitung der aufgenommenen Bilder ist, beispielsweise durch Verwendung oder Überlagerung mehrerer auf genommener Bilder auch eine noch höhere räumliche Auflösung, beispiels weise unter 20 m oder unter 10 m möglich. Der zweite Satellit, mit dessen Aufnahmevorrichtung das zweite Wärmebild aufgenommen wurde, ist hierbei im Allgemeinen in einem niedrigen Erdorbit, insbesondere in einem niedrige ren Erdorbit als der erste Satellit, wodurch durch einen einzelnen Satelliten nur eine geringere Wiederholfrequenz, von zumindest mehreren Stunden oder Tagen oder beispielsweise 2 - 4 Wochen bei einer relativ hohen Auflö sung von beispielsweise etwa 100 m, für die Aufnahmen eines Gebietes mög lich ist. Die Wiederholfrequenz kann hierbei als eine Funktion der Auflösung betrachtet werden. Wenn räumlich hochaufgelöste Bilder aufgenommen werden, so wird durch die begrenzte Detektorgröße notwendigerweise ein kleines Gebiet aufgenommen. Dementsprechend dauert es relativ lange, bis dieses Gebiet wieder abgedeckt wird (es sei denn, der Orbit wurde genau so eingestellt, dass zu Lasten der Gesamtabdeckung der Erdoberfläche ein be stimmtes Gebiet häufiger überflogen wird). Somit ist die Wiederholfrequenz (revisit time) eine Funktion des Sichtbereichs des Detektors und kann somit direkt mit dem Auflösungsvermögen gekoppelt sein. The second thermal image can be recorded by a small satellite orbiting closer to the earth, well below 1000 kg or below 500 kg, such as a pico-satellite up to about 1 kg, a nanosatellite up to about 10-15 kg or a microsatellite up to about 100 kg , Due to the proximity to the earth, a higher spatial resolution can be made possible. Such satellites orbit in a lower Earth orbit with a distance of typically between 300 and 1000 km distance to the earth's surface, for example between 500 and 800 km distance to the earth's surface. In general, smaller and shorter life satellites orbit closer to Earth than larger satellites and / or longer lifetime satellites. However, in the case of the smaller satellites, which are several orders of magnitude cheaper (as of 2018, the cost of a geosatellite of around € 1000 million, while a nanosatellite costs approximately between € 1 and € 10 million) has the technical potential and the space for such as calibration technology on board, so that the thermal images measured by a small satellite may differ significantly from the actual measurable variable, such as temperatures or radiances. Deviations can occur, for example, due to temperature fluctuations of the infrared sensor used for recording. Since small satellites circle significantly closer to the earth than weather satellites, for example, the thermal images can be recorded by a small satellite with a much higher resolution of edge lengths of the individual pixels below 100 m, preferably below 50 m, between 30 m and 50 m or below 30 m , When post-processing the recorded images, for example, by using or overlaying several pictures taken even higher spatial resolution, example, less than 20 m or less than 10 m possible. The second satellite, with the recording device of which the second thermal image was taken, is hereby generally in a low earth orbit, in particular in a lower earth orbit than the first satellite, whereby only a lower repetition frequency, of at least several hours, can be achieved by a single satellite or days or, for example, 2 to 4 weeks at a relatively high resolution of, for example, about 100 m, for the recordings of an area is possible, please include. The repetition frequency can be considered as a function of the resolution. When spatially high resolution images are taken, the limited detector size necessarily captures a small area. Accordingly, it takes a relatively long time to cover this area again (unless the orbit has been set to cover a certain area more frequently at the expense of the total coverage of the earth's surface). Thus, the repeat frequency is a function of the field of view of the detector and thus can be directly coupled to the resolution.
Das Verfahren zur Bestimmung der Wärmekarte umfasst weiterhin das Be stimmen eines Messgrößenversatzes, wie beispielsweise eines Temperatur versatzes, einer ersten, dem Gebiet räumlich zugeordneten Pixelgruppe des zweiten Wärmebildes, wobei die erste Pixelgruppe eine Vielzahl von Pixeln umfasst. Wie oben beschrieben, ist die absolute Messgenauigkeit, beispiels weise Temperaturgenauigkeit, des zweiten Wärmebildes gering und kann, handelt es sich bei der Messgröße bspw. um eine Temperatur, um mehrere Grad, beispielsweise über 2 K, oder, häufiger, über 5 K oder sogar über 10-20 K, von der Realität abweichen. Es kann allerdings davon ausgegangen wer den, dass die relativen Messwerte, beispielsweise relative Temperaturwerte, des zweiten Wärmebildes eine hinreichende Genauigkeit aufweisen, insbe sondere die relative Messwerte benachbarter Pixel oder von Pixeln die sich in der Nähe voneinander befinden, beispielsweise innerhalb weniger Pixel von einander. The method for determining the thermal map further comprises determining a measurement offset, such as a temperature offset, of a first spatially associated pixel group of the second thermal image, wherein the first pixel group comprises a plurality of pixels. As described above, the absolute measurement accuracy, example, temperature accuracy of the second thermal image is low and can, if the measured variable, for example. To a temperature to several degrees, for example, about 2 K, or, more often, about 5 K or even about 10-20 K, deviate from reality. However, it can be assumed that the relative measured values, for example relative temperature values, of the second thermal image have sufficient accuracy, in particular the relative measured values of adjacent pixels or of pixels which are in the vicinity of one another, for example within a few pixels of one another.
Es kann somit durch einen Vergleich eines Messgrößenmittelwertes, bei spielsweise des Temperaturmittelwerts, für die erste Pixelgruppe mit einem Wert derselben Messgröße der Referenzpixel des ersten Wärmebildes ein Messgrößenversatz für die erste Pixelgruppe bestimmt werden. Es ist hierbei beispielsweise auch möglich benachbarte Pixel sowohl bezüglich des ersten Wärmebildes (also benachbarte Pixel des mindestens einen ersten Pixels) als auch bezüglich des zweiten Wärmebildes (also benachbarte Pixel der ersten Pixelgruppe) bei der Bestimmung des Messgrößenversatzes mit zu berücksich tigen. Die "gröberen" Referenzpixel des ersten Wärmebildes können hierbei als Linearkombination oder gewichtete Summe der ersten Pixelgruppe ausge drückt werden. Die Pixel der ersten Pixelgruppe werden bei der Berechnung des Mittelwertes mit der Gewichtung ihres Flächenanteils berücksichtigt. So mit können auch unterschiedlich große Pixel berücksichtigt werden. Die Messwerte können entweder, für jeden Pixel, skalare Messgrößen sein, oder es ist möglich, dass gleichzeitig mehrere Werte erfasst werden, so dass dann die einzelnen Messwerte in Vektorform vorliegen. It is therefore possible to determine a measured variable offset for the first pixel group by comparing a mean value of the measured value, for example the average temperature value, for the first pixel group with a value of the same measured variable of the reference pixels of the first thermal image. In this case, for example, it is also possible for adjacent pixels both with regard to the first thermal image (ie adjacent pixels of the at least one first pixel) and with respect to the second thermal image (ie adjacent pixels of the first pixel group) to be taken into account in the determination of the measured variable offset. The "coarser" reference pixels of the first thermal image can in this case be expressed as a linear combination or weighted sum of the first pixel group. The pixels of the first pixel group are taken into account in the calculation of the mean value with the weighting of their area fraction. So with also different sized pixels can be considered. The measured values can either be scalar measured quantities for each pixel, or it is possible that several values are recorded simultaneously, so that the individual measured values are then in vector form.
Das Verfahren umfasst weiterhin noch den Schritt des Bestimmens korrigier ter absoluter Messwerte der dem Gebiet zugeordneten Pixel der ersten Pixel gruppe basierend auf den zweiten gemessenen Messwerten der Pixel der ers ten Pixelgruppe sowie dem Messwertversatz. The method further comprises the step of determining corrected absolute measurement values of the pixels of the first pixel group assigned to the region based on the second measured measured values of the pixels of the first pixel group and the measured value offset.
Das Bestimmen der korrigierten absoluten Messwerte für die Pixel der ersten Pixelgruppe erfolgt vorzugsweise durch eine Addition der zweiten gemesse nen Messwerte und des zuvor bestimmten Messwertversatzes. The determination of the corrected absolute measured values for the pixels of the first pixel group is preferably carried out by adding the second measured measured values and the previously determined measured-value offset.
Das Verfahren beinhaltet außerdem einen Schritt zur Bestimmung oder Gene rierung der räumlich hochaufgelösten Wärmekarte mit hoher radiometrischer Präzision auf Grundlage der korrigierten absoluten Messwerte. The method also includes a step of determining or generating the high spatial resolution thermal map with high radiometric precision based on the corrected absolute measurements.
Beispielsweise handelt es sich bei der Messgröße um eine Temperatur, ge messen z.B. in Kelvin. In diesem Fall wird dann der Temperaturversatz zwi schen den beiden Wärmebildern bestimmt. Es kann sich aber auch um eine Strahlgröße handeln, gemessen z.B. in Watt pro Quadratmeter und pro Stera diant, um einen elektrischen Widerstand z.B. gemessen in Ohm, oder um eine Spannung gemessen z.B. in Volt. By way of example, the measured variable is a temperature, measured, for example. in Kelvin. In this case, the temperature offset between the two thermal images is then determined. However, it may also be a beam size, measured e.g. in watts per square meter and per steroid, to provide electrical resistance e.g. measured in ohms or measured by a voltage e.g. in volts.
Somit kann durch eine Kombination zweier aufgenommener Wärmebilder unterschiedlicher Eigenschaften eine deutlich verbesserte Wärmekarte des Gebietes erstellt werden. Thus, by combining two recorded thermal images of different properties, a significantly improved thermal map of the area can be created.
Durch das Verfahren wird insbesondere, beispielsweise mittels Infrarot, die Strahlungstemperatur der Landoberfläche bestimmt. Je nach Anwendung kann zusätzlich eine genaue Bestimmung der Landoberflächentemperatur aus der durch die bestimmte Wärmekarte gegebenen Strahlungstemperatur unter Zuhilfenahme eines Emissionsgrads der jeweiligen Oberfläche erfolgen, in Abhängigkeit von der Art der jeweiligen Oberfläche. By the method, in particular, for example by means of infrared, the radiation temperature of the land surface is determined. Depending on the application, in addition, an accurate determination of the surface temperature of the surface given by the given heat map radiation temperature below With the aid of an emissivity of the respective surface, depending on the type of the respective surface.
Es ist dabei zu beachten, dass durch Infrarotsensoren zunächst spezifische Intensitäten bzw. Strahldichten gemessen werden, die zum Vergleich der ge messenen Strahldichten des ersten und zweiten Wärmebildes über den jewei ligen möglichst deckungsgleichen Flächen integriert werden. Aus den gemes senen Werten kann dann eine Strahlungstemperatur bestimmt werden, die für die jeweiligen Flächen gemittelt werden kann. It should be noted that first specific intensities or beam densities are measured by infrared sensors, which are integrated to compare the GE measured radiances of the first and second thermal image over the jewei as possible congruent surfaces. From the measured values, a radiation temperature can then be determined which can be averaged for the respective surfaces.
Hierzu wird ein Pixel beispielsweise mit einer bestimmten Energiemenge im IR beleuchtet und hat damit eine bestimmte Helligkeit. Durch die bekannte Pi xelantwort (z.B. im Labor vor dem Start gemessen), die normalerweise im zu betrachtenden Bereich nahezu linear ist, kann nun von der Pixelhelligkeit auf physikalische Einheiten geschlossen werden, bspw. mittels einer Ausgleichs funktion oder einer Umsetzungstabelle. In diesem Fall ist das die spektrale Strahldichte (spectral radiance, W/(m2 sr pm)). Die (Strahlungs-) Temperatur ergibt sich dann direkt aus dem Planck'schen Strahlungsgesetz. Die Oberflä chentemperatur kann dann aus dieser sowie einem Emissionskoeffizienten bestimmt werden. For this purpose, a pixel is illuminated, for example, with a certain amount of energy in the IR and thus has a certain brightness. By the well-known Pi xelantwort (eg measured in the laboratory before the start), which is usually almost linear in the area to be considered, can now be concluded by the pixel brightness on physical units, for example by means of a compensation function or a conversion table. In this case, this is the spectral radiance (W / (m 2 sr pm)). The (radiation) temperature then results directly from Planck's law of radiation. The surface temperature can then be determined from this and an emission coefficient.
Durch die hohe räumliche Auflösung sowie hohe radiometrische Präzision der durch das beschriebene Verfahren generierten Wärmebilder ist die Bestim mung der Oberflächentemperatur mit deutlich reduziertem Aufwand möglich, verglichen mit denen im Stand der Technik bekannten Verfahren. Due to the high spatial resolution and high radiometric precision of the thermal images generated by the described method, the determination of the surface temperature is possible with significantly reduced effort, compared with those known in the prior art method.
Vorzugsweise ist der ersten Pixelgruppe des zweiten Wärmebildes genau ein Pixel des ersten Wärmebildes räumlich zugeordnet. In diesem Fall erfolgt das Bestimmen des Messwertversatzes der ersten Pixelgruppe des zweiten Wär mebildes vorzugsweise durch eine, möglicherweise gewichtete, Summe relati ver Messwerte der ersten Pixelgruppe des zweiten Wärmebildes gegenüber dem ersten gemessenen Messwert des der ersten Pixelgruppe des zweiten Wärmebildes räumlich zugeordneten Pixels des ersten Wärmebildes. Preferably, the first pixel group of the second thermal image is spatially associated with exactly one pixel of the first thermal image. In this case, the measured value offset of the first pixel group of the second thermal image is preferably determined by a possibly weighted total relative measured values of the first pixel group of the second thermal image compared to the first measured measured value of the pixel of the first thermal image spatially assigned to the first pixel group of the second thermal image ,
Diese Berechnung erfolgt unter der Annahme, dass durch den mit hoher Messgenauigkeit gemessenen Wert des ersten Pixels des ersten Wärmebildes ein Mittelwert der Messwerte der Pixel der ersten Pixelgruppe des zweiten Wärmebildes bekannt ist. Damit kann dann der Messwertversatz DG herausgerechnet werden. Dieser ist gegeben durch die Differenz der Mittel werte des, einerseits, gemessenen Messwerts des ersten Pixels des ersten Wärmebildes gegenüber, andererseits, den gemessenen Messwerten der Pi xel der ersten Pixelgruppe des zweiten Wärmebildes. This calculation is made on the assumption that the value of the first pixel of the first thermal image measured with high measurement accuracy an average of the measured values of the pixels of the first pixel group of the second thermal image is known. With this, the measured value offset DG can be eliminated. This is given by the difference between the mean values of, on the one hand, measured value of the first pixel of the first thermal image and, on the other hand, the measured measured values of the pixels of the first pixel group of the second thermal image.
Dabei gilt It applies
TA(.x, y) ist die aufgenommene Messgröße des ersten Wärmebildes des Pixels (x, y) und TB(i,j ) die der Messung des zweiten Wärmebildes in allen Pixeln (i,j), die innerhalb der ersten Pixelgruppe liegen, wobei w(j,j ) den jeweiligen Flächenanteil des Pixels (i ) an der dem ersten Pixel räumlich zugeordneten Gesamtfläche wiedergibt. Somit ist w(j,j ) = 1, wenn der Pixel (i,/) komplett in der Gesamtfläche des ersten Pixel enthalten ist. T A (. X, y,) is the recorded measured size of the first thermal image of the pixel (x, y) and T B (i, j) of the measurement of the second thermal image in all pixels (i, j) located within the first pixel group where w (j, j) represents the respective area proportion of the pixel (i) at the total area spatially associated with the first pixel. Thus, w (j, j) = 1 if the pixel (i, /) is completely contained in the total area of the first pixel.
Wird als Messwert die Temperatur gewählt, so gilt dieser lineare Ansatz in guter Näherung für einen mittleren auf der Erde zu findenen Temperaturbe reich um die 300 K, wie er normalerweise auf einem einzelnen Wärmebild zu finden ist mit einer Differenz zwischen maximaler und minimaler aufgenom- mener Temperatur von einigen zehn Kelvin, bspw. 20 K oder 30 K. If the temperature is chosen as the measured value, this linear approach applies, to a good approximation, to a mean temperature range on the earth of around 300 K, as normally found on a single thermal image, with a difference between the maximum and minimum Temperature of a few tens of Kelvin, for example 20 K or 30 K.
Werden stattdessen die Strahldichten als Messgröße gewählt, so entspricht die mathematische Formulierung dem Energieerhaltungssatz und sie gilt exakt. If, instead, the radiances are selected as the measured variable, the mathematical formulation corresponds to the law of conservation of energy and it applies exactly.
Es ist weiterhin vorzugsweise möglich, dass das Verfahren nach dem Berech nen der korrigierten absoluten Temperaturwerte der Pixel der ersten Pixel gruppe, ein optionales Nachbearbeiten der Pixel der ersten Pixelgruppe unter Verwendung von Landoberflächenmodellen beinhaltet. Durch derartige Land oberflächenmodelle können, beispielsweise unter Verwendung von Emissi onskoeffizienten, die mit den jeweiligen Oberflächen assoziiert sind, aus korri gierten absoluten Temperaturwerten, die beispielsweise eine Strahlungstem- peratur angeben, präzise Oberflächentemperaturen berechnet werden. It is also preferably possible that after calculating the corrected absolute temperature values of the pixels of the first pixel group, the method includes optionally reworking the pixels of the first pixel group using land surface models. Such land surface models can, for example, using emission coefficients, which are associated with the respective surfaces, from corrected absolute temperature values, which, for example, include a radiation pattern. specify temperature, precise surface temperatures are calculated.
Die vorliegende Anmeldung umfasst weiterhin eine Vorrichtung zur Bestim mung der Wärmekarte eines Gebietes, wobei die Vorrichtung mindestens eine Empfangseinheit und eine Bestimmungseinheit umfasst. The present application further comprises a device for determining the thermal map of a region, the device comprising at least one receiving unit and a determining unit.
Die Empfangseinheit ist hierbei konfiguriert zum Empfangen eines ersten Wärmebildes einer ersten, das Gebiet umfassenden, Landschaft, wobei das erste Wärmebild durch eine Aufnahmevorrichtung eines ersten Satelliten auf genommen wurde, wobei das erste Wärmebild Pixel umfasst, die dem Gebiet räumlich zugeordnet sind und das Wärmebild dem Gebiet pixelweise jeweils einen ersten aufgenommenen Messwert zuweist. The receiving unit is in this case configured to receive a first thermal image of a first landscape comprising the area, wherein the first thermal image was taken by a recording device of a first satellite, wherein the first thermal image comprises pixels spatially associated with the area and the thermal image Area assigns a first measured value pixel by pixel.
Die mindestens eine Empfangseinheit ist weiterhin konfiguriert zum Empfan gen eines zweiten Wärmebildes einer zweiten, das Gebiet umfassenden, Landschaft, wobei das zweite Wärmebild durch eine Aufnahmevorrichtung eines zweiten Satelliten aufgenommen wurde, wobei das zweite Wärmebild Pixel umfasst, die dem Gebiet räumlich zugeordnet sind und das zweite Wär mebild dem Gebiet pixelweise einen zweiten aufgenommenen Messwert zu weist. The at least one receiving unit is further configured to receive a second thermal image of a second landscape comprising the region, the second thermal image being captured by a receiving device of a second satellite, the second thermal image comprising pixels spatially associated with the region second heat mebild the area pixelwise a second recorded reading points.
Zwischen der Aufnahme des ersten Wärmebildes und der Aufnahme des zwei ten Wärmebildes besteht hierbei nur ein geringer zeitlicher Versatz unterhalb einer festgelegten Schranke von vorzugsweise wenigen Minuten, beispiels weise weniger als 30 Minuten oder weniger als 10 Minuten aufgenommen. Between the recording of the first thermal image and the recording of the two th thermal image in this case there is only a small time offset below a specified barrier of preferably a few minutes, example, less than 30 minutes or less than 10 minutes recorded.
Weiterhin ist, wie bereits in Bezug auf das Verfahren beschrieben, eine ra diometrische Präzision des ersten Wärmebildes höher als eine radiometrische Präzision des zweiten Wärmebildes, und eine räumliche Auflösung des zwei ten Wärmebildes ist höher als eine räumliche Auflösung des ersten Wärme bildes. Furthermore, as already described with respect to the method, a ra diometric precision of the first thermal image is higher than a radiometric precision of the second thermal image, and a spatial resolution of the two th thermal image is higher than a spatial resolution of the first heat image.
Die Bestimmungseinheit der Vorrichtung zur Bestimmung der Wärmekarte des Gebietes ist konfiguriert zum Bestimmen eines Messwertversatzes einer ersten, dem Gebiet räumlich zugeordneten, Pixelgruppe des zweiten Wärme bildes, wobei die erste Pixelgruppe eine Vielzahl von Pixeln umfasst, durch eine Summe oder Linearkombination relativer Messwerte der Pixel der ersten Pixelgruppe gegenüber dem ersten aufgenommenen Messwert des mindes tens einen ersten Pixels des ersten Wärmebildes, wobei der mindestens eine erste Pixel des ersten Wärmebildes der ersten Pixelgruppe des zweiten Wär mebildes zumindest teilweise räumlich zugeordnet ist. The determining unit of the device for determining the thermal map of the area is configured to determine a measured value offset of a first, spatially assigned, pixel group of the second thermal image, wherein the first pixel group comprises a multiplicity of pixels a sum or linear combination of relative measured values of the pixels of the first pixel group with respect to the first recorded measured value of the at least one first pixel of the first thermal image, wherein the at least one first pixel of the first thermal image of the first pixel group of the second heat mebildes is at least partially spatially associated.
Wenn die Messwerte Temperaturwerte sind, so kann die Bestimmung eines Temperaturversatzes beispielsweise anhand der Formeln (1) und (2) erfolgen. If the measured values are temperature values, the determination of a temperature offset can be carried out, for example, using formulas (1) and (2).
Es ist hierbei zu beachten, dass, bei Erfassung von Strahlungsdaten, die Be rechnung der Strahlungstemperatur wahlweise vor oder nach dem Ermitteln des Versätzen erfolgen kann. Es ist also möglich, wie in Formeln (1) und (2) beschrieben, dass die Sensordaten in Temperaturwerte umgewandelt werden und dann durch den Vergleich der Temperaturwerte des ersten und zweiten Wärmebildes ein Temperaturversatz bestimmt wird. Alternativ kann aber auch ein Messwertversatz auf Grundlage einer anderen gemessenen oder abgeleiteten Größe erfolgen und die Umwandlung in Temperaturwerte erst hinterher erfolgen. It should be noted here that, upon detection of radiation data, the calculation of the radiation temperature can be made either before or after determining the offsets. It is thus possible, as described in formulas (1) and (2), that the sensor data are converted into temperature values and then a temperature offset is determined by comparing the temperature values of the first and second thermal images. Alternatively, however, it is also possible for a measured value offset to be based on another measured or derived variable and the conversion into temperature values to take place only afterwards.
Die Bestimmungseinheit ist weiterhin konfiguriert zum Bestimmen korrigier ter absoluter Messwerte der Pixel der ersten Pixelgruppe basierend auf den zweiten aufgenommenen Messwerten der Pixel der ersten Pixelgruppe sowie des Messwertversatzes. The determination unit is further configured to determine corrected absolute measurements of the pixels of the first pixel group based on the second acquired measurements of the pixels of the first pixel group and the measurement offset.
Nachfolgend sind optionale, vorteilhafte Ausführungsformen für das Verfah ren und die Vorrichtung zur Bestimmung der Wärmekarte beschrieben. Below are optional, advantageous embodiments of the procedural ren and the device for determining the heat map described.
Vorzugsweise sind sowohl das erste als auch das zweite Wärmebild jeweils Infrarotbilder, die jeweils durch Infrarotsensoren des ersten bzw. des zweiten Satelliten aufgenommen wurden. Preferably, both the first and second thermal images are infrared images respectively taken by infrared sensors of the first and second satellites, respectively.
Für normale LSTs im Bereich von auf der Erde vorkommenden, großflächigen Temperaturen, e.g. -40 bis 60 °C, werden beispielsweise Infrarotwellen im Bereich von 8 - 14 pm, oft sogar nur 10,8 und 12 pm genutzt. Für Waldbrände ist der kurzwelligere Infrarotbereich interessanter, bspw. zwischen 3 - 5 pm. Die meisten Wettersatelliten haben daher mehrere Bänder, die den Bereich 0,5 - 13 mih abdecken. Die aufgenommenen Messwerte können somit in Vek torform vorliegen. For example, for normal LSTs in the range of large-area temperatures occurring on Earth, eg -40 to 60 ° C, infrared waves in the range of 8 - 14 pm, often even only 10.8 and 12 pm are used. For forest fires, the short-wave infrared range is more interesting, for example between 3 and 5 pm. Most weather satellites therefore have multiple bands that cover the area Cover 0.5 - 13 mih. The recorded measured values can thus be available in vector form.
Die räumliche Auflösung des ersten Wärmebildes ist im Allgemeinen deutlich, um mindestens eine oder sogar zwei oder drei Größenordnungen gröber als die räumliche Auflösung des zweiten Wärmebildes. Beispielsweise können die Pixel des ersten Wärmebildes eine Kantenlänge von mindestens ca. 1 km ha ben, so dass die durch einen Pixel abgedeckte Fläche beim ersten Wärmebild Bereich von etwa 1 km2 oder sogar mehr als 1 km2 oder mehr als 3 km2 liegt. Im Gegensatz dazu beträgt die Kantenlänge eines Pixels des zweiten Wärme bildes vorzugsweise unter 100 m, oder sogar unter 70 m oder unter 50 m. Idealerweise liegt die Kantenlänge eines Pixels des zweiten Wärmebildes im Bereich von nur 10 m, so dass die Fläche, die durch einen Pixel des zweiten Wärmebildes abgebildet wird, nur wenige 100 m2 beträgt. The spatial resolution of the first thermal image is generally clear, at least one or even two or three orders of magnitude coarser than the spatial resolution of the second thermal image. For example, the pixels of the first thermal image may have an edge length of at least about 1 km so that the area covered by a pixel is about 1 km 2 or even more than 1 km 2 or more than 3 km 2 at the first thermal image. In contrast, the edge length of a pixel of the second heat image is preferably less than 100 m, or even less than 70 m or less than 50 m. Ideally, the edge length of a pixel of the second thermal image is in the range of only 10 m, so that the area imaged by a pixel of the second thermal image is only a few 100 m 2 .
Alternativ ist das hier beschriebene Verfahren aber auch anwendbar, wenn die räumliche Auflösung des ersten Wärmebildes um weniger als eine Grö ßenordnung, beispielsweise nur um einen Faktor von 2 oder 3, gröber als die räumliche Auflösung des zweiten Wärmebildes ist. Das Verfahren ist auf jedes Bildpaar anwendbar, bei dem die räumliche Auflösung des zweiten Wärmebil des höher, oder weniger grob, als die räumliche Auflösung des ersten Wär mebildes ist. Alternatively, however, the method described here is also applicable if the spatial resolution of the first thermal image is less than an order of magnitude, for example only by a factor of 2 or 3, greater than the spatial resolution of the second thermal image. The method is applicable to any pair of images in which the spatial resolution of the second thermal image is higher, or less coarse, than the spatial resolution of the first thermal image.
Außerdem ist die radiometrische Präzision des ersten Wärmebildes höher als die radiometrische Präzision des zweiten Wärmebildes. Diese Eigenschaft der Wärmebilder wird vorzugsweise dadurch erreicht, dass die Aufnahmevorrich tung des ersten Satelliten über entsprechende Kalibrierungstechnik, bei spielsweise durch die Verwendung von Schwarzkörpern oder speziell gekühl ten bzw. temperaturkontrollierten Sensoren verfügt, die eine hohe radiomet rische Genauigkeit, vorzugsweise unter 2 K oder, besonders bevorzugt, sogar unter 1 K, idealerweise pro Pixel oder auch im Mittel der aufgenommenen Wärmebilder garantiert. Zur Erhöhung der Einschätzbarkeit der Genauigkeit können die Aufnahmevorrichtungen der Satelliten weiterhin Daten mitliefern, die, vorzugsweise pro aufgenommenen Pixel, eine durch Sensoren der Auf nahmevorrichtung geschätzte Messgenauigkeit angeben. Die radiometrische Präzision des zweiten Wärmebildes ist geringer, beispielsweise dadurch, dass das zweite Wärmebild durch die Aufnahmevorrichtung eines kostengünstige ren Kleinsatelliten oder eines anderen bemannten oder unbemannten Flugob jekts aufgenommen wurde, welches über keine entsprechend präzise Kalibrie rungstechnik verfügt. In addition, the radiometric precision of the first thermal image is higher than the radiometric precision of the second thermal image. This feature of the thermal images is preferably achieved in that the Aufnahmevorrich tion of the first satellite via appropriate calibration technique, for example, by the use of black bodies or specially cooled th or temperature-controlled sensors has a high radiomet-metallic accuracy, preferably less than 2 K or, particularly preferably even under 1 K, ideally per pixel or even on average of the recorded thermal images guaranteed. To increase the predictability of the accuracy, the recording devices of the satellites can also provide data which, preferably per recorded pixel, indicates an accuracy of measurement estimated by sensors of the recording device. The radiometric precision of the second thermal image is lower, for example by the fact that the second thermal image has been recorded by the recording device of a low-cost small-sized satellite or another manned or unmanned aerial object which does not have a correspondingly precise calibration technique.
Weiterhin umfasst die vorliegende Anmeldung ein Verfahren zur Bestimmung der Veränderung einer Messgröße innerhalb eines Gebietes über einen Zeit raum, wie beispielsweise innerhalb einer Stunde, eines Tages oder auch in nerhalb einer Woche, eines Monats oder eines Jahres. Durch eine möglichst präzise Bestimmung der zeitlichen Veränderung der Messgröße eines Gebie tes können beispielsweise städtische Hitzeinseln erfasst und deren Ursachen analysiert werden. Weiterhin liefern derartige Messgröße-Zeitreihen Erkennt nisse für die Stadtplanung, bspw. die Wirkung von Grünanlagen, verschiede nen Dächertypen oder Wasserflächen auf das städtische Klima. Furthermore, the present application comprises a method for determining the change of a measured variable within a region over a period of time, such as within an hour, a day or even within a week, a month or a year. By determining the temporal change of the measured variable of a territory as precisely as possible, for example, urban heat islands can be detected and their causes analyzed. Furthermore, such measures-time series provide knowledge for urban planning, for example the effect of green spaces, different roof types or areas of water on the urban climate.
Das beschriebene Verfahren zur Bestimmung der Veränderung der Messgröße innerhalb eines Gebietes umfasst zunächst das Bestimmen von mindestens zwei, vorzugsweise einer Vielzahl von mehr als 10 oder mehr als 100, mög lichst präzisen Wärmekarte des Gebietes zu unterschiedlichen Zeitpunkten, wobei die beiden Wärmekarten gemäß dem oben beschriebenen Verfahren bestimmt wurden. The method described for determining the change in the measured variable within a region comprises first determining at least two, preferably a plurality of more than 10 or more than 100, as precise as possible thermal map of the area at different times, the two heat maps according to the above Procedures were determined.
Insbesondere wurde die erste Wärmekarte unter Verwendung eines ersten und eines zweiten empfangenen Wärmebildes des Gebietes bestimmt, wobei das erste und zweite Wärmebild zeitlich synchron oder annähernd synchron zu einem ersten Zeitpunkt aufgenommen wurden und, von dem ersten und zweiten Wärmebild, das erste Wärmebild eine höhere radiometrische Präzisi on und das zweite Wärmebild eine höhere räumliche Auflösung besitzt. In particular, the first thermal map was determined using first and second received thermal images of the area, wherein the first and second thermal images were taken synchronously or approximately synchronously at a first time and, of the first and second thermal images, the first thermal image was higher radiometric Precision and the second thermal image has a higher spatial resolution.
Weiterhin wurde die zweite Wärmekarte unter Verwendung eines dritten und eines vierten empfangenen Wärmebildes des Gebietes bestimmt, wobei das dritte und vierte Wärmebild zeitlich synchron oder annähernd synchron zu einem zweiten Zeitpunkt aufgenommen wurden und, von dem dritten und vierten Wärmebild, das dritte Wärmebild eine höhere radiometrische Präzisi on und das vierte Wärmebild eine höhere räumliche Auflösung besitzt. Aus der ersten und zweiten Wärmekarte des Gebietes kann dann eine Zeitrei he der Messgröße innerhalb des Gebietes erstellt werden. Further, the second thermal map was determined using third and fourth received thermal images of the area, the third and fourth thermal images being taken in synchronism or approximately synchronously at a second time and, of the third and fourth thermal images, the third thermal image being higher radiometric Precision and the fourth thermal image has a higher spatial resolution. From the first and second heat map of the area, a time series of the measured variable within the area can then be created.
Es ist optional auch möglich auf diese Art Wärmekarten einer Vielzahl von Zeitpunkten für ein Gebiet zu bestimmen und basierend auf der Vielzahl von Wärmekarten des Gebietes eine Zeitreihe der Messgröße innerhalb des Ge bietes zu erstellen. Optionally, it is also possible in this way to determine heat maps of a plurality of times for an area and to generate a time series of the measured quantity within the area based on the plurality of heat maps of the area.
Vorzugsweise liegen der erste und zweite Zeitpunkt innerhalb einer festgeleg ten Zeitspanne, beispielsweise innerhalb eines Tages, oder innerhalb weniger Stunden oder sogar innerhalb unter einer oder einer halben Stunde, um eine hohe zeitliche Auflösung der Zeitreihe der Messgröße innerhalb des Gebietes zu gewährleisten, beispielsweise um die Veränderung der Messgröße inner halb eines Tages zu erfassen. Preferably, the first and second times are within a bestimm th time period, for example within a day, or within a few hours or even within less than one or half an hour to ensure a high temporal resolution of the time series of the measurand within the area, for example to the Change in the measured quantity within one day.
Um eine derartige hohe zeitliche Auflösung zu erreichen, ist es beispielsweise möglich, dass das erste und das dritte Wärmebild jeweils von einer großen Satellitenplattform mit entsprechender Kalibrierungstechnik zur Gewährleis tung hoher radiometrischer Präzision, wie beispielsweise einem geostationä ren Wettersatelliten aufgenommen werden. Bei der Verwendung eines ersten und dritten Wärmebildes, die durch geostationäre Satelliten aufgenommen werden, werden vorzugsweise sowohl das erste als auch das dritte Wärmebild durch die Aufnahmevorrichtung desselben geostationären Satelliten aufge nommen. Alternativ können das erste und dritte Wärmebild auch von unter schiedlichen geostationären Satelliten mit ähnlicher Abdeckung stammen. In order to achieve such a high temporal resolution, it is possible, for example, that the first and the third thermal image are each taken by a large satellite platform with appropriate calibration technology to ensure high radiometric precision, such as a geostationä ren weather satellites. When using a first and third thermal image, which are recorded by geostationary satellites, preferably both the first and the third thermal image are taken up by the recording device of the same geostationary satellite. Alternatively, the first and third thermal images may also originate from different geostationary satellites with similar coverage.
Weiterhin ist es alternativ auch möglich, dass das erste und dritte Wärmebild durch die Aufnahmevorrichtungen unterschiedlicher großer aber nicht geosta tionärer Satelliten in einem niedrigen Erdorbit aufgenommen werden, wobei die Aufnahmevorrichtungen jeweils mit Kalibrierungstechnik für hohe Mess genauigkeit ausgestattet sein sollten. Wenn das erste und dritte Wärmebild von unterschiedlichen nicht geostationären Satellitenplattformen stammen, so ist dies nur möglich, wenn diese beiden Satellitenplattformen sich inner halb der vorgegebenen Zeitspanne über dem Gebiet befunden haben. Da nicht geostationäre große Satelliten, wie beispielsweise Landsats, bezüglich eines vorgegebenen Gebietes eine zeitliche Wiederholrate von mehreren Ta- gen bis mehreren Wochen haben, sind derartige Aufnahmen innerhalb eines vorgegebenen Zeitfensters durch unterschiedliche nicht-geostationäre Satelli ten mit aktuell vorhandener Satelliteninfrastruktur vor allem opportunistisch möglich, jedoch ungeeignet zur Erstellung kontinuierlicher Zeitreihen über einem ausgewählten Gebiet mit mehreren, beispielsweise mehr als 10 oder mehr als 100 Bildpaaren, wobei die zeitlichen Abstände von je zwei konsekutiv aufgenommenen Bildpaaren jeweils einen zeitlichen Abstand von wenigen Minuten oder Stunden aufweisen. Furthermore, it is alternatively also possible that the first and third thermal image are recorded by the recording devices of different large but not geosta tionary satellites in a low Erdorbit, the recording devices should be equipped with calibration technology for high measurement accuracy. If the first and third thermal images originate from different non-geostationary satellite platforms, then this is only possible if these two satellite platforms were within the predetermined time span over the area. Since non-geostationary large satellites, such as Landsats, have a temporal repetition rate of several ta with respect to a given area. gene until several weeks, such recordings within a given time window by different non-geostationary satellites th with currently available satellite infrastructure especially opportunistic possible, but unsuitable for creating continuous time series over a selected area with several, for example, more than 10 or more than 100 Image pairs, wherein the time intervals of two consecutively recorded image pairs each have a time interval of a few minutes or hours.
Wie viele Bildpaare zur Erstellung einer Zeitreihe notwendig sind, wie auch die tolerierbaren zeitlichen Abstände der Bildpaare ist im Allgemeinen stark an wendungsabhängig. So können für manche Anwendungen, bei denen eine Temperaturentwicklung beispielsweise über das Jahr beobachtet werden soll, ein oder zwei Bilder pro Tag ausreichen, während für andere Anwendungen, bei denen beispielsweise eine Hitzeentwicklung im Tagesverlauf untersucht werden soll, eine zeitliche Auflösung von nur wenigen Minuten wünschens wert ist, beispielsweise unter 10 oder unter 30 Minuten. Zur Erstellung einer längeren Zeitreihe bestehend aus über 10 oder über 100 Bildpaaren ist es hilf reich, wenn von jedem synchron aufgenommenen Bildpaar das erste Wärme bild mit der höheren radiometrischen Präzision immer oder zumindest meis tens durch denselben geostationären Satelliten aufgenommen wurde. How many image pairs are necessary to create a time series, as well as the tolerable time intervals of the image pairs is generally strongly dependent on the application. For example, for some applications where temperature evolution is to be monitored over the year, one or two images per day may suffice, while for other applications where, for example, heat development during the day is to be investigated, a temporal resolution of only a few minutes is desirable is worth, for example, under 10 or under 30 minutes. To create a longer time series consisting of more than 10 or more than 100 image pairs, it is helpful if the first heat image with the higher radiometric precision was always or at least mostly taken by the same geostationary satellite of each synchronously recorded image pair.
Um gleichzeitig eine hohe räumliche Auflösung zu erreichen, werden das zweite Wärmebild und auch das vierte Wärmebild jeweils durch Aufnahme vorrichtungen von Kleinsatelliten oder anderen bemannten oder unbemann ten Flugobjekten aufgenommen, die durch ihre Nähe zur Erde eine hohe räumliche Auflösung der aufgenommenen Wärmebilder bereitstellen können.  In order to achieve a high spatial resolution at the same time, the second thermal image and the fourth thermal image are respectively recorded by recording devices of small satellites or other manned or unemann th flight objects that can provide a high spatial resolution of the recorded thermal images by their proximity to the earth.
Diese eben beschriebenen Kleinsatelliten umkreisen die Erde im Allgemeinen in einem niedrigen Erdorbit. Zur Realisierung einer hohen zeitlichen Auflösung können daher vorzugsweise die Wärmebilder mehrerer verschiedener Klein satelliten, wie Piko-, Nano-, oder Mikrosatelliten verwendet werden, so dass das zweite Wärmebild von der Aufnahmevorrichtung eines ersten Kleinsatelli ten aufgenommen wurde während das vierte Wärmebild von der Aufnahme vorrichtung eines zweiten Kleinsatelliten aufgenommen wurde. Da Kleinsatel liten, wie beispielsweise CubeSats, im Vergleich zu geostationären Großsatelli ten, kostengünstiger in der Herstellung sind, ist es möglich, diverse Kleinsatel- liten einzusetzen um eine Zeitreihe mit hoher zeitlicher Auflösung der Mess größe innerhalb eines Gebietes zu generieren. These small satellites just described orbit the Earth generally in low Earth orbit. To realize a high temporal resolution, therefore, preferably the thermal images of several different small satellites, such as pico, nano, or microsatellites can be used, so that the second thermal image was taken by the receiving device of a first Kleinsatelli th while the fourth thermal image of the recording device a second small satellite was added. Since small satellites, such as CubeSats, are less expensive to produce compared to geostationary large satellites, it is possible to generate a time series with high temporal resolution of the measured quantity within a region.
Die vorliegende Beschreibung umfasst weiterhin ein Computerprogrammpro dukt zur Berechnung eines Wärmebildes, wobei das Computerprogrammpro dukt Instruktionen beinhaltet die, wenn sie auf einem Computer ausgeführt werden, das zuvor beschriebene Verfahren ausführen. Die Instruktionen kön nen dabei wahlweise Instruktionen zur Bestimmung eines räumlich hochauf gelösten und gleichzeitig messgenauen Wärmebildes eines Gebietes sein oder die Instruktionen können Instruktionen zur Bestimmung einer Zeitreihe der Messgröße innerhalb des Gebietes sein. In jedem Fall basieren die Instruktio nen auf Wärmebildern unterschiedlicher Satellitenplattformen, die durch eine entsprechende Empfangseinheit des Computers empfangen werden. The present description further includes a computer program product for calculating a thermal image, wherein the computer program product includes instructions that, when executed on a computer, perform the method described above. The instructions may optionally be instructions for determining a spatially highly resolved and simultaneously accurate thermal image of an area, or the instructions may be instructions for determining a time series of the measured variable within the area. In any case, the instructions are based on thermal images of different satellite platforms received by a corresponding receiving unit of the computer.
Der Computer kann hierbei ein stationärer PC sein, oder ein mobiler Compu ter. Der Computer kann auch teil eines verteilten Systems oder ein The computer can be a stationary PC or a mobile computer. The computer can also be part of a distributed system or a
cloudbasierter Dienst sein, der zur Ausführung von Programminstruktionen geeignet ist. cloud-based service suitable for executing program instructions.
Die zuvor mit Bezug auf das Verfahren oder die Vorrichtung zur Erstellung einer Wärmekarte beschriebenen Merkmale können weiterhin auch im Bezug auf das Verfahren, die Vorrichtung oder das Computerprogrammprodukt zum Einsatz kommen. The features described above with reference to the method or the device for creating a heat map can furthermore also be used in relation to the method, the device or the computer program product.
Weitere vorteilhafte Ausführungsformen sind nachfolgend anhand der Figu ren beschrieben. Als Messgröße wurde in diesem Fall aufgrund ihrer leichten Interpretierbarkeit die Temperatur gewählt. Alternativ können die Messwerte aber auch andere radiometrische Daten wie Strahldichten oder weitere durch die Sensoren der verwendeten Satelliten erfasste oder aus den erfassten Messwerten abgeleitete Daten umfassen. Es zeigen Further advantageous embodiments are described below with reference to the Figu ren. In this case, the temperature was chosen as the parameter because of its easy interpretability. Alternatively, however, the measurements may include other radiometric data such as radiances or other data acquired by the sensors of the satellites used or derived from the acquired measurements. Show it
Fig. 1 Eine schematische Darstellung einer Vorrichtung zur Bestimmung einer Wärmekarte eines Gebietes; Fig. 1 is a schematic representation of a device for determining a thermal map of an area;
Fig. 2 Eine schematische Darstellung eines Ablaufs des Verfahrens zur Be stimmung einer Wärmekarte eines Gebietes; Fig. 3A Schematische Darstellung eines mit einem ersten Satellit A aufge nommenen Wärmebildes der Erdoberfläche; Figure 2 is a schematic representation of a sequence of the method for Be mood of a heat map of an area. Fig. 3A Schematic representation of a recorded with a first satellite A thermal image of the earth's surface;
Fig. 3B Schematische Darstellung eines mit einem zweiten Satellit B zeitlich synchron zur Fig. 3B aufgenommenen Wärmebildes der Erdoberfläche; 3B Schematic representation of a thermal image of the earth's surface recorded synchronously with FIG. 3B with a second satellite B;
Fig. 4A Schematische Darstellung eines einzelnen Bildpunktes des von Satel lit A aufgenommenen Wärmebildes laut Fig. 3A; Fig. 4A Schematic representation of a single pixel of the recorded by Satel lit A thermal image according to Fig. 3A;
Fig. 4B Schematische Darstellung der Messung von Satellit B der gleichen Re gion wie in Fig. 4A gezeigt; Fig. 4B Schematic representation of the measurement of satellite B of the same region as shown in Fig. 4A;
Fig. 4C Schematische Darstellung der Bestimmten Wärmekarte auf Basis von Fig. 4B und einem bestimmten Temperaturversatz. 4C Schematic representation of the particular heat map based on FIG. 4B and a specific temperature offset.
Figur 1 zeigt eine Vorrichtung, zur Bestimmung einer Wärmekarte eines Ge bietes. Die Vorrichtung 101 umfasst eine Empfangseinheit 102, die Signale verschiedener Satelliten 104 und 105, die um die Erde 106 kreisen, empfan gen kann. Der Empfang der Signale der Satelliten 104, 105 erfolgt zumeist indirekt, das heißt nicht direkt vom Satelliten, sondern über ein Zwischengerät 107, welches die Signale des oder der Satelliten 104, 105 empfangen und dann weiterleiten oder zum Download bereitstellen. Die Empfangseinheit empfängt insbesondere Wärmebilddaten der Erdoberfläche, die von Aufnah mevorrichtungen der Satelliten 104 und 105 aufgenommen wurden. Um eine detaillierte Wärmekarte eines Gebietes mit hoher räumlicher Auflösung im Bereich von wenigen Metern bis weniger 10-Metern und hoher radiometri scher Messgenauigkeit, wie hoher Temperaturgenauigkeit zu erstellen, ist die Empfangsvorrichtung 102 konfiguriert zunächst ein erstes Wärmebild eines ersten Satelliten 104 und ein zweites Wärmebild eines zweiten Satelliten 105 zu empfangen. Figure 1 shows an apparatus for determining a heat map of a Ge territory. The device 101 comprises a receiving unit 102 which can receive signals from various satellites 104 and 105 which revolve around the earth 106. The reception of the signals of the satellites 104, 105 is usually indirect, that is not directly from the satellite, but via an intermediate device 107, which receive the signals of the satellite or satellites 104, 105 and then forward or make available for download. In particular, the receiving unit receives thermal imagery of the earth's surface taken by recording devices of the satellites 104 and 105. In order to produce a detailed thermal map of a high spatial resolution area in the range of a few meters to less than 10 meters and high radiometric accuracy, such as high temperature accuracy, the receiving device 102 first configures a first thermal image of a first satellite 104 and a second thermal image of a first second satellite 105 to receive.
Hierbei ist der erste Satellit 104 ein Großsatellit mit hoher Temperaturgenau igkeit, wie beispielsweise ein geostationärer Wettersatellit oder ein in einem niedrigen Erdorbit kreisender Großsatellit, wie beispielsweise ein Landsat.Here, the first satellite 104 is a large satellite with high temperature accuracy, such as a geostationary weather satellite or a large earth satellite orbiting in a low earth orbit, such as a Landsat.
Zum Erreichen einer Temperaturgenauigkeit von vorzugsweise unter 2 K ver- fügt der erste Satellit 104 über eingebaute Kalibrierungstechnik. Im Falle von einem geostationären ersten Satelliten, verfügt dieser erste Satellit 104 aber aufgrund seiner großen Entfernung zur Erde nur über ein recht grobes räumli ches Auflösungsvermögen, so dass die aufgenommenen Pixel eine Größe von mehreren Quadratkilometern haben. Wenn, alternativ, ein Großsatellit in ei nem niedrigen Erdorbit, wie beispielsweise ein Landsat, als erster Satellit 104 eingesetzt wird, so ist die räumliche Auflösung bereits besser als bei den zuvor beschriebenen geostationären Satelliten, aber es ist immer noch Potential zur Verbesserung unter Berücksichtigung räumlich höher auflösender Wärmebil der einer zweiten Satellitenplattform möglich. Beispielsweise verfügt Landsat 8 aktuell über eine Auflösung von 100 m. Durch die Verwendung eines kleinen Satelliten als Hilfssatellit kann diese Auflösung auf deutlich unter 60 m verbes sert werden. Mit Nachbearbeitung der Daten sind auch noch geringere Auflö sungen, beispielsweise unter 30 m möglich. To achieve a temperature accuracy of preferably less than 2 K adds the first satellite 104 via built-in calibration technology. In the case of a geostationary first satellite, however, this first satellite 104 has only a very large spatial resolution capability because of its great distance from the earth, so that the pixels recorded have a size of several square kilometers. Alternatively, if a large satellite is used as the first satellite 104 in a low Earth orbit, such as a Landsat, the spatial resolution is already better than in the previously described geostationary satellites, but there is still room for improvement with respect to space higher resolution heat of a second satellite platform possible. For example, Landsat 8 currently has a resolution of 100 m. By using a small satellite as an auxiliary satellite, this resolution can be improved to well below 60 m. With post-processing of the data, even lower resolutions, for example below 30 m, are possible.
Der zweite Satellit 105 ist ein Kleinsatellit oder CubeSat, der ein höheres räumliches Auflösungsvermögen im Vergleich zum ersten Satelliten hat, aber nur eine, im Vergleich zum ersten Satelliten, reduzierte Messgenauigkeit. The second satellite 105 is a small satellite or CubeSat, which has a higher spatial resolution compared to the first satellite, but only one compared to the first satellite, reduced measurement accuracy.
Die Empfangseinheit 102 der beschriebenen Vorrichtung empfängt zeitlich und synchron aufgenommene erste und zweite Wärmebilder von räumlich koregistrierten Landschaften der beiden Satelliten 104 und 105, d.h., die auf genommenen Teilgebiete der Erdoberfläche überlappen sich zumindest teil weise. Um nun eine präzise Wärmekarte eines Gebietes zu erstellen, die auf beiden Wärmebildern abgebildet ist, umfasst die Vorrichtung 101 weiterhin eine Bestimmungseinheit 103. The receiving unit 102 of the described device receives temporally and synchronously recorded first and second thermal images of spatially coregistered landscapes of the two satellites 104 and 105, that is, the recorded subregions of the earth's surface at least partially overlap. In order to now create a precise heat map of a region that is mapped on both thermal images, the device 101 further comprises a determination unit 103.
Die Bestimmungseinheit 103 ist konfiguriert einen Bildpunkt des ersten Wär mebildes des ersten Satelliten einer Gruppe von Bildpunkten des zweiten Wärmebildes des zweiten Satelliten räumlich zuzuordnen und einen Messgrö ßenversatz oder Temperaturversatz der Gruppe von Bildpunkten des zweiten Wärmebildes zu berechnen. Diese Berechnung erfolgt unter der Annahme, dass die Temperaturabweichung oder Messgrößenabweichung der Bildpunkte des zweiten Wärmebildes zumindest lokal konstant ist, d.h. dass die Abwei chung eines Bildpunktes sich nicht oder nur sehr gering von der Abweichung benachbarter Bildpunkte unterscheidet. Weiterhin erfolgt die Annahme, dass sich die (mit hoher Präzision gemessene) Messgröße oder Temperatur des Bildpunktes des ersten Wärmebildes als (gewichtete) Summe oder Linear kombination der zugeordneten Bildpunkte des zweiten Wärmebildes darstel len lässt. Somit lässt sich der Messgrößenversatz für die Gruppe von Bildpunk ten des zweiten Wärmebildes aus den relativen Messgrößenunterschieden der Bildpunkte der Gruppe des zweiten Wärmebildes und der aufgenomme nen Messgröße des zugeordneten Bildpunktes des ersten Wärmebildes be stimmen. Die Bestimmungseinheit 103 ist weiterhin konfiguriert, aus dem Messgrößenversatz und den aufgenommenen Messgrößen des zweiten Wär mebildes eine präzise Wärmekarte des Gebietes zu erstellen. The determination unit 103 is configured to spatially allocate a pixel of the first thermal image of the first satellite to a group of pixels of the second thermal image of the second satellite and to calculate a measured quantity offset or temperature offset of the group of pixels of the second thermal image. This calculation is based on the assumption that the temperature deviation or measured variable deviation of the pixels of the second thermal image is at least locally constant, ie that the deviation of a pixel is not or only very slightly different from the deviation of adjacent pixels. Furthermore, it is assumed that the (measured with high precision) measured variable or temperature of the pixel of the first thermal image can be represented as a (weighted) sum or linear combination of the assigned pixels of the second thermal image. Thus, the measured variable offset for the group of pixels of the second thermal image can be determined from the relative measured variable differences of the pixels of the group of the second thermal image and the recorded measured variable of the assigned pixel of the first thermal image. The determination unit 103 is further configured to create a precise heat map of the area from the measured variable offset and the recorded measured variables of the second heat map.
Figur 2 zeigt schematisch ein Verfahren zur Bestimmung einer präzisen Wär mekarte eines Gebiets, wobei das Verfahren beispielsweise durch die zuvor beschriebene Anordnung oder durch ein Computerprogrammprodukt, wel ches entsprechende Instruktionen zur Durchführung des Verfahrens umfasst, implementiert werden kann. FIG. 2 schematically shows a method for determining a precise heat map of a region, wherein the method can be implemented, for example, by the arrangement described above or by a computer program product which comprises corresponding instructions for carrying out the method.
Das hier beschriebene Verfahren zur Bestimmung der präzisen Wärmekarte eines Gebiets umfasst die folgenden Schritte: The method described here for determining the precise heat map of a region comprises the following steps:
S201: Empfangen eines ersten Wärmebildes einer ersten, das Gebiet umfas senden, Landschaft, welches durch eine Aufnahmevorrichtung eines ersten Satelliten aufgenommen wurde, wobei das erste Wärmebild Pixel umfasst, die dem Gebiet räumlich zugeordnet sind und das Wärmebild dem Gebiet pixel weise jeweils einen ersten aufgenommenen Messwertzuweist. S201: receiving a first thermal image of a first region comprising transmitting a landscape captured by a first satellite receiver, the first thermal image comprising pixels spatially associated with the region and the thermal image respectively pixel-wise capturing the region one first Messwertzuweist.
S202: Empfangen eines zweiten Wärmebildes einer zweiten, das Gebiet um fassenden, Landschaft, welches durch eine Aufnahmevorrichtung eines zwei ten Satelliten aufgenommen wurde, wobei das zweite Wärmebild Pixel um fasst, die dem Gebiet räumlich zugeordnet sind und das Wärmebild dem Ge biet pixelweise jeweils einen zweiten aufgenommenen Messwert zuweist. S202: receiving a second thermal image of a second area encompassing landscape captured by a capture device of a second satellite, the second thermal image comprising pixels spatially associated with the region and the thermal image one pixel at a time assigns the second recorded reading.
Es ist zu beachten, dass die Schritte S201 und S202 in beliebiger Reihenfolge oder auch gleichzeitig ausgeführt werden können. It should be noted that steps S201 and S202 may be performed in any order or at the same time.
Das empfangene erste und zweite Wärmebild müssen zur Durchführung des Verfahrens zusätzlich die folgenden Anforderungen erfüllen: zwischen der Aufnahme des ersten Satellitenbildes und der Aufnahme des zweiten Satelli tenbildes darf nur ein zeitlicher Versatz unterhalb einer festgelegten Schran ke, vorzugsweise unter 10 Minuten oder sogar unter 5 Minuten bestehen, da die Korrelation der thermischen Messwerte, die in den beiden Wärmebildern gegeben ist, bei einem größeren zeitlichen Abstand zwischen den Aufnahmen der beiden Bilder nicht oder nur schwierig möglich ist. Die zeitliche Schranke kann in Abhängigkeit von den vorliegenden Rahmenbedingungen gewählt werden. Bei gleichbleibenden Wetterbedingungen sind somit unter Umstän den längere Abstände zwischen den beiden Aufnahmen tolerierbar als bei wechselnden Wetterbedingungen. The received first and second thermal image must be used to carry out the Method additionally satisfy the following requirements: between the recording of the first satellite image and the recording of the second satellite image, there must be only a time offset below a fixed threshold, preferably less than 10 minutes or even less than 5 minutes, since the correlation of the thermal readings given in the two thermal images, with a greater time interval between the shots of the two images is not possible or only with difficulty. The time limit can be selected depending on the prevailing conditions. Under constant weather conditions, the longer distances between the two shots may be tolerated under circumstances as changing weather conditions.
Weiterhin ist eine radiometrische Präzision des ersten Wärmebildes, d.h. die Genauigkeit der aufgenommenen Messgröße, höher als eine radiometrische Präzision des zweiten Wärmebildes, wohingegen eine räumliche Auflösung des zweiten Wärmebildes höher ist als eine räumliche Auflösung des ersten Wärmebildes. Furthermore, a radiometric precision of the first thermal image, i. the accuracy of the recorded measured variable, higher than a radiometric precision of the second thermal image, whereas a spatial resolution of the second thermal image is higher than a spatial resolution of the first thermal image.
Nach dem Empfang der beiden Wärmebilder können die folgenden weiteren Verfahrensschritte ausgeführt werden: After receiving the two thermal images, the following further process steps can be carried out:
S203: Bestimmen eines Messgrößenversatzes einer ersten, dem Gebiet räumlich zugeordneten, Pixelgruppe des zweiten Wärmebildes, wobei die ers te Pixelgruppe eine Vielzahl von Pixeln umfasst, durch eine gewichtete Sum me relativer Messwerte der Pixel der ersten Pixelgruppe des zweiten Wärme bildes gegenüber dem ersten aufgenommenen Messwert des mindestens einen Pixels des ersten Wärmebildes, der der ersten Pixelgruppe des zweiten Wärmebildes zumindest teilweise räumlich zugeordnet ist. Hierbei wird bei spielsweise der Mittelwert der Messwerte der ersten Pixelgruppe bestimmt um dann den Versatz, beispielsweise als Differenz, zu dem oder den zugeord neten Messwerten des ersten Gebiets des ersten Wärmebildes zu bestimmen. S203: determining a measurement offset of a first spatially associated pixel group of the second thermal image, wherein the first pixel group comprises a plurality of pixels by a weighted sum of relative measurements of the pixels of the first pixel group of the second thermal image versus the first acquired measurement the at least one pixel of the first thermal image, which is at least partially spatially associated with the first pixel group of the second thermal image. In this case, for example, the mean value of the measured values of the first pixel group is determined in order then to determine the offset, for example as a difference, to the assigned measured value or values of the first region of the first thermal image.
S204: Bestimmen korrigierter absoluter Messwerte der dem Gebiet zu geordneten Pixel der ersten Pixelgruppe basierend auf den zweiten gemesse nen Messwerten der Pixel der ersten Pixelgruppe sowie des Messwertversat- zes. S205: Erstellung der präzisen Wärmekarte des Gebietes auf Grundlage der korrigierten absoluten Messwerte. S204: determining corrected absolute measurements of the pixels of the first pixel group ordered to the region based on the second measured measured values of the pixels of the first pixel group and of the measured value offset. S205: Creation of the precise heat map of the area based on the corrected absolute measurements.
Das eben beschriebene Verfahren zum Bestimmen räumlich hochauflösender Wärmekarten mit hoher Messgenauigkeit wird weiterhin anhand der Figuren 3A, 3B, 4A, 4B und 4C beschrieben. Das hier vorgestellte Verfahren kombiniert die radiometrische Genauigkeit großer Satellitenplattformen mit dem räumli chen Auflösungsvermögen einer zweiten Satellitenplattform, bspw. eines Kleinsatelliten oder CubeSats. Das Verfahren basiert auf der Annahme, dass sich die spezifische Intensität (Strahldichte, radiance) eines Bildpunkts aus der Linearkombination seiner Subpixelkomponenten ergibt (linear mixing model). Als große Satellitenplattform dient idealerweise eine solche mit einer sehr hohen radiometrischen Präzision (Sentinel-3) und gleichzeitig hoher zeitlicher Auflösung (Meteosat Second und Third Generation). The above-described method for determining spatially high-resolution thermal maps with high measurement accuracy will be further described with reference to FIGS. 3A, 3B, 4A, 4B and 4C. The method presented here combines the radiometric accuracy of large satellite platforms with the spatial resolution of a second satellite platform, such as a small satellite or CubeSat. The method is based on the assumption that the specific intensity (radiance) of a pixel results from the linear combination of its subpixel components (linear mixing model). As a large satellite platform ideally one with a very high radiometric precision (Sentinel-3) and simultaneously high temporal resolution (Meteosat Second and Third Generation) is used.
Einzige Voraussetzung für den zusätzlichen, kleineren Satelliten ist dabei, dass dieser die Möglichkeit zur synchronen Aufnahme besitzt, also IR-Bilder der gleichen Region zur gleichen Zeit aufnimmt. Die aufgenommenen Bilder sind schematisch für beide Satelliten in Figuren 3A und 3B dargestellt, wobei in diesem Fall die Temperatur als relevante Messgröße gewählt wurde. Dabei bezeichnet Satellit A (Figur 3A) die Plattform mit hoher radiometrischer Präzi sion und Satellit B (Figur 3B) die Plattform mit hoher räumlicher Auflösung. The only prerequisite for the additional, smaller satellite is that it has the possibility of synchronous recording, so records IR images of the same region at the same time. The recorded images are shown schematically for both satellites in FIGS. 3A and 3B, in which case the temperature was selected as the relevant measured variable. In this case, satellite A (FIG. 3A) designates the platform with high radiometric precision and satellite B (FIG. 3B) the platform with high spatial resolution.
Das eingezeichnete Gitter zeigt, welche Bereiche des Bildes von Satellit B wel chem Bildpunkt von Satellit A zuzuordnen sind. Die Daten von Satellit B besit zen einen nicht bekannten Temperaturversatz DG bei der Messung der Strah lungstemperatur, der eine genaue absolute Temperaturbestimmung für Satel lit B alleine nicht zulässt. Relative Temperaturdifferenzen, bspw. zwischen angrenzenden Bildpunkten, werden von Satellit B korrekt gemessen (sicherge stellt durch eine vorherige Kalibrierung des Instruments). The drawn grid shows which areas of the satellite image B are to be assigned to the satellite of satellite A. The data from satellite B has an unknown temperature offset DG in the measurement of the radiation temperature, which does not allow an exact absolute temperature determination for satellite B alone. Relative temperature differences, for example between adjacent pixels, are correctly measured by satellite B (ensured by a previous calibration of the instrument).
Durch die Aufnahme von Satellit A ist der Mittelwert einer jeder eingezeichne te Gitterzelle aus dem Bild von Satellit B bekannt. Damit kann der noch unbe kannte Temperaturversatz DG herausgerechnet werden. Dieser ist gegeben durch die Differenz der Mittelwerte einer jeden Zelle beider Bilder, By recording satellite A, the average of each subscribed te grid cell from the image of satellite B is known. Thus, the still unknown temperature offset DG can be excluded. This is given by the difference of the mean values of each cell of both images,
Dabei gilt It applies
^ O^ y) ist die gemessene Temperatur von Satellit A in der Zelle (x, y) und TB (i,j ) der Temperaturmessung von Satellit B in allen Bildpunkten (i,/), die innerhalb dieser Zelle (x, y) von Satellit A mit je einem Flächenanteil von w(i,j ) liegen. ^ O ^ y) is the measured temperature of satellite A in the cell (x, y) and T B (i, j) of the temperature measurement of satellite B in all pixels (i, /) inside this cell (x, y ) of satellite A, each with an areal fraction of w (i, j).
Das Messverfahren ist schematisch für eine einzelne Zelle in Figuren 4A, 4B und 4C dargestellt: Der Mittelwert aller dargestellten Bildpunkte von Satellit B (Figur 4B) entspricht noch nicht dem Wert des korrespondierenden Bildpunkts von Satellit A (Figur 4A). Durch Abzug eines sich aus der Differenz ergebenden Temperaturversatzes wird die gesamte Zelle des Bildes von Satellit B kalibriert und besitzt nun den gleichen Mittelwert wie von Satellit A aufgenommen (Fi gur 4C). The measurement method is illustrated schematically for a single cell in FIGS. 4A, 4B and 4C: the mean value of all pixels of satellite B (FIG. 4B) shown does not yet correspond to the value of the corresponding pixel of satellite A (FIG. 4A). By subtracting a temperature offset resulting from the difference, the entire cell of the image is calibrated by satellite B and now has the same mean value as recorded by satellite A (Figure 4C).
Es gibt mehrere Vorteile gegenüber bereits existierenden Lösungen: There are several advantages over existing solutions:
Das vorgestellte Verfahren verbindet die Vorteile beider Messungen, hohe radiometrische Präzision auf der einen Seite und hohe räumliche Auflösung auf der anderen Seite, ohne auf weitere Datenquellen zugreifen zu müssen. Damit sind Auflösungen von der Größenordnung weniger Meter realisierbar, was gerade für Anwendungen im Bereich der UHI und der satellitengestützten Landwirtschaft von großer Bedeutung ist.  The presented method combines the advantages of both measurements, high radiometric precision on the one hand and high spatial resolution on the other without having to access additional data sources. This enables resolutions of the order of a few meters, which is of great importance for applications in the field of UHI and satellite-based agriculture.
Durch die hohe räumliche Auflösung von Satellit B muss kein oder ein nur sehr begrenztes Downsampling erfolgen und die Anzahl der Oberflächenklassen pro Pixel ist bei einer hohen Auflösung deutlich verringert, was die Stabilität und Genauigkeit der Landoberflächentemperatur erhöht, welche unter Be rücksichtigung von Landoberflächenmodellen und bekannten Emissionsgra den aus der durch die bestimmte Wärmekarte gegebene Strahlungstempera- tur bestimmt werden kann. Due to the high spatial resolution of satellite B, no or very limited down-sampling is required and the number of surface classes per pixel is significantly reduced at high resolution, which increases the stability and accuracy of the surface temperature, taking into account land surface models and known emission levels the radiation temperature given by the particular heat map can be determined.
Weiterhin wird eine Verwendung der instabilen Korrelation zwischen visuellen und IR Bildern vermieden und der Effekt der Temperaturhomogenisierung durch die Wahl von zu wenigen Oberflächenklassen wird deutlich abgemil dert. Außerdem werden Fehler durch eine große Auflösungslücke zwischen Bodenauflösung des Satellitensensors und Auflösung der Hilfsdaten vermie den. Furthermore, use of the unstable correlation between visual and IR images is avoided and the effect of temperature homogenization by choosing too few surface classes is significantly reduced. In addition, errors are avoided by a large resolution gap between ground resolution of the satellite sensor and resolution of the auxiliary data.
Es existieren bereits Thermaldaten mit hoher radiometrischer Präzision, die als Kalibriermaßstab für das Konzept dienen können. So bietet Copernicus über Sentinel-3 Temperaturdaten mit < 0.2 K Genauigkeit an bei einer Auflö sung von 1 km2. Diese Daten sind über das Copernicus-Programm frei und offen zugänglich. Meteosat-9 bietet etwa 9 - 15 km2 Auflösung bei einer Tem peraturgenauigkeit von etwa 2 K und einer zeitlichen Auflösung von wenigen Minuten bei großflächiger Abdeckung. There are already thermal data with high radiometric precision, which can serve as a calibration standard for the concept. For example, Copernicus offers Sentinel-3 temperature data with <0.2 K accuracy at a resolution of 1 km 2 . These data are freely accessible through the Copernicus program. Meteosat-9 offers about 9 - 15 km 2 resolution with a temperature accuracy of about 2 K and a temporal resolution of a few minutes for large area coverage.
Mit einer zeitlichen Wiederholrate von ungefähr 10 - 15, oder bis zu 5 Minu ten über Europa durch Meteosat-9 kann zudem eine zeitliche und räumliche Synchronisation der beiden Datenströme leicht erfolgen. Moreover, with Meteosat-9 having a repetition rate of around 10-15, or up to 5 minutes across Europe, temporal and spatial synchronization of the two streams can easily be achieved.
Damit eignet sich das Konzept auch für Messungen mit hohen zeitlichen Wie derholraten bei Verwendung mehrerer (Klein-)Satelliten in einer geeigneten Konstellation. Somit kann eine Zeitreihe der Messgröße innerhalb eines Ge bietes erstellt werden, die eine Analyse und/oder Visualisierung der Messgrö ßenveränderung eines Gebietes im Laufe einer bestimmten Zeitspanne, bei spielsweise im Laufe eines Tages, ermöglicht. Thus, the concept is also suitable for measurements with high temporal repetition rates when using multiple (small) satellites in a suitable constellation. Thus, a time series of the measured variable can be created within a region which enables an analysis and / or visualization of the change in the size of an area over a certain period of time, for example over the course of a day.
Hierbei werden zuvor bestimmte Wärmekarten eines Gebietes zu einer Zeit reihe zusammengefasst, wobei die Aufnahmezeitpunkte jeweils zwei konseku tive Wärmekarten der Zeitreihe jeweils innerhalb einer festgelegten Zeitspan ne liegen. Als Aufnahmezeitpunkt einer Wärmekarte kann hierbei der Zeit punkt der Aufnahme der dieser Wärmekarte zugeordneten ersten und zwei ten Wärmebilder betrachtet werden oder, bei einem geringen zeitlichen Ver satz der beiden synchronen Aufnahmen der Wärmebilder durch die beiden verwendeten Satelliten, auch ein mittlerer Zeitpunkt oder ein Paar der beiden Aufnahmezeitpunkte der Wärmebilder. Die festgelegte Zeitspanne kann je nach Anwendung unterschiedlich sein, liegt aber in vielen Fällen innerhalb weniger Stunden, unter einer Stunde oder sogar im Bereich von etwa 10 Mi nuten. Die Aufnahme mehrerer konsekutiver Bilder jeweils innerhalb der fest gelegten Zeitspanne kann daher in vielen Fällen nur durch einen geostationä ren Satelliten oder durch eine Vielzahl von Satelliten in einem niedrigen Erdorbit erfolgen. In this case, previously determined heat maps of a region are combined to form a time series, the recording times in each case being two consecutive heat maps of the time series each within a defined time span. As a recording time of a heat map in this case the time point of recording the heat map associated with this first and two th thermal images are considered or, with a small temporal Ver rate of the two synchronous recordings of the thermal images through the two satellites used, a mean time or a pair of both Recording times of the thermal images. The fixed period of time may vary depending on the application, but in many cases it is within a few hours, less than an hour, or even in the range of about 10 minutes. The inclusion of several consecutive images each within the specified period of time can therefore be done in many cases only by a geostationä ren satellite or by a plurality of satellites in a low Earth orbit.
Die Anforderungen an den IR-Detektor von Satellit B sind relativ gering, so dass sich der Ansatz für die Verwendung in im Vergleich zu traditionellen Sa tellitenmissionen deutlich günstigeren Kleinsatelliten oder CubeSats eignet. Somit ist eine Verbesserung der bisher verfügbaren räumlichen Auflösung um mehrere Größenordnungen bei einem Bruchteil der Kosten einer traditionel len Satellitenmission möglich. Die maximal erreichbare räumliche Auflösung ist quasi nur durch den Detektor und die Optik des Satelliten limitiert. The requirements for the IR detector of satellite B are relatively low, so that the approach is suitable for use in comparison to traditional satellite missions much cheaper small satellites or CubeSats. Thus, an improvement of the previously available spatial resolution by several orders of magnitude at a fraction of the cost of a traditional len satellite mission is possible. The maximum attainable spatial resolution is quasi limited only by the detector and the optics of the satellite.
Eine aufwendige und komplexe absolute Kalibrierung des Detektors an Bord von Satellit B entfällt, ohne dass sich dadurch die Genauigkeit der resultieren den Landoberflächentemperatur verschlechtert. Die Lösung benötigt kein Tra cking oder Erkennung von Objekten im Bild und keine Bodenmessungen. A complex and complex absolute calibration of the detector aboard satellite B is eliminated, without thereby deteriorating the accuracy of the resulting surface temperature of the land. The solution does not require tracing or recognition of objects in the image and no ground measurements.
Die deutliche Erhöhung der räumlichen Auflösung ohne die Einführung von durch Downsampling generierten Fehlerquellen ermöglich eine Vielzahl neuer oder verbesserter Applikationen, bspw. bei der lokalisierten Vorhersage von Verkehrsbedingungen (z.B. nasse oder verreiste Straßen), in der Umweltfor schung (z.B. Bewegung von Schotterablagerungen auf Gletschern, Waldbrän den), in der Landwirtschaft (Vegetationsgesundheit über Evapotranspiration), in der Medizin (z.B. Gesundheitsrisiko von Überhitzung) sowie, eng damit ver bunden, bei der Städteplanung (z.B. Energieeffizienzbestimmung von Gebäu den oder Messung des städtischen Mikroklimas). The significant increase in spatial resolution without the introduction of error sources generated by downsampling allows a variety of new or improved applications, for example in the localized prediction of traffic conditions (eg wet or traveled roads), in the environmental research (eg movement of gravel deposits on glaciers, Forest fires), in agriculture (vegetation health via evapotranspiration), in medicine (eg health risk of overheating) and, closely related to this, in urban planning (eg energy efficiency assessment of buildings or measurement of the urban microclimate).
Letztere ist als Applikation besonders interessant, um die Effekte von urbanen Hitzeinseln und entsprechenden Gegenmaßnahmen zu untersuchen. Eine Er höhung der Auflösung von Quadratkilometern auf die Größe eines Gebäudes oder Gebäudeblocks liefert wichtige Informationen zur Energieeffizienz, zur Temperaturentwicklung sowie zum Einfluss von Grünanlagen, begrünten oder reflektierenden Dächern oder offenen Wasserflächen auf städtisches Klima. Bisher basieren entsprechende Erhebungen auf einem Stückwerk aus simu lierten Modellen zusammen mit vereinzelten Bodenmessungen sowie Daten, die durch eines der oben beschriebenen Downsamplingverfahren erzeugt wurden. Eine zeitlich und räumlich hoch aufgelöste Methode kann helfen, dieThe latter is particularly interesting as an application to investigate the effects of urban heat islands and corresponding countermeasures. Increasing the resolution of square kilometers to the size of a building or block of buildings provides important information on energy efficiency, temperature development, and the impact of green, green, or green spaces reflecting roofs or open water surfaces on urban climate. So far, corresponding surveys are based on a piecework of simulated models together with isolated soil measurements as well as data generated by one of the downsampling methods described above. A temporally and spatially high resolution method can help that
Städte der Zukunft gesünder und umweltfreundlicher zu planen. To plan cities of the future healthier and more environmentally friendly.

Claims

FRAUNHOFER-GESELLSCHAFT...e.V. 197PCT 1297 Patentansprüche FRAUNHOFER-GESELLSCHAFT ... eV 197PCT 1297 Claims
1. Verfahren zur Erstellung einer Wärmekarte eines Gebietes, umfassend die folgenden Schritte: A method of creating a thermal map of an area, comprising the following steps:
Empfangen eines ersten Wärmebildes einer ersten, das Gebiet um fassenden, Landschaft, welches durch eine Aufnahmevorrichtung eines ersten Satelliten (104) aufgenommen wurde, wobei das erste Wärmebild Pixel umfasst, die dem Gebiet räumlich zugeordnet sind und das Wärmebild dem Gebiet pixelweise jeweils einen ersten Messwert zuweist (S201);  Receiving a first thermal image of a first region encompassing the landscape taken by a capture device of a first satellite (104), wherein the first thermal image comprises pixels spatially associated with the region and the thermal image provides the region pixel by pixel a first measurement value assigns (S201);
Empfangen eines zweiten Wärmebildes einer zweiten, das Gebiet umfassenden, Landschaft, welches durch eine Aufnahmevorrich tung eines zweiten Satelliten (105) aufgenommen wurde, wobei das zweite Wärmebild Pixel umfasst, die dem Gebiet räumlich zu geordnet sind und das Wärmebild dem Gebiet pixelweise jeweils einen zweiten Messwert zuweist (S202);  Receiving a second thermal image of a second region comprising the region taken by a host device of a second satellite (105), the second thermal image comprising pixels spatially associated with the region and the thermal image providing the region pixel-wise with a second one Assigns measured value (S202);
wobei zwischen der Aufnahme des ersten Wärmebildes und der Aufnahme des zweiten Wärmebildes ein zeitlicher Versatz unter halb einer festgelegten Schranke besteht; und eine radiometrische Präzision des ersten Wärmebildes höher ist als eine radiometrische Präzision des zweiten Wärmebildes; und eine räumliche Auflösung des zweiten Wärmebildes höher ist als eine räumliche Auflösung des ersten Wärmebildes;  wherein between the recording of the first thermal image and the recording of the second thermal image, a time offset below half a predetermined barrier exists; and a radiometric precision of the first thermal image is higher than a radiometric precision of the second thermal image; and a spatial resolution of the second thermal image is higher than a spatial resolution of the first thermal image;
Bestimmen eines Messwerteversatzes einer ersten, dem Gebiet räumlich zugeordneten, Pixelgruppe des zweiten Wärmebildes, wobei die erste Pixelgruppe eine Vielzahl von Pixeln umfasst, durch einen Vergleich relativer Messwerte der Pixel der ersten Pixelgrup pe des zweiten Wärmebildes gegenüber dem ersten Messwert des mindestens einen Pixels des ersten Wärmebildes, der der ersten Pixelgruppe des zweiten Wärmebildes zumindest teilweise räum lich zugeordnet ist (S203), Bestimmen korrigierter absoluter Messwerte der dem Gebiet zu geordneten Pixel der ersten Pixelgruppe basierend auf den zweiten Messwerten der Pixel der ersten Pixelgruppe sowie des Messwer teversatzes (S204); und Determining a measured value offset of a first, spatially assigned, pixel group of the second thermal image, the first pixel group comprising a plurality of pixels, by comparing relative measurements of the pixels of the first pixel group of the second thermal image to the first measurement of the at least one pixel of the first Thermal image which is at least partially spatially associated with the first pixel group of the second thermal image (S203), Determining corrected absolute measurements of the pixels of the first pixel group ordered to the region based on the second measurements of the pixels of the first pixel group and the measured value offset (S204); and
Erstellung der präzisen Wärmekarte des Gebietes auf Grundlage der korrigierten absoluten Messwerte (S205).  Creation of the precise heat map of the area based on the corrected absolute measurements (S205).
2. Verfahren gemäß Anspruch 1, wobei das Verfahren insbesondere um fasst: das Bestimmen des Messwerteversatzes der ersten Pixelgruppe des zweiten Wärmebildes durch einen Vergleich relativer Messwerte der ersten Pixelgruppe des zweiten Wärmebildes gegenüber dem ers ten Messwert des der ersten Pixelgruppe des zweiten Wärmebildes räumlich zugeordneten Pixels des ersten Wärmebildes. 2. The method of claim 1, wherein the method comprises, in particular: determining the measured value offset of the first pixel group of the second thermal image by comparing relative measured values of the first pixel group of the second thermal image to the first measured value of the spatially associated pixel of the first pixel group of the second thermal image of the first thermal image.
3. Verfahren gemäß einem der vorhergehenden Ansprüche, weiterhin umfassend, ein Bestimmen von Landoberflächentemperaturen des Gebietes basierend auf der präzisen Wärmekarte und Landoberflä chenmodellen und/oder Emissionsmodellen. 3. The method of claim 1, further comprising determining land surface temperatures of the area based on the precise heat map and land surface models and / or emission models.
4. Verfahren gemäß einem der vorhergehenden Ansprüche, wobei die Wärmebilder Infrarotbilder sind. 4. The method according to any one of the preceding claims, wherein the thermal images are infrared images.
5. Verfahren gemäß einem der vorhergehenden Ansprüche, wobei die räumliche Auflösung des zweiten Wärmebildes mindestens eine oder zwei Größenordnungen höher ist als die räumliche Auflösung des zwei ten Wärmebildes. 5. The method according to any one of the preceding claims, wherein the spatial resolution of the second thermal image is at least one or two orders of magnitude higher than the spatial resolution of the second thermal image th.
6. Verfahren oder Anordnung gemäß einem der vorhergehenden Ansprü che, wobei die Messwerte Temperaturwerte sind und eine radiometri sche Abweichung des ersten Wärmebildes pro Pixel unter 2K beträgt und die radiometrische Abweichung des zweiten Wärmebildes im Mit tel über 2K beträgt. 6. The method or arrangement according to one of the preceding claims, wherein the measured values are temperature values and a radiometric deviation of the first thermal image per pixel is below 2K and the radiometric deviation of the second thermal image in the center is greater than 2K.
7. Verfahren gemäß einem der vorhergehenden Ansprüche, wobei das erste Wärmebild durch eine zur Erhöhung der radiometrischen Präzisi on kalibrierte Aufnahmevorrichtung des ersten Satelliten aufgenom men wurde. 7. The method according to any one of the preceding claims, wherein the first thermal image was recorded by a calibrated to increase the radiometric Präzisi on recording device of the first satellite men.
8. Verfahren gemäß einem der vorhergehenden Ansprüche, wobei das erste Wärmebild durch die Aufnahmevorrichtung einer großen Satelli tenplattform, beispielsweise eines geostationären Satelliten in einem hohen Erdorbit oder eines großen, nicht-geostationären Satelliten in einem niedrigen Erdorbit aufgenommen wurde. 8. The method according to claim 1, wherein the first thermal image has been recorded by the recording device of a large satellite platform, for example a geostationary satellite in a high earth orbit, or a large, non-geostationary satellite in a low earth orbit.
9. Verfahren gemäß einem der vorhergehenden Ansprüche, wobei das zweite Wärmebild durch die Aufnahmevorrichtung eines Kleinsatelli ten aufgenommen wurde. 9. The method according to any one of the preceding claims, wherein the second thermal image was taken by the receiving device of a Kleinsatelli th.
10. Verfahren zur Bestimmung einer Veränderung von Temperaturen ei nes Gebietes über einen Zeitraum beinhaltend die folgenden Schritte: 10. A method of determining a change in temperatures of an area over a period of time, comprising the following steps:
Bestimmen einer ersten Wärmekarte des Gebietes zu einem ersten Zeitpunkt gemäß dem Verfahren nach einem der Ansprüche 1 bis 9 unter Verwendung eines ersten und zweiten empfangenen Wär mebildes; Determining a first thermal map of the area at a first time in accordance with the method of any one of claims 1 to 9 using first and second received thermal images;
Bestimmen einer zweiten Wärmekarte des Gebietes zu einem zweiten Zeitpunkt gemäß dem Verfahren nach einem der Ansprü che 1 bis 9 unter Verwendung eines dritten und vierten empfange nen Wärmebildes, Determining a second thermal map of the area at a second time according to the method of any one of claims 1 to 9 using a third and fourth received thermal image,
Erstellen einer Zeitreihe der Temperatur des Gebietes basierend auf der ersten und zweiten Wärmekarte. Creating a time series of the temperature of the area based on the first and second heat maps.
11. Verfahren gemäß Anspruch 10, wobei der erste und der zweite Zeit punkt innerhalb von einer festgelegten Zeitspanne liegen und das erste und das dritte Wärmebild jeweils eine hohe radiometrische Präzision haben und jeweils von einer ersten, großen Satellitenplattform aufge nommen wurden, das zweite Wärmebild eine hohe räumliche Auflö sung hat und von der Aufnahmevorrichtung eines zweiten Satelliten aufgenommen wurde und das vierte Wärmebild eine hohe räumliche Auflösung hat und von der Aufnahmevorrichtung eines dritten Satelli ten aufgenommen wurde, wobei der zweite und dritte Satellit unter schiedliche Kleinsatelliten sind. 11. The method of claim 10, wherein the first and the second time point are within a predetermined period of time and the first and the third thermal image each have a high radiometric precision and were each taken from a first, large satellite platform, the second thermal image has high spatial resolution and was recorded by the recording device of a second satellite and the fourth thermal image has a high spatial resolution and was recorded by the recording device of a third satellite th, the second and third satellite are under different small satellites.
12. Verfahren gemäß Anspruch 10 oder 11, weiterhin umfassend die fol genden Schritte: 12. The method according to claim 10 or 11, further comprising the fol lowing steps:
Bestimmen einer Vielzahl von zusätzlichen Wärmekarten des Ge bietes zu zusätzlichen Zeitpunkten, wobei jeweils zwei konsekutive Zeitpunkte der zusätzlichen Zeitpunkte jeweils innerhalb einer festgelegten Zeitspanne liegen, und Determining a plurality of additional heat maps of the area at additional times, each two consecutive points in time of the additional points being within a specified period of time, and
Erstellen einer Zeitreihe der Temperatur des Gebietes basierend auf der ersten Wärmekarte, der zweiten Wärmekarte und den zu sätzlichen Wärmekarten.  Creating a time series of the temperature of the area based on the first heat map, the second heat map and the additional heat maps.
13. Computerprogrammprodukt zur Bestimmung einer Wärmekarte eines Gebietes oder Verfahren zur Bestimmung einer Veränderung von Temperaturen eines Gebietes, wobei das Computerprogrammprodukt Instruktionen umfasst, die, wenn ausgeführt auf einem Computer, das Verfahren nach einem der Ansprüche 1 bis 12 ausführen. A computer program product for determining a thermal map of a region or a method for determining a change in temperatures of a region, the computer program product comprising instructions that, when executed on a computer, perform the method of any one of claims 1 to 12.
14. Vorrichtung (101) zur Erstellung einer Wärmekarte eines Gebietes um fassend mindestens eine Empfangseinheit (102) konfiguriert zum 14. Device (101) for creating a thermal map of a region comprising at least one receiving unit (102) configured for
Empfangen eines ersten Wärmebildes einer ersten, das Gebiet um fassenden, Landschaft, welches durch eine Aufnahmevorrichtung eines ersten Satelliten (104) aufgenommen wurde, wobei das erste Wärmebild Pixel umfasst, die dem Gebiet räumlich zugeordnet sind und das Wärmebild dem Gebiet pixelweise jeweils einen ersten Messwert zuweist, Receiving a first thermal image of a first region encompassing the landscape taken by a capture device of a first satellite (104), wherein the first thermal image comprises pixels spatially associated with the region and the thermal image provides the region pixel by pixel a first measurement value assigns,
Empfangen eines zweiten Wärmebildes einer zweiten, das Gebiet umfassenden, Landschaft, welches durch eine Aufnahmevorrich tung eines zweiten Satelliten (105) aufgenommen wurde, wobei das zweite Wärmebild Pixel umfasst, die dem Gebiet räumlich zu geordnet sind und das zweite Wärmebild dem Gebiet pixelweise einen zweiten Messwert zuweist, wobei zwischen der Aufnahme des ersten Wärmebildes und der Aufnahme des zweiten Wärmebildes ein zeitlicher Versatz unter halb einer festgelegten Schranke besteht; und eine radiometrische Präzision des ersten Wärmebildes höher ist als eine radiometrische Präzision des zweiten Wärmebildes; und eine räumliche Auflösung des zweiten Wärmebildes höher ist als eine räumliche Auflösung des ersten Wärmebildes; Receiving a second thermal image of a second region comprising the area taken by a host of a second satellite (105), the second thermal image comprising pixels spatially associated with the area and the second thermal image providing the area pixelwise with a second one Assigns metric wherein between the recording of the first thermal image and the recording of the second thermal image, a time offset below half a predetermined barrier exists; and a radiometric precision of the first thermal image is higher than a radiometric precision of the second thermal image; and a spatial resolution of the second thermal image is higher than a spatial resolution of the first thermal image;
Bestimmungseinheit (103) konfiguriert zum Determination unit (103) configured for
Bestimmen eines Messwerteversatzes einer ersten, dem Gebiet räumlich zugeordneten, Pixelgruppe des zweiten Wärmebildes, wobei die erste Pixelgruppe eine Vielzahl von Pixeln umfasst, durch einen Vergleich relativer Messwerte der Pixel der ersten Pixelgrup pe gegenüber dem ersten Messwert des mindestens einen Pixels des ersten Wärmebildes, der der ersten Pixelgruppe des zweiten Wärmebildes zumindest teilweise räumlich zugeordnet ist; Determining a measured value offset of a first, spatially assigned, pixel group of the second thermal image, wherein the first pixel group comprises a plurality of pixels, by comparing relative measured values of the pixels of the first pixel group to the first measured value of the at least one pixel of the first thermal image the first pixel group of the second thermal image is at least partially spatially associated;
Bestimmen korrigierter absoluter Messwerte der Pixel der ersten Pixelgruppe basierend auf den zweiten gemessenen Temperatur werten der Pixel der ersten Pixelgruppe sowie des Messwertever satzes; Erstellen der Wärmekarte des Gebietes auf Grundlage der korri gierten absoluten Messwerte. Determining corrected absolute measurements of the pixels of the first pixel group based on the second measured temperature values of the pixels of the first pixel group and the measured value offset; Creating the heat map of the area based on the corrected absolute readings.
EP19724144.1A 2018-05-09 2019-05-08 Correlation of thermal satellite image data for generating thermal maps at high spatial resolution Active EP3791359B1 (en)

Applications Claiming Priority (2)

Application Number Priority Date Filing Date Title
DE102018207265.5A DE102018207265A1 (en) 2018-05-09 2018-05-09 CORRELATION OF THERMAL SATELLITE IMAGE DATA FOR GENERATING SPATIAL HIGH-RESOLUTION HEAT CARDS
PCT/EP2019/061790 WO2019215210A1 (en) 2018-05-09 2019-05-08 Correlation of thermal satellite image data for generating thermal maps at high spatial resolution

Publications (2)

Publication Number Publication Date
EP3791359A1 true EP3791359A1 (en) 2021-03-17
EP3791359B1 EP3791359B1 (en) 2022-07-06

Family

ID=66542235

Family Applications (1)

Application Number Title Priority Date Filing Date
EP19724144.1A Active EP3791359B1 (en) 2018-05-09 2019-05-08 Correlation of thermal satellite image data for generating thermal maps at high spatial resolution

Country Status (7)

Country Link
US (1) US20210319590A1 (en)
EP (1) EP3791359B1 (en)
JP (1) JP7334879B2 (en)
CN (1) CN112106106B (en)
DE (1) DE102018207265A1 (en)
ES (1) ES2927925T3 (en)
WO (1) WO2019215210A1 (en)

Families Citing this family (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US11471717B1 (en) * 2018-12-31 2022-10-18 Vlad Novotny Early fire detection and suppression
WO2020250706A1 (en) * 2019-06-12 2020-12-17 ソニー株式会社 Image processing method and metadata data structure
DE102020201496A1 (en) * 2020-02-07 2021-08-12 Fraunhofer-Gesellschaft zur Förderung der angewandten Forschung eingetragener Verein Procedure for georeferencing remote sensing data
US11835390B2 (en) * 2020-04-14 2023-12-05 Utah State University Spatially estimating thermal emissivity
CN114494377B (en) * 2022-02-16 2023-05-26 中国科学院空天信息创新研究院 Construction method of directional emissivity model of pixel scale

Family Cites Families (13)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
FR2731819B1 (en) * 1995-03-17 1997-04-11 Alsthom Cge Alcatel CONTOUR EXTRACTION METHOD USING MULTI-FRACTAL ANALYSIS
WO2004001659A1 (en) * 2001-12-17 2003-12-31 Digitalglobe Inc. System, method, and apparatus for satellite remote sensing
US7194107B2 (en) * 2003-06-30 2007-03-20 The Boeing Company System and method for augmented thermal imagery
DE602007013764D1 (en) * 2006-07-28 2011-05-19 Telespazio Spa AUTOMATIC DETECTION OF FIRE ON THE EARTH SURFACE AND ATMOSPHERIC PHENOMENONS SUCH AS CLOUDS, MUD, MIST, OR THE SAME THROUGH A SATELLITE SYSTEM
JP4425983B1 (en) * 2009-03-18 2010-03-03 株式会社パスコ Method and apparatus for evaluating solar radiation
CN102693676A (en) * 2011-03-24 2012-09-26 昆达电脑科技(昆山)有限公司 Map, positioning device, positioning system and positioning method thereof
US20130250104A1 (en) * 2012-03-20 2013-09-26 Global Science & Technology, Inc Low cost satellite imaging method calibrated by correlation to landsat data
US20140027576A1 (en) * 2012-07-25 2014-01-30 Planet Labs Inc. Earth Observation Constellation Methodology & Applications
CN104813652B (en) * 2012-09-18 2018-03-09 菲力尔系统公司 The noise reduction of pixel in thermal image
DE102012221667A1 (en) * 2012-11-27 2014-05-28 Deutsches Zentrum für Luft- und Raumfahrt e.V. Apparatus and method for processing remote sensing data
DE102014014737A1 (en) * 2014-10-09 2016-04-14 Testo Ag Method and thermal imaging device for generating radiometric images with increased resolution in some areas
EP4036868A1 (en) * 2016-02-29 2022-08-03 Urugus S.A. System for planetary-scale analytics
US11385105B2 (en) * 2016-04-04 2022-07-12 Teledyne Flir, Llc Techniques for determining emitted radiation intensity

Also Published As

Publication number Publication date
ES2927925T3 (en) 2022-11-11
JP7334879B2 (en) 2023-08-29
DE102018207265A1 (en) 2019-11-14
WO2019215210A1 (en) 2019-11-14
JP2021523450A (en) 2021-09-02
CN112106106A (en) 2020-12-18
CN112106106B (en) 2023-11-07
US20210319590A1 (en) 2021-10-14
EP3791359B1 (en) 2022-07-06

Similar Documents

Publication Publication Date Title
EP3791359B1 (en) Correlation of thermal satellite image data for generating thermal maps at high spatial resolution
Li et al. Optimal cloud-clearing for AIRS radiances using MODIS
EP3548842B1 (en) Method and device for georeferencing of aerial image data by means of sar image data
US20230186503A1 (en) Method for troubleshooting hidden dangers of trees near power transmission lines by combining icesat-2 with jl-1 images
Partamies et al. Observations of the auroral width spectrum at kilometre-scale size
Uribe et al. Aerial mapping and multi-sensors approaches from remote sensing applied to the roman archaeological heritage
Schmullius et al. Radar time series for land cover and forest mapping
Seimon et al. Crowdsourcing the El Reno 2013 tornado: A new approach for collation and display of storm chaser imagery for scientific applications
Abdullah et al. Satellite vs. UAVs remote sensing of arid ecosystems: A review with in an ecological perspective
Agapiou et al. Exploring the largest known Bronze Age earthworks in Europe through medium resolution multispectral satellite images
CN105321157A (en) Passive microwave brightness temperature data downscaling method and passive microwave brightness temperature data downscaling system
Baillarin et al. Automatic registration of optical images, a stake for future missions: Application to ortho-rectification, time series and mosaic products
CN113779863A (en) Ground surface temperature downscaling method based on data mining
DE102016101455A1 (en) Positioning Device and Earth Surface Model Database
WO2021219570A1 (en) Method and device for determining a global irradiance of solar radiation
Mitraka et al. Spectral unmixing of urban Landsat imagery by means of neural networks
Hassan et al. Integration of aerial photography, airborne LiDAR, and airborne IFSAR for mapping in Malaysia
CN110991567A (en) Point-to-surface remote sensing instantaneous surface temperature data detection method
DE102021205730B3 (en) METHOD AND DEVICE FOR LOCATING A REMOTELY TAKEN IMAGE OF AN OBJECT
Herold et al. Monitoring and Modeling Land Change
Li et al. Validating GEDI tree canopy cover product across forest types using co-registered aerial LiDAR data
Zhu et al. Comparison of diurnal temperature cycle model and polynomial regression technique in temporal normalization of airborne land surface temperature
Bhowmick Use of an Airborne Imaging Spectrometer as a Transfer Standard for Atmospheric Correction of SPOT-HRG Data
Bertrand et al. Angular distribution models, anisotropic correction factors, and mixed clear-scene types: A sensitivity study
Garcia Downscaling of GOES-16's Land Surface Temperature Product using Epitomes

Legal Events

Date Code Title Description
STAA Information on the status of an ep patent application or granted ep patent

Free format text: STATUS: UNKNOWN

STAA Information on the status of an ep patent application or granted ep patent

Free format text: STATUS: THE INTERNATIONAL PUBLICATION HAS BEEN MADE

STAA Information on the status of an ep patent application or granted ep patent

Free format text: STATUS: THE INTERNATIONAL PUBLICATION HAS BEEN MADE

PUAI Public reference made under article 153(3) epc to a published international application that has entered the european phase

Free format text: ORIGINAL CODE: 0009012

STAA Information on the status of an ep patent application or granted ep patent

Free format text: STATUS: REQUEST FOR EXAMINATION WAS MADE

17P Request for examination filed

Effective date: 20201007

AK Designated contracting states

Kind code of ref document: A1

Designated state(s): AL AT BE BG CH CY CZ DE DK EE ES FI FR GB GR HR HU IE IS IT LI LT LU LV MC MK MT NL NO PL PT RO RS SE SI SK SM TR

AX Request for extension of the european patent

Extension state: BA ME

DAV Request for validation of the european patent (deleted)
DAX Request for extension of the european patent (deleted)
GRAP Despatch of communication of intention to grant a patent

Free format text: ORIGINAL CODE: EPIDOSNIGR1

STAA Information on the status of an ep patent application or granted ep patent

Free format text: STATUS: GRANT OF PATENT IS INTENDED

INTG Intention to grant announced

Effective date: 20211223

RAP3 Party data changed (applicant data changed or rights of an application transferred)

Owner name: FRAUNHOFER-GESELLSCHAFT ZUR FOERDERUNG DER ANGEWANDTEN FORSCHUNG E.V.

GRAS Grant fee paid

Free format text: ORIGINAL CODE: EPIDOSNIGR3

GRAA (expected) grant

Free format text: ORIGINAL CODE: 0009210

STAA Information on the status of an ep patent application or granted ep patent

Free format text: STATUS: THE PATENT HAS BEEN GRANTED

AK Designated contracting states

Kind code of ref document: B1

Designated state(s): AL AT BE BG CH CY CZ DE DK EE ES FI FR GB GR HR HU IE IS IT LI LT LU LV MC MK MT NL NO PL PT RO RS SE SI SK SM TR

REG Reference to a national code

Ref country code: AT

Ref legal event code: REF

Ref document number: 1503397

Country of ref document: AT

Kind code of ref document: T

Effective date: 20220715

Ref country code: CH

Ref legal event code: EP

REG Reference to a national code

Ref country code: DE

Ref legal event code: R096

Ref document number: 502019004890

Country of ref document: DE

REG Reference to a national code

Ref country code: IE

Ref legal event code: FG4D

Free format text: LANGUAGE OF EP DOCUMENT: GERMAN

REG Reference to a national code

Ref country code: FI

Ref legal event code: FGE

REG Reference to a national code

Ref country code: NL

Ref legal event code: FP

REG Reference to a national code

Ref country code: LT

Ref legal event code: MG9D

REG Reference to a national code

Ref country code: ES

Ref legal event code: FG2A

Ref document number: 2927925

Country of ref document: ES

Kind code of ref document: T3

Effective date: 20221111

PG25 Lapsed in a contracting state [announced via postgrant information from national office to epo]

Ref country code: SE

Free format text: LAPSE BECAUSE OF FAILURE TO SUBMIT A TRANSLATION OF THE DESCRIPTION OR TO PAY THE FEE WITHIN THE PRESCRIBED TIME-LIMIT

Effective date: 20220706

Ref country code: RS

Free format text: LAPSE BECAUSE OF FAILURE TO SUBMIT A TRANSLATION OF THE DESCRIPTION OR TO PAY THE FEE WITHIN THE PRESCRIBED TIME-LIMIT

Effective date: 20220706

Ref country code: PT

Free format text: LAPSE BECAUSE OF FAILURE TO SUBMIT A TRANSLATION OF THE DESCRIPTION OR TO PAY THE FEE WITHIN THE PRESCRIBED TIME-LIMIT

Effective date: 20221107

Ref country code: NO

Free format text: LAPSE BECAUSE OF FAILURE TO SUBMIT A TRANSLATION OF THE DESCRIPTION OR TO PAY THE FEE WITHIN THE PRESCRIBED TIME-LIMIT

Effective date: 20221006

Ref country code: LV

Free format text: LAPSE BECAUSE OF FAILURE TO SUBMIT A TRANSLATION OF THE DESCRIPTION OR TO PAY THE FEE WITHIN THE PRESCRIBED TIME-LIMIT

Effective date: 20220706

Ref country code: LT

Free format text: LAPSE BECAUSE OF FAILURE TO SUBMIT A TRANSLATION OF THE DESCRIPTION OR TO PAY THE FEE WITHIN THE PRESCRIBED TIME-LIMIT

Effective date: 20220706

PG25 Lapsed in a contracting state [announced via postgrant information from national office to epo]

Ref country code: PL

Free format text: LAPSE BECAUSE OF FAILURE TO SUBMIT A TRANSLATION OF THE DESCRIPTION OR TO PAY THE FEE WITHIN THE PRESCRIBED TIME-LIMIT

Effective date: 20220706

Ref country code: IS

Free format text: LAPSE BECAUSE OF FAILURE TO SUBMIT A TRANSLATION OF THE DESCRIPTION OR TO PAY THE FEE WITHIN THE PRESCRIBED TIME-LIMIT

Effective date: 20221106

Ref country code: GR

Free format text: LAPSE BECAUSE OF FAILURE TO SUBMIT A TRANSLATION OF THE DESCRIPTION OR TO PAY THE FEE WITHIN THE PRESCRIBED TIME-LIMIT

Effective date: 20221007

REG Reference to a national code

Ref country code: DE

Ref legal event code: R097

Ref document number: 502019004890

Country of ref document: DE

PG25 Lapsed in a contracting state [announced via postgrant information from national office to epo]

Ref country code: SM

Free format text: LAPSE BECAUSE OF FAILURE TO SUBMIT A TRANSLATION OF THE DESCRIPTION OR TO PAY THE FEE WITHIN THE PRESCRIBED TIME-LIMIT

Effective date: 20220706

Ref country code: RO

Free format text: LAPSE BECAUSE OF FAILURE TO SUBMIT A TRANSLATION OF THE DESCRIPTION OR TO PAY THE FEE WITHIN THE PRESCRIBED TIME-LIMIT

Effective date: 20220706

Ref country code: DK

Free format text: LAPSE BECAUSE OF FAILURE TO SUBMIT A TRANSLATION OF THE DESCRIPTION OR TO PAY THE FEE WITHIN THE PRESCRIBED TIME-LIMIT

Effective date: 20220706

Ref country code: CZ

Free format text: LAPSE BECAUSE OF FAILURE TO SUBMIT A TRANSLATION OF THE DESCRIPTION OR TO PAY THE FEE WITHIN THE PRESCRIBED TIME-LIMIT

Effective date: 20220706

PLBE No opposition filed within time limit

Free format text: ORIGINAL CODE: 0009261

STAA Information on the status of an ep patent application or granted ep patent

Free format text: STATUS: NO OPPOSITION FILED WITHIN TIME LIMIT

PG25 Lapsed in a contracting state [announced via postgrant information from national office to epo]

Ref country code: SK

Free format text: LAPSE BECAUSE OF FAILURE TO SUBMIT A TRANSLATION OF THE DESCRIPTION OR TO PAY THE FEE WITHIN THE PRESCRIBED TIME-LIMIT

Effective date: 20220706

Ref country code: EE

Free format text: LAPSE BECAUSE OF FAILURE TO SUBMIT A TRANSLATION OF THE DESCRIPTION OR TO PAY THE FEE WITHIN THE PRESCRIBED TIME-LIMIT

Effective date: 20220706

26N No opposition filed

Effective date: 20230411

P01 Opt-out of the competence of the unified patent court (upc) registered

Effective date: 20230524

PG25 Lapsed in a contracting state [announced via postgrant information from national office to epo]

Ref country code: AL

Free format text: LAPSE BECAUSE OF FAILURE TO SUBMIT A TRANSLATION OF THE DESCRIPTION OR TO PAY THE FEE WITHIN THE PRESCRIBED TIME-LIMIT

Effective date: 20220706

PGFP Annual fee paid to national office [announced via postgrant information from national office to epo]

Ref country code: NL

Payment date: 20230519

Year of fee payment: 5

Ref country code: FR

Payment date: 20230517

Year of fee payment: 5

Ref country code: ES

Payment date: 20230621

Year of fee payment: 5

Ref country code: DE

Payment date: 20230519

Year of fee payment: 5

Ref country code: BG

Payment date: 20230516

Year of fee payment: 5

PG25 Lapsed in a contracting state [announced via postgrant information from national office to epo]

Ref country code: SI

Free format text: LAPSE BECAUSE OF FAILURE TO SUBMIT A TRANSLATION OF THE DESCRIPTION OR TO PAY THE FEE WITHIN THE PRESCRIBED TIME-LIMIT

Effective date: 20220706

PGFP Annual fee paid to national office [announced via postgrant information from national office to epo]

Ref country code: FI

Payment date: 20230523

Year of fee payment: 5

PGFP Annual fee paid to national office [announced via postgrant information from national office to epo]

Ref country code: BE

Payment date: 20230517

Year of fee payment: 5

PGFP Annual fee paid to national office [announced via postgrant information from national office to epo]

Ref country code: GB

Payment date: 20230522

Year of fee payment: 5

REG Reference to a national code

Ref country code: CH

Ref legal event code: PL

PG25 Lapsed in a contracting state [announced via postgrant information from national office to epo]

Ref country code: MC

Free format text: LAPSE BECAUSE OF FAILURE TO SUBMIT A TRANSLATION OF THE DESCRIPTION OR TO PAY THE FEE WITHIN THE PRESCRIBED TIME-LIMIT

Effective date: 20220706

PG25 Lapsed in a contracting state [announced via postgrant information from national office to epo]

Ref country code: MC

Free format text: LAPSE BECAUSE OF FAILURE TO SUBMIT A TRANSLATION OF THE DESCRIPTION OR TO PAY THE FEE WITHIN THE PRESCRIBED TIME-LIMIT

Effective date: 20220706

Ref country code: LI

Free format text: LAPSE BECAUSE OF NON-PAYMENT OF DUE FEES

Effective date: 20230531

Ref country code: IT

Free format text: LAPSE BECAUSE OF FAILURE TO SUBMIT A TRANSLATION OF THE DESCRIPTION OR TO PAY THE FEE WITHIN THE PRESCRIBED TIME-LIMIT

Effective date: 20220706

Ref country code: CH

Free format text: LAPSE BECAUSE OF NON-PAYMENT OF DUE FEES

Effective date: 20230531

REG Reference to a national code

Ref country code: IE

Ref legal event code: MM4A

PG25 Lapsed in a contracting state [announced via postgrant information from national office to epo]

Ref country code: IE

Free format text: LAPSE BECAUSE OF NON-PAYMENT OF DUE FEES

Effective date: 20230508

PG25 Lapsed in a contracting state [announced via postgrant information from national office to epo]

Ref country code: IE

Free format text: LAPSE BECAUSE OF NON-PAYMENT OF DUE FEES

Effective date: 20230508

PGFP Annual fee paid to national office [announced via postgrant information from national office to epo]

Ref country code: LU

Payment date: 20240521

Year of fee payment: 6