EP4612489A1 - Verfahren und vorrichtung zur durchführung einer spektralanalyse zur ermittlung eines spektrums von einer probe - Google Patents

Verfahren und vorrichtung zur durchführung einer spektralanalyse zur ermittlung eines spektrums von einer probe

Info

Publication number
EP4612489A1
EP4612489A1 EP23825471.8A EP23825471A EP4612489A1 EP 4612489 A1 EP4612489 A1 EP 4612489A1 EP 23825471 A EP23825471 A EP 23825471A EP 4612489 A1 EP4612489 A1 EP 4612489A1
Authority
EP
European Patent Office
Prior art keywords
spectrum
network
neural network
sample
spectra
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Pending
Application number
EP23825471.8A
Other languages
English (en)
French (fr)
Inventor
Xiang Xie
Wilhelm Stork
Lars ANKLAMM
Malte WANSLEBEN
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Helmut Fischer GmbH and Co
Karlsruher Institut fuer Technologie KIT
Original Assignee
Helmut Fischer GmbH and Co
Karlsruher Institut fuer Technologie KIT
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Helmut Fischer GmbH and Co, Karlsruher Institut fuer Technologie KIT filed Critical Helmut Fischer GmbH and Co
Publication of EP4612489A1 publication Critical patent/EP4612489A1/de
Pending legal-status Critical Current

Links

Classifications

    • G—PHYSICS
    • G01—MEASURING; TESTING
    • G01N—INVESTIGATING OR ANALYSING MATERIALS BY DETERMINING THEIR CHEMICAL OR PHYSICAL PROPERTIES
    • G01N23/00—Investigating or analysing materials by the use of wave or particle radiation, e.g. X-rays or neutrons, not covered by groups G01N3/00 – G01N17/00, G01N21/00 or G01N22/00
    • G01N23/22—Investigating or analysing materials by the use of wave or particle radiation, e.g. X-rays or neutrons, not covered by groups G01N3/00 – G01N17/00, G01N21/00 or G01N22/00 by measuring secondary emission from the material
    • G01N23/223—Investigating or analysing materials by the use of wave or particle radiation, e.g. X-rays or neutrons, not covered by groups G01N3/00 – G01N17/00, G01N21/00 or G01N22/00 by measuring secondary emission from the material by irradiating the sample with X-rays or gamma-rays and by measuring X-ray fluorescence
    • G—PHYSICS
    • G01—MEASURING; TESTING
    • G01N—INVESTIGATING OR ANALYSING MATERIALS BY DETERMINING THEIR CHEMICAL OR PHYSICAL PROPERTIES
    • G01N2223/00—Investigating materials by wave or particle radiation
    • G01N2223/07—Investigating materials by wave or particle radiation secondary emission
    • G01N2223/076—X-ray fluorescence

Definitions

  • a spectrometer of a measuring device is used to determine spectra of a sample, which contain information about the physical properties of the sample. These spectra are evaluated to determine, for example, an element concentration in a layer on the sample or in the sample as well as the presence of chemical elements. These processes must be carried out in a short time and with a high degree of repeatability in order to enable reliable statements to be made about the measurement carried out. Therefore, a fundamental goal in such a spectral analysis is to improve the quantitative analysis and/or the qualitative analysis and to reduce the time required for this spectral analysis.
  • the element concentration in the sample was determined, for example, by an iterative evaluation procedure.
  • the invention is based on the object of proposing a method and a device for carrying out a spectral analysis to determine a spectrum of a sample in order to enable at least a rapid and precise quantitative analysis.
  • This task is solved by a method for performing a spectral analysis to determine a spectrum of a sample, in which in which at least one detected spectrum is fed to and evaluated by at least one first network architecture with an analyzing neural network that is trained for a quantitative analysis of the spectrum.
  • At least one second network architecture is trained with a second neural network for a qualitative analysis of the spectrum.
  • both the quantitative and the qualitative analysis can be carried out in one process step and a result for the at least one element concentration and/or the at least one element identification of the sample can be output with a high degree of accuracy/certainty.
  • the first and second network architectures may be structured differently from each other.
  • S inverse function
  • P P (T, ,K)
  • the aim of the quantitative analysis is to determine for a measured spectrum under given measurement conditions of a known measuring device or device. It was recognized that an inverse function P -1 (S) is required for this in order to carry out the determination of the variables without iteration procedures.
  • S inverse function
  • By training the analyzed neural network on this inverse function a fast and precise quantitative analysis for at least one element concentration of the sample and/or a qualitative analysis for the absence or presence of at least one element in the sample can be possible.
  • Training the neural network of the first network architecture with a large number of simulation spectra requires a one-off increase in time and possibly increased computing power, but the evaluation time for each recorded spectrum can be significantly reduced after training the first network architecture.
  • the simulation spectra are preferably determined at least with relevant and/or predetermined parameters, such as the concentration of the chemical element or concentration of the at least one element of an alloy, element-specific physical constants, the layer thickness of the at least one layer, different measuring conditions of the measuring devices and/or characteristic properties of different measuring devices and/or device-specific data from the one or different measuring devices.
  • the second network architecture for the qualitative analysis is trained with a large number of simulation spectra, which represent a large number of, in particular, differing intensity distributions of energy spectra of the chemical elements.
  • the network architecture is not trained for all existing chemical elements of the Periodic Table of Elements (PSE), but for a specific selection of elements that are required to evaluate a spectrum.
  • PSE Periodic Table of Elements
  • specific chemical elements can be selected for the X-ray fluorescence analysis, for example those that have an atomic number greater than 9.
  • chemical elements that are adapted accordingly can be selected.
  • the first network architecture for quantitative analysis is preferably constructed in such a way that the acquired spectrum is scaled with a scaling network with a scaling factor in order to compensate for various possible excitation conditions, in order to subsequently feed the scaled spectrum to a prediction network and output a result from the acquired spectrum through this prediction network. This again enables a precision in the quantitative determination of the network.
  • a neural network is used for the prediction network and/or the scaling network, with a dense convolutional network (DenseNet) being preferred. This enables a shortened simulation time.
  • DenseNet dense convolutional network
  • a feature reduction method is preferably used to generate pre-processed simulation spectra.
  • This feature reduction method in turn serves to accelerate the training process.
  • a feature reduction method for example a multilayer network (MLP), a convolutional neural network (CNN) or a dense convolutional neural network (DenseNet) is trained based on a large number of spectra that are preprocessed using one of the feature reduction methods.
  • MLP multilayer network
  • CNN convolutional neural network
  • DenseNet dense convolutional neural network
  • the number of features to be evaluated in the already generated spectra which each comprise a number of, for example, 1024 features, is reduced to a number of preferably 512, 256, 128, 64, 32 or 16 features.
  • the features of a spectrum also include the frequencies or the energies correlated with them, which are output as so-called channels for the detector, particularly when using A/D converters, whereby the channels are equivalent to the features.
  • Another feature reduction method is mean compression, in which the number of features of the acquired spectrum is reduced by averaging to a target spectrum with a reduced number of features.
  • the feature reduction method can be carried out as a feature selection, in which the number of features or channels of the respective spectrum is reduced based on their original size of the generated spectrum.
  • the generated spectrum is one that was created by the simulation method described above.
  • a feature transformation is carried out, in particular with an autoencoder network, in which a weighting of the features or channels of the respective spectrum according to relevant and non-relevant characteristics and the non-relevant characteristics are eliminated.
  • a watermelon model is preferably selected, in which the selection of features for selection is preferably carried out by a Bayes error rate estimation.
  • the analyzing neural network is trained with a model for network reduction.
  • the neural network is preferably reduced by components such as neurons, filters and/or parameters, in particular in order to eliminate the redundant components. This can also enable a reduction in the resources required.
  • the analyzing neural network is trained with a model for quantization in which the data size, in particular of a node of the neural network, is reduced.
  • a bit size of 32 bits (32 bit floats) or less is selected.
  • the aforementioned feature reduction methods which are preferably carried out after training the neural network of the first and/or second network architecture, can be used individually or in any combination or even cumulatively.
  • the aforementioned feature reduction methods can be used to reduce the size of the respective neural network used, with the evaluation results remaining the same or better.
  • Using at least one feature reduction method can enable improved precision and shortened evaluation of the measurements on samples with a significant reduction in data and computer costs.
  • a neural network of a meta-network is trained by simulation data from a number of known devices for carrying out a meta-learning process.
  • known devices are understood to be those that have already been calibrated and preferably at least one characteristic property of the device has already been determined. This enables calibration costs of the devices to be minimized, particularly when producing a large number of devices or measuring devices.
  • a meta-learning method with the meta-network is used to calibrate unknown measuring devices for spectral analysis or devices, in which the properties and/or the changing measurement conditions and/or the measurement tasks of the unknown measuring device are recorded and the neural network of the meta-network is additionally trained using these simulation data and/or measured data of the unknown measuring device.
  • the duration of the training of the meta-network using simulation data of the unknown measuring device is significantly reduced compared to the duration of the training for at least one neural network for the unknown measuring device.
  • the device is ready for quantitative and/or qualitative analysis.
  • Unknown devices are preferably understood to be devices that have been completed in production but have not yet been calibrated.
  • a multilayer network MLP - Multilayer Perceptrons
  • CNN - Convolutional Neural Network convolutional neural network
  • DNN - Dense Neural Network dense convolutional neural network
  • DenseNet - Dense Convolutional Network dense convolutional network
  • the qualitative analysis of the recorded spectrum is carried out with the second analyzing neural network and the result is output.
  • the quantitative analysis is carried out with the first neural network following the qualitative analysis. Due to the training of the neural network with a large number of simulation spectra, a very precise determination of the concentration of the element or elements in the sample can be carried out within a very short evaluation time.
  • both the quantitative analysis and the qualitative analysis are carried out simultaneously. It goes without saying that only the quantitative analysis can be carried out with the first neural network.
  • a device for carrying out a spectral analysis to determine the spectrum of a sample in particular for carrying out the method according to one of the previously described embodiments, which comprises a source for emitting a primary radiation onto the sample, as well as a detector for detecting a secondary radiation which is emitted after the sample has been excited with the primary radiation, wherein a computer-assisted evaluation device evaluates the at least one detected spectrum by the detector, wherein at least one analyzing neural network with at least a first network architecture for the quantitative analysis of the spectrum and at least a second network architecture with a second analyzing neural network for the qualitative analysis of the spectrum is provided, as well as an output device which outputs a result of the at least one spectrum analyzed by the at least one neural network for the at least one element concentration and/or the at least one element identification of the sample.
  • the object underlying the invention is further achieved by a computer program for carrying out a spectral analysis for determining a spectrum of a sample, which is provided in particular for the evaluation device of the aforementioned device, wherein the computer program is stored on at least one computer-readable storage medium which can be executed in the computer-assisted evaluation device and causes the evaluation device to carry out a method according to one of the preceding embodiments.
  • Figure 1 is a schematic view of a device for performing a spectral analysis
  • Figure 2 is a diagram of a spectrum of an alloy determined by spectral analysis
  • Figure 3 is a schematic view of training a neural network with simulation spectra
  • Figure 4 is a schematic representation of a first network architecture of the neural network
  • Figure 5 is a schematic view of a network structure for the network architecture according to Figure 4,
  • Figure 6 is a diagram showing a comparison between test losses before and after training the neural network
  • Figure 7 is a diagram showing the evaluation times of different network structures
  • Figure 9 is a schematic view of a second network architecture for qualitative analysis
  • Figure 10 is a schematic view of a network structure for the second network architecture
  • Figure 11 is a diagram illustrating the performance of feature reduction methods applied to a neural network
  • Figure 12 is a schematic view of a spectrum with a full set of features
  • Figure 13 is a schematic view of a spectrum with a reduced number of features
  • Figure 14 is a schematic view of a data size of a neural network
  • Figure 15 is a schematic view of a reduced data size of the neural network in Figure 14
  • Figure 16 is a table showing the time reduction of the evaluation time of different feature reduction methods when using different neural networks
  • Figure 17 is a view of steps for training a neural network for spectral analysis with high performance
  • Figure 18 shows a schematic flow chart for a meta-learning procedure for the calibration of measuring instruments.
  • FIG. 1 schematically shows a device 11 for carrying out a spectral analysis to determine a spectrum of a sample 12.
  • This device 11 comprises a source 14 for generating a primary radiation 15.
  • This primary radiation 15 is directed at the sample 12.
  • a focusing element 16, for example an optical lens or a collimator or the like, can be provided between the source 14 and the sample 12.
  • the primary radiation 15 emits secondary radiation 17 in the sample 12 or in at least one layer 13 on the sample 12, which is detected by a detector 18.
  • This device 11 comprises a controller 19, by means of which at least the source 14 is controlled.
  • the detector 18 converts the detected secondary radiation 17 into a spectrum and forwards this to an evaluation device 21.
  • This evaluation device 21 is, for example, in a spectrometer.
  • This evaluation device 21 comprises a neural network 22, by means of which the data acquired by the evaluation unit 21 are evaluated.
  • a display device 23 outputs the determined result based on the trained neural network 22.
  • the device 11 can be, for example, an X-ray fluorescence measuring device in which the source 14 is designed as an X-ray tube and the detector 18 comprises an A/D converter in order to detect the energies of the secondary radiation 17 and convert them into so-called channels and output them. Indices of these channels are proportional to the detected energy.
  • the detected energy or the output channel is referred to below as a feature.
  • the device 11 can be designed, for example, to carry out laser-induced plasma spectroscopy (LIBS - laser induced breakdown spectroscopy) and the source 14 is designed as a laser source.
  • the detector 18 is designed as a spectrometer for determining emitted light.
  • Figure 2 shows a diagram of a spectrum of an alloy that is determined by the device 11.
  • the elements contained in the alloy are represented in the spectrum by fluorescence lines of different intensities I, which are plotted along the Y axis, and corresponding fluorescence line energies that correspond to the indices of the channels, which are plotted in a feature M along the X axis.
  • the concentration/layer thickness of the chemical element in the layer 13 or the sample 12 can be determined via the intensity.
  • the chemical element can be determined by assigning the intensity to the respective feature.
  • 0 denotes the concentration of the chemical element
  • T the layer thickness on an object
  • X the measurement conditions during the measurement by the device 11
  • K the characteristic properties of the device 11.
  • the aim is to enable a quick and precise evaluation of the measurement results by using at least one neural network or neural network.
  • the application of at least one neural network should be applicable to various end devices.
  • the neural network is trained with a large number of spectra, in particular simulated spectra.
  • the neural network is advantageously trained with 80,000 to 150,000 spectra.
  • the neural network 22 is based on neurons and comprises an input layer, one or more hidden layers and an output layer.
  • a single-layer network MLP - multilayer perceptrons
  • a convolutional neural network CNN - convolutional neural net
  • DNN - dense neural net dense neural network
  • other architectures such as a dense convolutional neural network (DenseNet)
  • Figure 4 shows a schematic structure of the first network architecture 26.
  • this recorded spectrum 27 is evaluated by means of a scaling network 28 and modified with a scaling factor 29, for example in order to compensate for different excitation conditions for generating the secondary radiation 17.
  • the spectrum 31 scaled by the scaling network 28 is evaluated with a prediction network 32 and a result 33 of the recorded spectrum 27 is output.
  • FIG. 5 shows a schematic view of a possible structure of the DenseNet (Densely connected convolutional network) 35.
  • This DenseNet 35 is preferably used for the scaling network 28 and/or the prediction network 32 of the first network architecture 26.
  • the DenseNet 35 can, for example, have an input layer 36, a convolutional layer 37, and then a so-called Density block (Denseblock) 38. A further selection-specific sequence of such layers takes place up to the output layer 39.
  • Denseblock Density block
  • the dense block 38 is shown schematically enlarged in Figure 5. It comprises, for example, four consecutive folded layers 37, each layer 37 being in contact with the adjacent one.
  • Figure 6 shows a diagram showing which number of spectra are advantageous for training the neural network 22 in order to achieve a low error rate in the output of results.
  • An error rate of failed tests is plotted along the Y axis and the number of spectra along the X axis.
  • a comparison is shown in which the fictitious line with the round dots represents spectra after training the first network architecture 26.
  • the fictitious line marked with a cross shows a comparison of failed tests and failed training. It can be seen from this that too small a size of the training data of spectra leads to an increased error rate.
  • Figure 7 shows a schematic diagram in which different networks for use in the first network architecture 26 are compared with each other.
  • the recorded mean error (MAE) is plotted along the Y-axis and the response time in seconds for the output of the result is plotted along the X-axis. It is obvious that the application of the CNN architecture and in particular the DenseNet architecture leads to the shortest evaluation times in comparison to the MLP architecture when applied in the first network architecture 26.
  • Figure 8 shows an overview of the results of evaluations of measured spectra on various samples 12 using various devices 11.
  • the previously known evaluation is compared in the reference column with the application of the trained first network architecture 26 for the quantitative analysis in the new column.
  • the comparison shows the mean absolute error rate MAE in percent and the evaluation time in seconds.
  • the opposing mean error rates differ negligibly from one another.
  • a significant reduction in the evaluation time is achieved with an average time of 0.049 +/- 0.002 seconds. This corresponds to a factor of at least 20 times compared to the reference. It is therefore obvious that the trained first network structure 26 with a high number of simulation spectra, in particular between 80,000 and 160,000 spectra, was able to achieve a significant reduction in the evaluation time.
  • the mean absolute error (MEA) remains approximately the same when comparing the conventional quantitative analysis to the quantitative analysis supported by the first network architecture 26.
  • a qualitative analysis of the spectrum to identify the chemical element of the sample 12, whether it is present or not, can be carried out analogously to the quantitative analysis by training the neural network with several actually recorded and/or simulated spectra 27 of different pure elements.
  • a second or further network structure 41 is preferably provided for outputting a result from the recorded spectrum 27.
  • Such a second network structure 41 is shown in Figure 9.
  • one or more feature reduction methods can be selected for evaluation.
  • One of the Feature reduction methods relate to mean compression 42.
  • Another feature reduction method can be feature selection 43.
  • feature transformation 44 can be carried out as a feature reduction method.
  • a pre-processed spectrum 45 is determined.
  • This pre-processed spectrum 45 is fed to a second neural network 46, for example with an MLP 47, CNN 48 or DenseNet 35 network architecture, and a result 33 is then output in which the identified chemical element is specified.
  • the mean value compression 42 it is preferably provided that the number of features of the determined spectra of the features of the spectrum 27 to be evaluated are reduced to a target spectrum by averaging.
  • the number of features can be reduced starting from a complete spectrum.
  • the so-called watermelon model can be used.
  • the watermelon model is based on a Bayes error rate estimate. This model first uses a kernel density estimate to approximate the true distribution of the data. A Bayes error rate estimate is then calculated and the features are individually evaluated according to their independence or redundancy. The redundant features are determined.
  • the features of the respective spectrum 27 are preferably weighted according to relevant and non-relevant features and the non-relevant features in the spectrum are eliminated.
  • the feature transformation 44 can be carried out, for example, by a network architecture according to Figure 10. This is a so-called autoencoder 51.
  • This is a so-called autoencoder 51.
  • the spectrum 27 is fed from the input layer 36 to an encoder 55, which has, for example, at least a first and second dense layer 56, 57, and at least one further dense layer 58 between the encoder 55 and a subsequent decoder 59.
  • At least one dense layer 61, 62 can be provided in the decoder 59.
  • the output layer 39 is in turn connected to the decoder 59.
  • Figure 11 shows a diagram in which the feature reduction methods are plotted as a function of the number of features of the spectra 27 and as a function of different reduction methods.
  • a factor is plotted along the Y-axis which indicates the accuracy output of the result with the factor FI from the recorded spectrum in a range between 0 and 1, where 1 corresponds to 100% accuracy.
  • the number of features per spectrum 27 is plotted along the X-axis.
  • Line 61 shows a performance curve when using the autoencoder 55 according to Figure 11.
  • Line 62 shows the performance curve for the compression method 42 and line 63 shows the performance curve for the feature selection 43, with the watermelon model being selected in particular.
  • a dense net 35 was used as the neural network 22.
  • a further feature reduction can consist in the number of features of the spectra 27 being specifically reduced.
  • Figure 12 shows several spectra analogous to the spectrum in Figure 2, which is plotted over, for example, 1024 features along the X-axis.
  • the number of features of the spectra 27 was reduced, for example from 1024 features to 32 features.
  • the previously described feature selection can also be carried out, for example.
  • a network reduction of the neural network 22 can be used to speed up the evaluation time.
  • the network architecture can be checked in a first step to determine which neurons, filters or parameters impair performance. Then, redundant components in particular are eliminated.
  • the parameter size and the floating point operations FLOPs - Float Point Operations
  • a neural network 22 is symbolically shown in Figure 14 in order to verify the number of features of the spectrum 27 according to Figure 12.
  • Figure 15 symbolically shows a reduced neural network 22 compared to that in Figure 14, which can be trained using a spectrum 27 according to Figure 14.
  • the data size of the neural network 22 according to Figure 14 is, for example, 5.2 MB and the computing time is, for example, 540 ms.
  • the reduced neural network 22 comprises a data size of, for example, 0.1 MB and a computing time of, for example, 0.9 ms. This clearly shows the advantages of network reduction.
  • the evaluation time of the neural network 22 can be shortened by network quantization.
  • a bit size of 32 bits is used for the floating point operations (floats).
  • Network quantization ensures that the bit size for the floating point operations are reduced to a bit size lower than 32 bits and/or an integer representation (int).
  • the quantification can be used to reduce to 16-bit floats or 8-bit ints or, for example, to 8-bit ints with 16-bit activations.
  • the data size can be reduced by approximately 50% by quantifying 32-bit floats to 16-bit floats. The same applies to further bit reduction.
  • Figure 16 shows another table showing a performance comparison of the various reduction methods.
  • the data sizes (MB) and the evaluation time (ms) as well as the accuracy with the factor (FI) are compared with each other.
  • the application of a CNN architecture 48 on the one hand and a DenseNet architecture 35 on the other hand are compared.
  • the first row of the table shows under "Basis" the neural network 22 of the first and/or the second network architecture 26, 41 without the implementation of a feature reduction and/or network reduction and/or network quantization.
  • the network reduction method and/or the network quantization method can enable a further reduction in data size and reduction in evaluation time, as can be seen from the table.
  • the accuracy of the results remains the same compared to the baseline.
  • An optional combination of the three reduction methods listed i.e. feature reduction, network reduction and/or network quantification, can also be used in combination. If all three reduction methods are used in a superimposed manner to optimize the neural network 22, the data size can be reduced by around 29 times and the evaluation time reduced by 65 times with the CNN architecture 48. With the DenseNet architecture 35, the file size can even be reduced by 52 times and the evaluation time can be reduced by 600 times.
  • Figure 17 shows a preferred embodiment for training the neural network 22.
  • This embodiment is particularly suitable for producing a large number of devices, in particular mass production, whereby the evaluation time is significantly reduced with a high accuracy of the results.
  • the neural network 22 is trained using the actually recorded spectra and/or spectra simulated using a simulation method for the qualitative and quantitative analysis.
  • the number of simulated spectra is preferably many times, in particular at least by a factor of 100, larger than the number of actually recorded spectra.
  • a second network structure 41 is used for the training, which is described in more detail in Figure 9 in order to train the first network architecture 26 on the chemical elements.
  • an analogous procedure is used as in step 71 for the quantitative analysis, as shown in Figures 4 and 5. This provides in particular that from the determined spectrum 27 Using the feature reduction method of feature selection, 42 pre-processed spectra are collected, which are then trained using the DenseNet.
  • step 73 for feature reduction the feature selection 42 is selected, which is described in Figures 12 and 13.
  • step 74 the preprocessed spectra of the first and/or second network architecture 26, 41 are used as a basis.
  • the network reduction is then carried out in step 75 and then the network quantization is carried out in step 76.
  • Figure 18 shows a schematic view of a meta-learning method 64 with a meta-network 65.
  • a meta-learning method 64 is used in particular for the calibration of devices 11 or measuring devices manufactured in a company.
  • the meta-learning method 64 provides for information to be learned with different tasks so that a meta-network can quickly adapt to a new, unknown task, in particular device 11.
  • spectra 27 are recorded from a sample 12 using a known measuring device 11 under different measuring conditions. These spectra 27 are evaluated by a first network architecture 26 of the neural network 22. Then, spectra 27 are recorded from further samples 12 using other known measuring devices 11 spectra are determined and/or simulation spectra are generated, in which not only the various measurement conditions but also various characteristic properties of the measuring device 11 are taken into account. These spectra from the at least one known device 11 are used in step 66 to train a meta-network 65. An agnostic meta-learning model (MAML - Model-Agnostic Meta-Learning) can be used for this purpose. The meta-network 65 is thus trained for the calibration of the devices 11.
  • MAML - Model-Agnostic Meta-Learning can be used for this purpose.
  • the meta-network 65 is first trained with measurement conditions and/or measurement properties of the unknown measuring device 11 in step 67.
  • the unknown measuring device 11 is then calibrated by the meta-network 65.
  • the unknown measuring devices 11 can advantageously be calibrated without measuring a sample 12. Alternatively, at least one measurement can also be carried out on the unknown measuring device 11.
  • the meta-network 65 is then further trained, whereby an improved calibration is carried out on the unknown measuring device 11.
  • a recalibration may be required according to step 68.
  • measurement data of the measuring device 11 to be recalibrated are recorded so that the meta-network 65 is in turn trained by this measurement data. Due to the further training of the meta-network 65 by the measuring device 11 to be recalibrated, the meta-network 65 can be further trained and carry out a faster and improved recalibration.
  • the meta-learning method 64 is preferably divided into two processes, namely a training before calibrating the unknown measuring device 11 and a training after calibrating the then known measuring device 11.
  • the meta-learning method 64 can enable significant cost savings for the industry and the customer.

Landscapes

  • Physics & Mathematics (AREA)
  • Health & Medical Sciences (AREA)
  • Life Sciences & Earth Sciences (AREA)
  • Chemical & Material Sciences (AREA)
  • Analytical Chemistry (AREA)
  • Biochemistry (AREA)
  • General Health & Medical Sciences (AREA)
  • General Physics & Mathematics (AREA)
  • Immunology (AREA)
  • Pathology (AREA)
  • Analysing Materials By The Use Of Radiation (AREA)
  • Investigating, Analyzing Materials By Fluorescence Or Luminescence (AREA)

Abstract

Die Erfindung betrifft ein Verfahren und eine Vorrichtung zur Durchführung einer Spektralanalyse zur Auswertung eines Spektrums von einer Probe (12), mit einem Messgerät (11) bei dem eine Primärstrahlung (15) von einer Quelle (14) auf die Probe (12) gerichtet wird, bei dem durch die Anregung der Probe (12) mittels Primärstrahlung (15) von der Probe (12) oder zumindest einer Schicht (13) der Probe eine Sekundärstrahlung (17) emittiert wird, bei dem durch einen Detektor (18) ein Spektrum der Sekundärstrahlung (17) erfasst wird, bei dem das zumindest eine erfasste Spektrum durch den Detektor (18) zur Auswertung einer computergestützten Auswerteeinrichtung (21) zugeführt wird, in welcher das zumindest eine erfasste Spektrum in zumindest einem analysierenden neuronalen Netz (22) von zumindest einer ersten Netzwerkarchitektur (26) ausgewertet wird, das zur quantitativen Analyse des Spektrums trainiert wird, bei dem das neuronale Netz (22) der ersten Netzwerkarchitektur (26) durch eine Vielzahl von Simulationsspektren trainiert wird, welche ausgehend von einem physikalischen Modell (S=P(ф) mit einer Simulationsmethode generiert wird, bei dem zumindest eine zweite Netzwerkarchitektur (41) mit einem zweiten analysierenden neuronalen Netz (46) für die qualitative Analyse des erfassten Spektrums trainiert wird, bei dem von dem durch die neuronalen Netze (22, 46) analysierte Spektrum ein Ergebnis für die zumindest eine Elementkonzentration und/oder die zumindest eine Elementidentifikation der Probe (12) ausgegeben wird.

Description

Verfahren und Vorrichtung zur Durchführung einer Spektralanalyse zur Ermittlung eines Spektrums von einer Probe
Die Erfindung betrifft ein Verfahren und eine Vorrichtung einer Spektralanalyse zur Ermittlung eines Spektrums von einer Probe.
Bei einer Spektralanalyse werden mittels eines Spektrometers eines Messgerätes Spektren einer Probe ermittelt, welche Informationen über physikalische Eigenschaften der Probe beinhalten. Diese Spektren werden ausgewertet, um zum Beispiel eine Elementkonzentration in einer Schicht auf der Probe oder in der Probe als auch das Vorhandensein von chemischen Elementen zu ermitteln. Diese Prozesse müssen in kurzer Zeit und mit einer hohen Wiederholgenauigkeit durchgeführt werden, um verlässliche Aussagen von der durchgeführten Messung zu ermöglichen. Deshalb ist es ein grundsätzliches Ziel, bei einer solchen Spektralanalyse die quantitative Analyse und/oder die qualitative Analyse zu verbessern und die Zeitdauer für diese Spektralanalyse zu reduzieren.
Bislang erfolgte die Ermittlung von einer Elementkonzentration in der Probe, beispielsweise durch eine iterative Auswertungsprozedur.
Dadurch wurde eine Anzahl von Parametern in einem physikalischen Modell ausgewählt und zugrunde gelegt. Darauffolgend wurde das gemessene Spektrum mit einem theoretischen Spektrum, welches sich aus dem physikalischen Modell ergibt, verglichen und nach einer iterativen Optimierung der Parameter ein Ergebnis ausgegeben, welches einen Parametersatz repräsentiert, welchem die beste Übereinstimmung zwischen der Messung und dem theoretischen Spektrum entspricht. Diese Iterationsprozedur ist zeit- und kostenintensiv.
Der Erfindung liegt die Aufgabe zugrunde, ein Verfahren und eine Vorrichtung zur Durchführung einer Spektralanalyse zur Ermittlung eines Spektrums von einer Probe vorzuschlagen, um zumindest eine schnelle und präzise quantitative Analyse zu ermöglichen.
Diese Aufgabe wird durch ein Verfahren zur Durchführung einer Spektralanalyse zur Ermittlung eines Spektrums von einer Probe gelöst, bei dem zumindest das eine erfasste Spektrum zumindest einer ersten Netzwerkarchitektur mit einem analysierenden neuronalen Netz zugeführt und ausgewertet wird, das für eine quantitative Analyse des Spektrums trainiert wird. Die erste Netzwerkarchitektur wird durch eine Vielzahl von Simulationsspektren trainiert, welche ausgehend von dem bestehenden physikalischen Modell S= P(ct>) mit einer Simulationsmethode generiert wird. werden.
Des Weiteren wird zumindest eine zweite Netzwerkarchitektur mit einem zweiten neuronalen Netz für eine qualitative Analyse des Spektrums trainiert. Somit kann in einem Prozessschritt sowohl die quantitative als auch die qualitative Analyse durchgeführt ein Ergebnis für die zumindest eine Elementkonzentration und/oder die zumindest eine Elementidentifikation der Probe mit einer hohen Genauigkeit/Sicherheit ausgegeben werden.
Die erste und die zweite Netzwerkarchitektur können voneinander abweichend aufgebaut sein.
Das analysierende neuronale Netz der zumindest einen Netzwerkarchitektur wird bevorzugt darauf trainiert, dass dieses eine Umkehrfunktion P -1(S) eines physikalischen Modells S=P(T, ,K) approximiert, sodass bei der quantitativen Analyse zumindest eine Elementkonzentration oder Schichtdicke der Probe, von der das Spektrum aufgenommen wurde, ausgegeben wird und/oder bei der qualitativen Analyse das Vorhandensein oder das nicht Vorhandensein von zumindest einem chemischen Element in der Probe ermittelt und ausgegeben wird. Zur Durchführung der quantitativen Analyse war es bislang erforderlich, das Spektrum durch das physikalische Modell zu analysieren, wobei alle relevanten Parameter bekannt sein mussten. Dieses Modell entspricht abstrakt der Gleichung S = P(c|o), wobei das Spektrum S eine nichtlineare Funktion P von ist und für alle Variablen steht, die zu bestimmen sind, wie bei- spielsweise die Konzentration aller relevanten Elemente und sofern anwendbar, die Dicke der Schicht. Das Ziel der quantitativen Analyse liegt in der Bestimmung von für ein gemessenes Spektrum bei gegebenen Messbedingungen eines bekannten Messgerätes bzw. einer Vorrichtung. Es wurde erkannt, dass hierfür eine Umkehrfunktion P -1(S) erforderlich ist, um die Bestimmung der Variablen ohne Iterationsverfahren durchzuführen. Durch das Trainieren des analysierten neuronalen Netzes auf diese Umkehrfunktion kann eine schnelle und präzise quantitative Analyse für zumindest eine Elementkonzentration der Probe und/oder eine qualitative Analyse für das Nichtvorhandensein oder das Vorhandensein von zumindest einem Element in der Probe möglich werden.
Des Weiteren ist bevorzugt vorgesehen, dass die erste Netzwerkarchitektur durch eine Vielzahl von Simulationsspektren trainiert wird, welche ausgehend von dem bestehenden physikalischen Modell S=P(0, T, , K) mit der Simulationsmethode, insbesondere eine Monte-Carlo Simulation, generiert wird, und/oder dass die erste Netzwerkarchitektur mit einer Vielzahl von tatsächlich erfassten Spektren trainiert wird. Das Training des neuronalen Netzes der ersten Netzwerkarchitektur mit einer Vielzahl von Simulationsspektren benötigt einmalig einen erhöhten Zeitaufwand und gegebenenfalls eine erhöhte Rechenleistung, jedoch kann die Auswertezeit für jedes erfasste Spektrum nach dem Training der ersten Netzwerkarchitektur deutlich reduziert werden.
Die Simulationsspektren werden bevorzugt zumindest mit relevanten und/oder vorgegebenen Parametern, wie beispielsweise der Konzentration des chemischen Elements oder Konzentration von dem zumindest einen Element einer Legierung, elementspezifischen physikalischen Konstanten, der Schichtdicke von der zumindest einen Schicht, unterschiedliche Messbedingungen der Messgeräte und/oder charakteristische Eigenschaften von verschiedenen Messgeräten und/oder gerätespezifischen Daten von dem einen oder verschiedenen Messgeräten ermittelt. Des Weiteren ist bevorzugt vorgesehen, dass die zweite Netzwerkarchitektur für die qualitative Analyse mit einer Vielzahl von Simulationsspektren trainiert wird, welche eine Vielzahl von insbesondere voneinander abweichenden Intensitätsverteilungen von Energiespektren der chemischen Elemente repräsentieren. Dabei ist bevorzugt vorgesehen, dass die Netzwerkarchitektur nicht für alle existierenden chemischen Elemente des Periodensystems der Elemente (PSE) trainiert wird, sondern für eine bestimmte Auswahl von Elementen, die zur Auswertung eines Spektrums benötigt werden. Insbesondere können für die Röntgenfluoreszenzanalyse spezifische chemische Elemente ausgewählt werden, beispielsweise solche, die eine Ordnungszahl größer 9 aufweisen. Für andere Spektralanalysen können entsprechend daran angepasste chemische Elemente ausgewählt werden.
Die erste Netzwerkarchitektur zur quantitativen Analyse wird bevorzugt dahingehend aufgebaut, dass das erfasste Spektrum mit einem Skalierungsnetzwerk mit einem Skalierungsfaktor skaliert wird, um verschiedene mögliche Anregungsbedingungen auszugleichen, um darauffolgend das skalierte Spektrum einem Vorhersagenetzwerk zuzuführen und durch dieses Vorhersagenetzwerk ein Ergebnis von dem erfassten Spektrum auszugeben. Dies ermöglicht wieder eine Präzisierung in der quantitativen Bestimmung des Netzwerkes.
Für das Vorhersagenetzwerk und/oder das Skalierungsnetzwerk wird ein neuronales Netz verwendet, wobei bevorzugt ein dichtes gefaltetes Netz (DenseNet - Dense convolutional network) eingesetzt wird. Dies ermöglicht eine verkürzte Simulationsdauer.
Für die quantitative und/oder qualitative Analyse des erfassten Spektrums wird bevorzugt eine Merkmalsreduzierungsmethode eingesetzt, um vorprozessierte Simulationsspektren zu generieren. Diese Merkmalsreduzierungsmethode dient wiederum zur Beschleunigung des Trainingsprozesses. Des Weiteren ist vorgesehen, dass in der zweiten Netzwerkstruktur, ausgehend von einer Vielzahl von Spektren, welche mit einer der Merkmalsreduzierungsmethoden vorprozessiert werden, beispielsweise ein mehrschichtiges Netz (MLP), ein gefaltetes neuronales Netz (CNN) oder ein dichtes gefaltetes neuronales Netz (DenseNet) trainiert wird. Insbesondere hat sich zum Aufbau der zweiten Netzwerkstruktur als vorteilhaft erwiesen, dass als eine Merkmalsreduzierungsmethode eine Merkmalsselektion durchgeführt wird und darauffolgend ein DenseNet ausgewählt und trainiert wird.
Bei einer der Merkmalsreduzierungsmethoden kann vorgesehen sein, dass die Anzahl der auszuwertenden Merkmale der bereits generierten Spektren, welche jeweils eine Anzahl von beispielsweise 1024 Merkmalen umfassen, auf eine Anzahl von vorzugsweise 512, 256, 128, 64, 32 oder 16 Merkmalen reduziert werden. Unter den Merkmalen eines Spektrums werden auch die Frequenzen, beziehungsweise die damit korrelierenden Energien verstanden, die insbesondere beim Einsatz von A/D- Wandlern für den Detektor als sogenannte Kanäle ausgegeben werden, wobei die Kanäle mit den Merkmalen gleichzusetzen sind.
Als eine weitere Merkmalsreduzierungsmethode kann eine Mittelwertkompression eingesetzt werden, bei der die Anzahl der Merkmale des erfassten Spektrums durch Mittelwertbildungen auf ein Zielspektrum mit einer verringerten Anzahl von Merkmalen reduziert werden.
Des Weiteren kann die Merkmalsreduzierungsmethode als eine Merkmalselektion durchgeführt werden, bei der eine Reduzierung der Anzahl von Merkmalen beziehungsweise Kanälen des jeweiligen Spektrums ausgehend von ihrer Originalgröße des generierten Spektrums durchgeführt wird. Bei dem generierten Spektrum handelt es um ein solches, welches durch die vorbeschriebene Simulationsmethode erzeugt wurde.
Des Weiteren kann alternativ vorgesehen sein, dass eine Merkmalstransformation, insbesondere mit einem Autoencoder-Netzwerk durchgeführt wird, bei dem eine Gewichtung der Merkmale beziehungsweise Kanäle des jeweiligen Spektrums nach relevanten und nichtrelevanten Merkmalen durchgeführt wird und die nichtrelevanten Merkmale eliminiert werden.
Durch die vorgenannten Merkmalsreduzierungsmethoden kann innerhalb eines Bereiches, bei dem die Merkmale des Spektrums beispielsweise von 1024 auf bis zu 32 Merkmale reduziert werden, annähernd ähnliche Leistungsergebnisse in der Richtigkeit und Präzision der Ergebnisse erzielt werden, welche in einem Auswertebereich von 0 bis 1 vorteilhafterweise bei 0,92 bis 0,98 liegen.
Bei der Merkmalsselektion als Merkmalsreduzierungsmethode wird bevorzugt ein Watermelon-Modell ausgewählt, bei dem vorzugsweise die Auswahl der Merkmale zur Selektion durch eine Bayes-Fehlerraten-Ab- schätzung erfolgt.
Des Weiteren ist bevorzugt vorgesehen, dass das analysierende neuronale Netz mit einem Modell zur Netzwerkreduzierung trainiert wird. Bevorzugt wird das neuronale Netz um Komponenten, wie beispielsweise Neuronen, Filter und/oder Parameter reduziert, insbesondere um die redundanten Komponenten zu eliminieren. Dadurch kann auch eine Reduzierung der benötigten Ressourcen ermöglicht werden.
Des Weiteren ist bevorzugt vorgesehen, dass das analysierende neuronale Netz mit einem Modell zur Quantisierung trainiert wird, bei dem die Datengröße, insbesondere von einem Knoten des neuronalen Netzes, reduziert wird. Vorzugsweise wird eine Bit-Größe von 32 bit (32 bit floats) oder weniger ausgewählt.
Die vorgenannten Merkmalsreduzierungsmethoden, welche bevorzugt nach dem Training des neuronalen Netzes der ersten und/oder zweiten Netzwerkarchitektur durchgeführt werden, können einzeln oder in einer beliebigen Kombination oder auch kumulativ aneinandergereiht werden. Durch die vorgenannten Merkmalsreduzierungsmethoden kann das jeweilige zum Einsatz kommende neuronale Netz in der Größe reduziert werden, wobei die Auswerteergebnisse gleich oder besser geworden sind. Durch die zumindest eine Merkmalsreduzierungsmethode kann eine verbesserte Präzision und verkürzte Auswertung der Messungen an Proben mit einer erheblichen Reduzierung der Daten- und Computerkosten ermöglicht sein.
Des Weiteren ist bevorzugt vorgesehen, dass ein neuronales Netz eines Meta-Netzwerks durch Simulationsdaten von einer Anzahl von bekannten Vorrichtungen zur Durchführung eines Meta-Lernverfahrens trainiert wird. Unter bekannten Vorrichtungen werden solche verstanden, die bereits kalibriert sind und vorzugsweise zumindest eine charakteristische Eigenschaft der Vorrichtung bereits ermittelt wurden. Dies ermöglicht insbesondere bei der Herstellung von einer größeren Anzahl von Vorrichtungen beziehungsweise Messgeräten, eine Minimierung von Kalibrierungskosten der Vorrichtungen.
Des Weiteren ist bevorzugt vorgesehen, dass zum Kalibrieren von unbekannten Messgeräten für die Spektralanalyse bzw. Vorrichtungen ein Meta-Lernverfahren mit dem Meta-Netzwerk eingesetzt wird, bei welchem die Eigenschaften und/oder die sich ändernden Messbedingungen und/oder die Messaufgaben des unbekannten Messgerätes erfasst und das neuronale Netz des Meta-Netzwerks durch diese Simulationsdaten und/oder gemessenen Daten des unbekannten Messgerätes ergänzend trainiert wird. Die Dauer des Trainings des Meta-Netzwerks durch Simulationsdaten des unbekannten Messgeräts ist dabei deutlich reduziert gegenüber der Dauer des Trainings für zumindest ein Neuronales Netzwerk für das unbekannte Messgerät. Nach dem Trainieren des Meta-Netzwerkes zum Kalibrieren des unbekannten Netzwerkes ist die Vorrichtung für die quantitative und/oder qualitative Analyse betriebsbereit. Unter unbekannten Vorrichtungen werden bevorzugt solche Vorrichtungen verstanden, welche in der Produktion fertig gestellt, jedoch noch nicht kalibriert sind. Für das vorliegende Verfahren können zur Ausbildung von dem analysierenden neuronalen Netz beispielsweise ein mehrschichtiges Netz (MLP - Multilayer-Perzeptrone), ein gefaltetes neuronales Netz (CNN - Convolutional Neural Network) oder ein dichtes gefaltetes neuronales Netz (DNN - Dense Neuronal Network), insbesondere ein dichtes gefaltetes Netz (DenseNet - Dense Convolutional Network), eingesetzt werden.
Des Weiteren ist zur Durchführung der Spektralanalyse bevorzugt vorgesehen, dass in einem ersten Schritt die qualitative Analyse des erfassten Spektrums mit dem zweiten analysierenden neuronalen Netz erfolgt und das Ergebnis ausgegeben wird. Dadurch kann innerhalb einer kurzen Prozessdauer festgestellt werden, ob das oder die zu untersuchenden Elemente in der Probe enthalten sind. In manchen Fällen kann bereits eine solche Analyse genügen. In diesem Fall kann das Verfahren beendet werden. Zumeist ist jedoch erforderlich, dass eine Aussage über die Konzentration des oder der Elemente gewünscht wird. In diesem Fall wird auf die qualitative Analyse folgend die quantitative Analyse mit dem ersten neuronalen Netz durchgeführt. Aufgrund des Trainings des neuronalen Netzes mit einer Vielzahl von Simulationsspektren kann innerhalb einer sehr kurzen Auswertezeit eine sehr präzise Bestimmung der Konzentration von dem oder den Elementen in der Probe erfolgen. Alternativ kann vorgesehen sein, dass sowohl die quantitative Analyse als auch die qualitative Analyse gleichzeitig durchgeführt wird. Es versteht sich, dass auch nur die Durchführung der quantitativen Analyse mit dem ersten neuronalen Netz erfolgen kann.
Die der Erfindung zugrundeliegende Aufgabe wird des Weiteren durch eine Vorrichtung zur Durchführung einer Spektralanalyse zur Ermittlung des Spektrums von einer Probe, insbesondere zur Durchführung des Verfahrens nach einer der vorbeschriebenen Ausführungsformen gelöst, welche eine Quelle zur Ausgabe einer Primärstrahlung auf die Probe, sowie einen Detektor zur Erfassung einer Sekundärstrahlung umfasst, die nach der Anregung der Probe mit der Primärstrahlung emittiert wird, wobei eine computergestützte Auswerteeinrichtung das zumindest eine erfasste Spektrum durch den Detektor auswertet, wobei zumindest ein analysierendes neuronales Netz mit zumindest einer ersten Netzwerkarchitektur zur quantitativen Analyse des Spektrums und zumindest eine zweite Netzwerkarchitektur mit einem zweiten analysierenden neuronalen Netz für die qualitative Analyse des Spektrums vorgesehen ist sowie eine Ausgabeeinrichtung, welche ein Ergebnis des zumindest einen durch das zumindest eine neuronale Netz analysierten Spektrums für die zumindest eine Elementkonzentration und/oder die zumindest eine Elementidentifikation der Probe ausgibt.
Die der Erfindung zugrundeliegende Aufgabe wird des Weiteren durch ein Computerprogramm zur Durchführung einer Spektralanalyse zur Ermittlung eines Spektrums einer Probe, welche insbesondere für die Auswerteeinrichtung der vorgenannten Vorrichtung vorgesehen ist, gelöst, wobei das Computerprogramm auf wenigstens einem computerlesbaren Speichermedium vorgehalten ist, welches in der computergestützten Auswerteeinrichtung ausführbar ist und die Auswerteeinrichtung dazu veranlasst, ein Verfahren nach einem der vorstehenden Ausführungsformen auszuführen.
Die Erfindung sowie weitere vorteilhafte Ausführungsformen und Weiterbildungen derselben werden im Folgenden anhand der in den Zeichnungen dargestellten Beispiele näher beschrieben und erläutert. Die der Beschreibung und den Zeichnungen zu entnehmenden Merkmale können einzeln für sich oder zu mehreren in beliebiger Kombination erfindungsgemäß angewandt werden. Es zeigen:
Figur 1 eine schematische Ansicht einer Vorrichtung zur Durchführung einer Spektralanalyse,
Figur 2 ein Diagramm eines durch die Spektralanalyse ermittelten Spektrums von einer Legierung,
Figur 3 eine schematische Ansicht zum Trainieren eines neuronalen Netzes mit Simulationsspektren, Figur 4 eine schematische Darstellung einer ersten Netzwerkarchitektur des neuronalen Netzes,
Figur 5 eine schematische Ansicht eines Netzwerkaufbaus für die Netzwerkarchitektur gemäß Figur 4,
Figur 6 ein Diagramm zur Darstellung eines Vergleichs zwischen Testverlusten vor und nach dem Training des neuronalen Netzes,
Figur 7 ein Diagramm zur Darstellung der Auswertezeiten von verschiedenen Netzwerkstrukturen,
Figur 8 eine Tabelle mit einem Vergleich von Auswertezeiten zwischen herkömmlichen Messgeräten und mit einem neuronalen Netz unterstützten Messgerät,
Figur 9 eine schematische Ansicht einer zweiten Netzwerkarchitektur für die qualitative Analyse,
Figur 10 eine schematische Ansicht eines Netzwerkaufbaus für die zweite Netzwerkarchitektur,
Figur 11 ein Diagramm zur Darstellung der Leistungsfähigkeit von Merkmalsreduzierungsmethoden, angewendet auf ein neuronales Netz,
Figur 12 eine schematische Ansicht eines Spektrums mit einer vollen Anzahl von Merkmalen,
Figur 13 eine schematische Ansicht eines Spektrums mit einer reduzierten Anzahl von Merkmalen,
Figur 14 eine schematische Ansicht einer Datengröße eines neuronalen Netzes, Figur 15 eine schematische Ansicht einer reduzierten Datengröße des neuronalen Netzes in Figur 14,
Figur 16 eine Tabelle zur Darstellung der Zeitreduzierung der Auswertezeit von verschiedenen Merkmalsreduzierungsmethoden bei Anwendung von verschiedenen neuronalen Netzen,
Figur 17 eine Ansicht auf Schritte zum Training eines neuronalen Netzes für die Spektralanalyse mit einer hohen Leistungsfähigkeit, und
Figur 18 ein schematischer Ablauf für ein Meta-Lernverfahren zur Kalibrierung von Messgeräten.
In Figur 1 ist schematisch eine Vorrichtung 11 zur Durchführung einer Spektralanalyse zur Ermittlung eines Spektrums von einer Probe 12 dargestellt. Diese Vorrichtung 11 umfasst eine Quelle 14 zur Erzeugung einer Primärstrahlung 15. Diese Primärstrahlung 15 ist auf die Probe 12 gerichtet. Zwischen der Quelle 14 und der Probe 12 kann ein Fokussierelement 16, beispielsweise eine optische Linse oder ein Kollimator oder dergleichen, vorgesehen sein. Durch die Primärstrahlung 15 wird in der Probe 12 oder in zumindest einer Schicht 13 auf der Probe 12 eine Sekundärstrahlung 17 emittiert, welche von einem Detektor 18 erfasst wird. Diese Vorrichtung 11 umfasst eine Steuerung 19, durch welche zumindest die Quelle 14 angesteuert wird. Der Detektor 18 wandelt die erfasste Sekundärstrahlung 17 in ein Spektrum um und leitet dieses an eine Auswerteeinrichtung 21 weiter. Diese Auswerteeinrichtung 21 ist beispielsweise in einem Spektrometer. Diese Auswerteeinrichtung 21 umfasst ein neuronales Netz 22, durch welches die von der Auswerteeinheit 21 erfassten Daten ausgewertet werden. Eine Anzeigeeinrichtung 23 gibt das ermittelte Ergebnis basierend auf dem trainierten neuralen Netz 22 aus. Bei der Vorrichtung 11 kann es sich beispielsweise um ein Röntgenfluoreszenzmessgerät handeln, bei welchem die Quelle 14 als eine Röntgenröhre ausgebildet ist und der Detektor 18 einen A/D-Wandler umfasst, um die Energien der Sekundärstrahlung 17 zu erfassen und in sogenannte Kanäle umzuwandeln und auszugeben. Indizes dieser Kanäle sind proportional zu der erfassten Energie. Die erfasste Energie beziehungsweise der ausgegebene Kanal wird nachfolgend als Merkmal bezeichnet.
Alternativ kann die Vorrichtung 11 beispielsweise zur Durchführung einer laserinduzierten Plasmaspektroskopie (LIBS - Laser induced breakdown spectroscopy) ausgebildet sein und die Quelle 14 ist als eine Laserquelle ausgebildet. Der Detektor 18 als ein Spektrometer zur Ermittlung von emittiertem Licht ausgebildet.
In Figur 2 ist ein Diagramm von einem Spektrum von einer Legierung dargestellt, das durch die Vorrichtung 11 ermittelt wird. Die in der Legierung enthaltenen Elemente werden im Spektrum durch Fluoreszenzlinien unterschiedlicher Intensitäten I dargestellt, welche über die Y-Achse aufgetragen sind, sowie entsprechender Fluoreszenzlinienenergien, die den Indizes der Kanäle entsprechen, die in jeweils einem Merkmal M entlang der X-Achse aufgetragen sind. Über die Intensität ist die Konzentra- tion/Schichtdicke des chemischen Elements in der Schicht 13 oder der Probe 12 erfassbar. Über die Zuordnung der Intensität zu dem jeweiligen Merkmal kann das chemische Element erfasst werden.
Die Grundlage für die Ausgabe eines solchen Spektrums durch die Auswerteeinrichtung 21 ist ein abstraktes physikalisches Modell S=P(0, T, , K), wobei 0 die Konzentration des chemischen Elements bezeichnet, T die Schichtdicke auf einem Gegenstand, X die Messbedingungen während der Messung durch die Vorrichtung 11 und K die charakteristischen Eigenschaften der Vorrichtung 11 bezeichnet. Bei der bisherigen klassischen Methode zur Ermittlung beispielsweise einer Elementkonzentration auf Basis des physikalischen Modells wurden Parameter zunächst fest vorgegeben und nach der Messung mit der Vorrichtung 11 die erfassten Werte der Elementkonzentration in einem iterativen Prozess optimiert bis die theoretischen Spektren mit dem gemessenen Spektrum möglichst eine hohe Übereinstimmung aufweist um daraufhin ein Ergebnis auszugeben.
Damit einher geht die Problematik, dass die Auswertezeit hoch ist und die Messbedingungen und Messeigenschaften sowie gegebenenfalls die Kalibrierung als bekannt gegeben sein muss. Ausgehend hiervon besteht das Ziel, durch die Anwendung von zumindest einem neuronalen Netz beziehungsweise neuronalen Netzwerkes eine schnelle und präzise Auswertung der Messergebnisse zu ermöglichen. Zusätzlich soll die Anwendung von zumindest einem neuronalen Netz auf verschiedenen Endgeräten anwendbar sein.
Der Einsatz von einem analysierenden neuronalen Netzwerk, welches wie nachfolgend trainiert und aufgebaut ist, ermöglicht, dass aufwändige nichtlineare Funktionen sehr präzise erfasst werden können. Auch wurde festgestellt, dass durch das zumindest eine neuronale Netzwerk eine Umkehrfunktion P -1(S) approximiert werden kann. Dies ist bei der bisherigen Durchführung der Spektralanalyse nicht möglich.
Vor diesem Hintergrund wird vorgeschlagen, ein neuronales Netz für Spektralanalyse der Vorrichtung 11 vorzuschlagen, welches zumindest die quantitative Analyse beschleunigt und mit einer hohen Präzision ermöglicht.
Für die quantitative Analyse von Elementkonzentrationen ist erforderlich, dass das neuronale Netz mit einer Vielzahl von Spektren, insbesondere simulierten Spektren, trainiert wird. Dieses Training kann ausgehend von dem physikalischen Modell S = P(<t>), wobei für 0, T, , K steht, auf der Basis von konkreten Parametern der Proben 12 und/oder konkreten Parametern der Vorrichtung 11 darauf aufbauend von zumindest einer Simulationsmethode trainiert werden. Für das Training können auch zufällig ausgewählte oder gesetzte Parameter zugrunde gelegt werden. Auch kann ein Training durch tatsächlich erfasste Merkmale der Spektren erfolgen. Auch kann eine Kombination vorgesehen sein. Durch die Simulationsmethode kann eine Vielzahl von Spektren generiert werden. Vorteilhafterweise wird das neuronale Netz mit 80.000 bis 150.000 Spektren trainiert.
Die Figur 3 zeigt, dass ausgehend von dem physikalischen Modell (S= P(c|3)) 24 eine Vielzahl von Spektren gemäß dem Bild 25 generiert werden, durch welche das neuronale Netz 22 der ersten Netzwerkarchitektur 26 trainiert wird.
Das neuronale Netz 22 basiert auf Neuronen und umfasst eine Eingabeschicht, eine oder mehrere versteckte Schichten und eine Ausgabeschicht. Beispielsweise kann ein einschichtiges Netz (MLP - Multilayer perceptrons) vorgesehen sein. Ebenso können ein gefaltetes neuronales Netz (CNN - convolutional neuronal net) oder ein dichtes neuronales Netz (DNN - dense neuronal net) oder weitere Architekturen, wie beispielsweise ein dichtes gefaltetes neuronales Netz (DenseNet), eingesetzt werden.
In Figur 4 ist schematisch ein Aufbau der ersten Netzwerkarchitektur 26 dargestellt. Ausgehend von einem erfassten Spektrum 27 wird mittels einem Skalierungsnetzwerk 28 dieses erfasste Spektrum 27 bewertet und mit einem Skalierungsfaktor 29 modifiziert, beispielsweise um unterschiedliche Anregungsbedingungen zur Erzeugung der Sekundarstrahlung 17 auszugleichen. Das durch das Skalierungsnetzwerk 28 skalierte Spektrum 31 wird mit einem Vorhersagenetzwerk 32 ausgewertet und ein Ergebnis 33 des aus dem erfassten Spektrums 27 ausgegeben.
In Figur 5 ist eine schematische Ansicht eines möglichen Aufbaus des DenseNet (Densely connected convolutional network) 35 dargestellt. Dieses DenseNet 35 wird bevorzugt für das Skalierungsnetzwerk 28 und/oder das Vorhersagenetzwerk 32 der ersten Netzwerkarchitektur 26 angewendet. Das DenseNet 35 kann beispielsweise eine Eingangsschicht 36, eine gefaltete Schicht 37, sowie darauffolgend einen sogenannten Dichteblock (Denseblock) 38 umfassen. Eine weitere auch auswahlspezifische Aneinanderreihung von solchen Schichten erfolgt bis zur Ausgabeschicht 39.
Der Denseblock 38 ist schematisch vergrößert in Figur 5 dargestellt. Dieser umfasst beispielsweise vier aufeinanderfolgende gefaltete Schichten 37, wobei jede Schicht 37 mit der benachbarten kontaktiert ist.
In Figur 6 ist ein Diagramm dargestellt, aus welchem hervorgeht, welche Anzahl von Spektren von Vorteil sind, um das neuronale Netz 22 zu trainieren, um eine geringe Fehlerrate in der Ausgabe von Ergebnissen zu erzielen. Eine Fehlerrate von fehlgeschlagenen Tests ist entlang der Y- Achse und die Anzahl der Spektren entlang der X-Achse aufgetragen. Dabei ist ein Vergleich aufgezeigt, bei dem die fiktive Linie mit den runden Punkten Spektren nach dem Training der ersten Netzwerkarchitektur 26 darstellt. Die fiktive mit einem Kreuz gekennzeichnete Linie zeigt einen Vergleich von fehlgeschlagenen Tests und fehlgeschlagenen Trainings. Daraus ist ersichtlich, dass eine zu geringe Größe der Trainingsdaten von Spektren zu einer erhöhten Fehlerrate führt. Des Weiteren ist ersichtlich, dass in einem Bereich größer 80 k (80.000 Spektren), vorzugsweise 100 k (100.000 Spektren) bis 160 k (160.000 Spektren) ein geringerer Verlust, und eine geringere Fehlerrate gegeben ist und dieser Bereich bzw. die Anzahl der Spektren für das Training des neuronalen Netzes 22, insbesondere der ersten Netzwerkarchitektur 26, auszuwählen ist, um ein zufriedenstellendes Ergebnis für die Umsetzung im realen Betrieb zu erzielen.
In Figur 7 ist ein schematisches Diagramm dargestellt, bei welchem verschiedene Netzwerke für die Anwendung in der ersten Netzwerkarchitektur 26 einander gegenübergestellt sind. Entlang der Y-Achse ist der erfasste mittlere Fehler (MAE) und entlang der X-Achse die Antwortzeit in Sekunden für die Ausgabe des Ergebnisses aufgetragen. Dabei wird offensichtlich, dass die Anwendung der CNN-Architektur und insbesondere der DenseNet-Architektur zu den geringsten Auswertezeiten im Vergleich zu der MLP-Architektur bei der Anwendung in der ersten Netzwerkarchitektur 26 führt.
In Figur 8 ist eine Übersicht von Ergebnissen von Auswertungen von gemessenen Spektren an verschiedenen Probenl2 mit verschiedenen Vorrichtungen 11 dargestellt. Dabei erfolgt eine Gegenüberstellung der bisher bekannten Auswertung in der Spalte Referenz und der Anwendung der trainierten ersten Netzwerkarchitektur 26 für die quantitative Analyse in der Spalte neu. Für die Gegenüberstellung ist jeweils die mittlere absolute Fehlerrate MAE in Prozent und die Auswertezeit in Sekunden dargestellt. Die einander gegenüberstehenden mittleren Fehlerraten weichen vernachlässigbar voneinander ab. Durch die Anwendung der ersten Netzwerkarchitektur 26 wird eine deutliche Reduzierung der Auswertezeit bei einer durchschnittlichen Zeitdauer von 0,049 +/- 0,002 Sekunden erzielt. Dies entspricht einem Faktor von wenigstens dem 20-fachen gegenüber der Referenz. Daraus ist offensichtlich, dass durch die trainierte erste Netzwerkstruktur 26 mit einer hohen Anzahl von Simulationsspektren, insbesondere zwischen 80.000 und 160.000 Spektren, eine deutliche Reduzierung der Auswertezeit erzielt werden konnte. Der mittlere absolute Fehler (MEA - Mean Absolut Error) bleibt im Vergleich der herkömmlichen quantitativen Analyse zu der durch die erste Netzwerkarchitektur 26 unterstützten quantitativen Analyse in etwa gleich.
Eine qualitative Analyse des Spektrums zur Identifikation des chemischen Elementes der Probe 12, ob dieses vorhanden oder nicht vorhanden ist, kann analog zur quantitativen Analyse durch ein Training des neuronalen Netzes mit mehreren tatsächlich erfassten und/oder simulierten Spektren 27 von verschiedenen reinen Elementen erfolgen.
Für die qualitative Analyse, welche die Elementidentifikation betrifft, ist bevorzugt eine zweite beziehungsweise weitere Netzwerkstruktur 41 zur Ausgabe eines Ergebnisses aus dem erfassten Spektrum 27 vorgesehen. Eine solche zweite Netzwerkstruktur 41 ist in Figur 9 dargestellt. Ausgehend von den simulierten Spektren 27 können zur Auswertung eine oder mehrere Merkmalsreduzierungsmethoden ausgewählt werden. Eine der Merkmalsreduzierungsmethoden betrifft eine Mittelwertkompression 42. Eine weitere Merkmalsreduzierungsmethode kann eine Merkmalsselektion 43 sein. Darüber hinaus kann als Merkmalsreduzierungsmethode eine Merkmalstransformation 44 durchführt werden. Unter Anwendung von einer dieser Methoden 42, 43, 44 wird ein vorprozessiertes Spektrum 45 ermittelt. Dieses vorprozessierte Spektrum 45 wird einem zweiten neuronalen Netz 46, beispielsweise mit einer Netzwerkarchitektur MLP 47, CNN 48 oder DenseNet 35, zugeführt und darauffolgend ein Ergebnis 33 ausgegeben, in welcher das identifizierte chemische Element angegeben ist.
Bei der Mittelwertkompression 42 ist bevorzugt vorgesehen, dass von den auszuwertenden Merkmalen des Spektrums 27 die Anzahl der Merkmale der ermittelten Spektren durch Mittelwertbildungen auf ein Zielspektrum reduziert werden.
Bei der Merkmalsselektion 43 kann eine Reduzierung der Anzahl von Merkmalen, ausgehend von einem kompletten Spektrum, durchgeführt werden. Beispielsweise kann das sogenannte Watermelon-Modell angewendet werden. Das Watermelon-Modell, auch Wassermelonen-Modell genannt, beruht auf eine Bayes-Fehlerraten-Abschätzung. Zunächst erfolgt bei diesem Modell unter Verwendung einer Kernel-Dichteabschätzung um die wahre Verteilung der Daten zu approximieren. Darauffolgend wird eine Bayes-Fehlerraten-Abschätzung berechnet und die Merkmale einzeln nach deren Unabhängigkeit oder Redundanz bewertet. Die redundanten Merkmale werden ermittelt.
Bei der Merkmalstransformation 44 erfolgt bevorzugt eine Gewichtung der Merkmale des jeweiligen Spektrums 27 nach relevanten und nicht relevanten Merkmalen und die nicht relevanten Merkmale im Spektrum werden eliminiert.
Die Merkmalstransformation 44 kann beispielsweise durch eine Netzwerksarchitektur gemäß Figur 10 durchgeführt werden. Hierbei handelt es sich um einen sogenannten Autoencoder 51. Ausgehend von einer Eingangsschicht 36 wird das Spektrum 27 einem Encoder 55 zugeführt, der beispielsweise zumindest eine erste und zweite dichte Schicht 56, 57 aufweist, sowie zwischen dem Encoder 55 und einem nachfolgenden Decoder 59 zumindest eine weitere dichte Schicht 58 umfasst. In dem Decoder 59 kann zumindest eine dichte Schicht 61, 62 vorgesehen sein. An den Decoder 59 schließt sich wiederum die Ausgabeschicht 39 an.
Diese vorbeschriebenen Vorgehensweisen dienen zum Training des neuronalen Netzes 22, beispielsweise mit der ersten Netzwerkarchitektur 24 und/oder der zweiten Netzwerkarchitektur 41. Nach diesem Training kann das neuronale Netz 22 weiter optimiert werden, um die Auswertezeit und/oder die Rechenleistung zu reduzieren.
In Figur 11 ist ein Diagramm dargestellt, bei welchem die Merkmalsreduzierungsmethoden in Abhängigkeit von der Anzahl der Merkmale der Spektren 27 sowie in Abhängigkeit von verschiedenen Reduzierungsmethoden aufgetragen ist. Entlang der Y-Achse ist ein Faktor aufgetragen, der die Genauigkeitsausgabe des Ergebnisses mit dem Faktor FI aus dem erfassten Spektrum in einem Bereich zwischen 0 und 1 angibt, wobei 1 einer 100% Genauigkeit entspricht. Entlang der X-Achse ist die Anzahl der Merkmale je Spektrum 27 aufgetragen. Die Linie 61 zeigt einen Leistungsverlauf bei dem Einsatz des Autoencoders 55 gemäß Figur 11. Die Linie 62 zeigt den Leistungsverlauf bei der Kompressionsmethode 42 und die Linie 63 zeigt den Leistungsverlauf bei der Merkmalsselektion 43, wobei insbesondere das Watermelon-Modell ausgewählt wurde. Bei allen drei Merkmalsreduzierungsmethoden 42, 43, 44 wurde ein Dense- Net 35 als neuronales Netz 22 zugrunde gelegt. Daraus ist ersichtlich, dass im Bereich einer Reduzierung der Merkmale je Spektrum von beispielsweise von 1024 auf bis zu 32 Merkmale eine hohe Genauigkeit von > 92% in allen drei Fällen erzielt werden kann. Die beiden Reduzierungsmethoden entsprechend der Linie 62 und Linie 63 ermöglichen eine deutlich verbesserte Genauigkeit des bestimmten Spektrums als dies bei der Reduzierungsmethode gemäß der Linie 61 der Fall ist. Somit ist die Merkmalselektion und insbesondere das Watermelon-Modell die bevorzugte Merkmalsreduzierungsmethode, insbesondere der ersten und/oder der zweiten Netzwerkarchitektur 26, 41, um die Auswertezeit zu reduzieren.
Eine weitere Merkmalsreduzierung kann darin bestehen, dass die Anzahl der Merkmale der Spektren 27 gezielt reduziert werden. In Figur 12 sind mehrere Spektren in Analogie zu dem Spektrum in Figur 2 dargestellt, welches über beispielsweise 1024 Merkmale entlang der X-Achse aufgetragen ist. Bei den in Figur 13 dargestellten Spektren wurde die Anzahl der Merkmale der Spektren 27 reduziert, beispielsweise von 1024 Merkmalen auf 32 Merkmale. Für diese Merkmalsreduzierung kann beispielsweise auch die vorbeschriebene Merkmalsselektion durchgeführt werden.
Des Weiteren kann zur Beschleunigung der Auswertezeit eine Netzwerkreduzierung des neuronalen Netzes 22 angewendet werden. Bei einer solchen Netzwerkreduzierung kann in einem ersten Schritt die Netzwerkarchitektur dahingehend überprüft werden, welche Neuronen, Filter oder Parameter die Leistungsfähigkeit beeinträchtigen. Danach werden insbesondere redundante Komponenten eliminiert. In einem zweiten Schritt können innerhalb der Netzwerkreduzierungsmethode die Parametergröße und die Gleitkommaoperationen (FLOPs - Float Point Operations) reduziert werden. Beispielsweise ist gemäß Figur 14 symbolisch ein neuronales Netz 22 dargestellt, um die Anzahl der Merkmale des Spektrums 27 gemäß Figur 12 zu verifizieren. In Figur 15 ist symbolisch ein reduziertes neuronales Netz 22 gegenüber dem in Figur 14 dargestellt, welches durch ein Spektrum 27 gemäß Figur 14 trainiert werden kann. Die Datengröße des neuronalen Netzes 22 gemäß Figur 14 beträgt beispielsweise 5,2 MB und die Rechenzeit beispielsweise 540 ms. In Figur 15 umfasst das reduzierte neuronale Netz 22 eine Datengröße beispielsweise von 0,1 MB und eine Rechenzeit von beispielsweise 0,9 ms. Daraus werden die Vorteile der Netzwerkreduzierung deutlich.
Des Weiteren kann die Auswertezeit des neuronalen Netzes 22 durch eine Netzwerkquantisierung verkürzt werden. Üblicherweise wird eine Bit-Größe von 32bit für die Gleitkommaoperationen (floats) verwendet. Durch die Netzwerkquantisierung ist vorgesehen, dass die Bit-Größe für die Gleitkommaoperationen auf eine niedrigere Bit-Größe als 32 bit und/oder eine Ganzzahldarstellung (int) reduziert wird. Bevorzugt kann durch die Quantifizierung eine Reduzierung auf 16-bit floats oder 8— bit ints oder beispielsweise auf 8-bit ints mit 16 bit Aktivierungen erfolgen. Beispielsweise kann durch die Quantifizierung von 32-bit float auf 16-bit float die Datengröße um ca. 50% reduziert werden. Analoges gilt für die weitere Bit-Reduzierung.
In Figur 16 ist eine weitere Tabelle dargestellt, aus welcher ein Leistungsvergleich der verschiedenen Reduzierungsmethoden dargestellt ist. Dabei werden die Datengrößen (MB) und die Auswertezeit (ms) sowie die Genauigkeit mit dem Faktor (FI) miteinander verglichen. Zudem wird die Anwendung einer CNN-Architektur 48 einerseits und einer DenseNet- Architektur 35 andererseits gegenübergestellt. Die erste Zeile der Tabelle zeigt unter „Basis" das neuronale Netz 22 der ersten und/oder der zweiten Netzwerkarchitektur 26, 41 ohne die Durchführung einer Merkmalsreduktion und/oder Netzwerkreduzierung und/oder Netzwerkquantisierung.
Durch die Merkmalsselektion 43 kann bereits eine erhebliche Reduzierung in der Datengröße um den Faktor 5 bei der CNN-Architektur 48 gegenüber der Basis erzielt werden. Die Datengröße bei der DenseNet-Ar- chitektur bleibt gleich. Bei der Auswertezeit für die CNN-Architektur 48 kann eine 13,7-fache Verringerung und für die DenseNet-Architektur 35 eine 16-fache Verringerung ermöglicht sein. Die Genauigkeit des Ergebnisses bleibt bei der Anwendung der Merkmalselektion gegenüber der Basis quasi gleich.
Durch die Netzwerkreduzierungsmethode und/oder durch die Netzwerksquantisierungsmethode kann eine weitere Reduzierung der Datengröße und Verringerung in der Auswertezeitermöglicht werden, wie aus der Tabelle ersichtlich ist. Die Genauigkeit der Ergebnisse bleibt hingegen im Vergleich zur Basis erhalten. Auch kann eine wahlweise Kombination der drei aufgeführten Reduzierungsmethoden, also Merkmalsreduzierung, Netzwerkreduzierung und/oder Netzwerkquantifizierung kombiniert angewendet werden. Sofern alle drei Reduzierungsmethoden überlagert eingesetzt werden, um das neuronale Netz 22 zu optimieren, kann bei der CNN-Architektur 48 die Datengröße um das ca. 29-fache reduziert und Auswertezeit um das 65-fa- che reduziert werden. Bei der DenseNet-Architektur 35 kann sogar die Dateigröße um das 52-fache und eine 600-fache Reduzierung der Auswertezeit erzielt werden. Dadurch ist offensichtlich, dass durch die Merkmalsreduzierung insbesondere durch eine Merkmalselektion, der Spektren für die quantitative und/oder qualitative Analyse einerseits und durch das Trainieren des neuronalen Netzes 22 mit diesen Spektren r und vorzugsweise einer zusätzlichen Netzwerkreduktion und/oder Netzwerkquantisierung des neuronalen Netzwerkes 22 nicht nur die Rechenaufwand verringert und dadurch die Kosten verringert werden können, sondern auch die Auswertezeiten um ein erhebliches Maß verkürzt werden.
In Figur 17 ist eine bevorzugte Ausführungsform zum Training des neuronalen Netzes 22 dargestellt. Diese Ausführungsform eignet sich insbesondere für eine Produktion von einer hohen Anzahl von Vorrichtungen, insbesondere Massenproduktion, wobei die Auswertezeit bei einer hohen Genauigkeit der Ergebnisse erheblich reduziert wird. In einem ersten Schritt 71 folgt ein Training des neuronalen Netzes 22 durch die tatsächlich erfassten Spektren und/oder durch mit einer Simulationsmethode simulierten Spektren für die qualitative und quantitative Analyse. Bevorzugt ist die Anzahl der simulierten Spektren um ein Vielfaches, insbesondere mindestens um den Faktor 100 größer als die der tatsächlich erfassten Spektren. Für das Training wird eine zweite Netzwerkstruktur 41 zugrunde gelegt, welche in Figur 9 näher beschrieben ist um die erste Netzwerkarchitektur 26 auf die chemischen Elemente zu trainieren. In einem weiteren Schritt 72 erfolgt eine analoge Vorgehensweise wie im Schritt 71 für die quantitative Analyse, wie in Figur 4 und 5 dargestellt ist. Diese sieht insbesondere vor, dass aus den ermittelte Spektrum 27 durch die Merkmalsreduzierungsmethode der Merkmalsselektion 42 vorprozessierte Spektren erfasst werden, welche daraufhin mittels dem DenseNet trainiert werden.
Ausgehend hiervon wird in einem weiteren Schritt 73 zur Merkmalsreduzierung die Merkmalselektion 42 ausgewählt, welche in den Figuren 12 und 13 beschrieben ist. Im Anschluss daran werden in Schritt 74 die vorprozessierten Spektren der ersten und/oder zweiten Netzwerkarchitektur 26, 41 zugrunde gelegt. Darauffolgend wird in Schritt 75 die Netzwerkreduzierung und anschließend in Schritt 76 die Netzwerkquantisierung durchgeführt. Dadurch kann insbesondere für Großserie ein prozessoptimiertes Verfahren zur Durchführung der Spektralanalyse geschaffen werden, bei welchem gegenüber herkömmlichen Verfahren eine Reduzierung der Datengröße um das bis zu 52-fache und eine Verringerung der Auswertezeit um das bis zu 600-fache erzielt werden. Gleichzeitig ist ermöglicht, dass herkömmliche Messgeräte mit einer verminderten Rechenleistung eingesetzt werden können.
In Figur 18 ist eine schematische Ansicht eines Meta-Lernverfahrens 64 mit einem Meta-Netzwerk 65 dargestellt. Ein solches Meta -Lern verfahren 64 findet insbesondere für die Kalibrierung von in einem Betrieb hergestellten Vorrichtungen 11 beziehungsweise Messgeräten Einsatz. Darüber hinaus ist oftmals nach einer bestimmten Betriebsdauer erforderlich, die Vorrichtungen 11 nachzukalibrieren, um einen Drift, der sich während des Betriebs des Messgerätes einstellen kann, zu korrigieren.
Bei dem Meta-Lernverfahren 64 ist vorgesehen, dass Informationen mit verschiedenen Aufgaben erlernt werden, sodass ein Meta-Netzwerk sich schnell an eine neue unbekannte Aufgabe, insbesondere Vorrichtung 11 anpassen kann. In einem ersten Schritt 66 werden von einer Probe 12 mit einem bekannten Messgerät 11 unter verschiedenen Messbedingungen Spektren 27 erfasst. Diese Spektren 27 werden durch eine erste Netzwerkarchitektur 26 des neuronalen Netzes 22 ausgewertet. Daraufhin werden von weiteren Proben 12 mit weiteren bekannten Messgeräten 11 Spektren ermittelt und/oder Simulationsspektren generiert, bei welchem nicht nur die verschiedenen Messbedingungen, sondern auch verschiedene charakteristische Eigenschaften des Messgerätes 11 berücksichtigt werden. Diese Spektren von der zumindest einen bekannten Vorrichtung 11 werden im Schritt 66 verwendet, um ein Meta-Netzwerk 65 zu trainieren. Hierfür kann ein Agnostik-Meta-Lernmodell (MAML - Model-Agnostik Meta-Learning) verwendet werden. Das Meta-Netzwerk 65 wird somit für die Kalibration der Vorrichtungen 11 trainiert.
Zur Kalibrierung eines unbekannten Messgerätes 11 wird zunächst in Schritt 67 das Meta-Netzwerk 65 mit Messbedingungen und/oder Messeigenschaften des unbekannten Messgerätes 11 trainiert. Darauffolgend erfolgt die Kalibrierung des unbekannten Messgerätes 11 durch das Meta-Netzwerk 65. Vorteilhafterweise kann die Kalibrierung der unbekannten Messgeräte 11 ohne eine Messung einer Probe 12 erfolgen. Alternativ kann auch zumindest eine Messung an dem unbekannten Messgerät 11 durchgeführt werden. Dabei wird das Meta-Netzwerk 65 weiter trainiert, wodurch eine verbesserte Kalibration an dem unbekannten Messgerät 11 durchgeführt wird.
Nach einer vorbestimmten oder längeren Betriebsdauer des Messgerätes 11 kann eine Nachkalibrierung, gemäß Schritt 68 erforderlich werden. Dabei werden Messdaten des nachzukalibrierenden Messgerätes 11 erfasst, sodass das Meta-Netzwerk 65 durch diese Messdaten wiederum trainiert wird. Aufgrund des weiteren Trainings des Meta-Netzwerkes 65 durch das nachzukalibrierende Messgerät 11 kann das Meta-Netzwerk 65 weiter trainiert werden und eine schnellere und verbesserte Nachkalibration durchführen.
Das Meta-Lernverfahren 64 ist bevorzugt in zwei Prozesse aufgeteilt, nämlich in ein Training vor dem Kalibrieren des unbekannten Messgerätes 11 und in ein Training nach der Kalibration des dann bekannten Messgerätes 11. Durch das Meta-Lernverfahren 64 kann eine hohe Kosteneinsparung für die Industrie und den Kunden ermöglicht werden.

Claims

Ansprüche Verfahren zur Durchführung einer Spektralanalyse zur Auswertung eines Spektrums von einer Probe (12),
- mit einem Messgerät (11),
- bei dem eine Primärstrahlung (15) von einer Quelle (14) auf die Probe (12) gerichtet wird,
- bei dem durch die Anregung der Probe (12) mittels Primärstrahlung (15) von der Probe (12) oder zumindest einer Schicht (13) der Probe (12) eine Sekundärstrahlung emittiert wird,
- bei dem durch einen Detektor (18) ein Spektrum der Sekundärstrahlung (17) erfasst wird,
- bei dem das zumindest eine erfasste Spektrum durch den Detektor (18) zur Auswertung einer computergestützten Auswerteeinrichtung (21) zugeführt wird, in welcher das zumindest eine erfasste Spektrum in zumindest einem analysierenden neuronalen Netz (22) von zumindest einer ersten Netzwerkarchitektur (26) ausgewertet wird, das zur quantitativen Analyse des Spektrums trainiert wird,
- bei dem das neuronale Netz (22) der ersten Netzwerkarchitektur (26) durch eine Vielzahl von Simulationsspektren trainiert wird, welche ausgehend von einem physikalischen Modell (S= P(<t>)) mit einer Simulationsmethode generiert wird,
- bei dem zumindest eine zweite Netzwerkarchitektur (41) mit einem zweiten analysierenden neuronalen Netz (46) für die qualitative Analyse des erfassten Spektrums trainiert wird, - bei dem von dem durch die neuronalen Netze (22, 46) analysierten Spektrum eine Konzentration und/oder eine Identifiktion des zumindest einen Elements der Probe (12) als ein Ergebnis ausgegeben wird. Verfahren nach Anspruch 1 , dadurch gekennzeichnet, dass das neuronale Netz (22, 46) der zumindest einen Netzwerkarchitektur (26, 41) darauf trainiert wird, dass dieses eine Umkehrfunktion P_ X(S) approximiert, so dass bei der quantitativen Analyse die zumindest eine Elementkonzentration des erfassten Spektrums der Probe (12) ermittelt und ausgegeben wird und/oder bei der qualitativen Analyse das Nichtvorhandensein oder das Vorhandensein von zumindest einem chemischen Element des erfassten Spektrums der Probe (12) ermittelt und ausgegeben wird. Verfahren nach einem der vorhergehenden Ansprüche, dadurch gekennzeichnet, dass das neuronale Netz (22) der ersten Netzwerkarchitektur (26) durch eine Vielzahl von Simulationsspektren trainiert wird, welche ausgehend von dem physikalischen Modell (S=P(0, T, , K)) mit einer Simulationsmethode, insbesondere einer Monte Carlo Simulation, generiert wird, und/oder dass die erste Netzwerkarchitektur (26) mit einer Vielzahl von tatsächlich erfassten Spektren trainiert wird. Verfahren nach Anspruch 3, dadurch gekennzeichnet, dass die Simulationsspektren mit vorgegebenen Parametern, insbesondere mit der Konzentration des chemischen Elementes oder Konzentrationen von dem zumindest einen Element einer Legierung, elementspezifische physikalische Konstanten, der Schichtdicke von zumindest einer Schicht, unterschiedlichen Messbedingungen der Messgeräte (11) und/oder charakteristischen Eigenschaften und/oder gerätespezifische Daten von dem einen oder verschiedenen Messgeräten (11), ermittelt werden. Verfahren nach Anspruch 1, dadurch gekennzeichnet, dass das neuronale Netz (46) der zweiten Netzwerkarchitektur (41) mit einer Vielzahl von Spektren von zumindest einem chemischen Element trainiert wird, insbesondere voneinander abweichenden Intensitätsverteilungen von Energiespektren des zumindest einem chemischen Element, welche durch eine Röntgenfluoreszenzanalyse ermittelt werden, und vorzugsweise das zumindest eine chemische Element eine Ordnungszahl größer 9 aufweist. Verfahren nach einem der vorhergehenden Ansprüche, dadurch gekennzeichnet, dass zur quantitativen Analyse des erfassten Spektrums in der ersten Netzwerkarchitektur (26) ein Skalierungsnetzwerk (28) eingesetzt wird, bei dem das wenigstens eine erfasste Spektrum der Probe (12) mit einem Skalierungsfaktor (29) angepasst wird, vorzugsweise um eine oder mehrere, insbesondere verschiedene Anregungsbedingungen auszugleichen, und dass darauffolgend das skalierte Spektrum einem Vorhersagenetzwerk (32) zugeführt wird und durch dieses Vorhersagenetzwerk (32) ein Ergebnis des Spektrums ausgegeben wird. Verfahren nach Anspruch 6, dadurch gekennzeichnet, dass das Vorhersagenetzwerk (32) und/oder das Skalierungsnetzwerk (28) mit einem neuronalen Netz, insbesondere einem dichten gefalteten Netz (DenseNet) aufgebaut wird, welches zumindest einen dichten Block mit gefalteten Schichten (DenseBlock) umfasst, bei dem vorzugsweise jede Schicht innerhalb des Blocks mit dem anderen Schichten kontaktiert ist. Verfahren nach einem der Ansprüch 3 oder 5, dadurch gekennzeichnet, dass zur quantitativen Analyse und/oder zur qualitativen Analyse des erfassten Spektrums zumindest eine Merkmalsreduzierungsmethode auf die generierten Simulationsspektren angewendet wird. Verfahren nach Anspruch 8, dadurch gekennzeichnet, dass ausgehend von einer Vielzahl von Simulationsspektren und/oder erfassten Spektren mit der zumindest einen Merkmalsreduzierungsmethoden vorprozessierte Spektren generiert werden und mit diesen vorprozessierten Spektren das neuronalen Netz trainiert wird. Verfahren nach Anspruch 8 oder 9, dadurch gekennzeichnet, dass durch die eine Merkmalsreduzierungsmethode die Anzahl der auszuwertenden Merkmale des Spektrums von 1024 auf 512, 256, 128, 64, 32 oder auf 16 Merkmale reduziert wird. Verfahren nach einem der Ansprüche 8 bis 10, dadurch gekennzeichnet,
- dass die Merkmalsreduzierungsmethode als eine Mittelwertkompression durchgeführt wird, bei der die Anzahl der Merkmale des erfassten Spektrum und/oder Simulationsspektren durch Mittelwertbildungen auf ein Zielspektrum reduziert wird, und/oder
- dass die Merkmalsreduzierungsmethode als eine Merkmalsselektion durchgeführt wird, bei der eine Reduzierung der Anzahl von Merkmalen des jeweiligen Spektrums ausgehend von deren Originalgröße durchgeführt und auf ein vorprozessiertes Spektrum reduziert wird, und/oder
- dass die Merkmalsreduzierungsmethode als eine Merkmalstransformation vorzugsweise mit einem Autoencoder-Netzwerk durchgeführt wird, bei der eine Gewichtung der Merkmale des jeweiligen Spektrums nach relevanten und nicht relevanten Merkmalen durchgeführt wird und die nicht relevanten Merkmale eliminiert werden. Verfahren nach Anspruch 11, dadurch gekennzeichnet, dass die Merkmalsselektion mit einem Watermelon-Modell durchgeführt wird, bei der vorzugweise die Auswahl der Merkmale durch eine Bayes-Fehlerraten-Abschätzung erfolgt. Verfahren nach einem der vorhergehenden Ansprüche, dadurch gekennzeichnet, dass das analysierende neuronale (26, 46) Netz nach der Simulation der Spektren und/oder Reduzierung der Spektren für die quantitative Analyse und/oder der Auswahl der chemischen Elemente für die qualitative Analyse mit zumindest einem weiteren Modell zur Reduzierung der Auswertezeit trainiert wird. Verfahren nach Anspruch 13, dadurch gekennzeichnet, dass das analysierende neuronale Netz (22, 46) nach der Simulation der Spektren und/oder Reduzierung der Spektren für die quantitative Analyse und/oder der Auswahl der chemischen Elemente für die qualitative Analyse mit einem Modell zur Netzwerkreduzierung trainiert wird, bei welchem das neuronale Netz (22, 46) um Komponenten, wie beispielsweise Neuronen, Filter und/oder Parameter, reduziert wird, insbesondere um die redundanten Komponenten reduziert wird. Verfahren nach Anspruch 14, dadurch gekennzeichnet, dass bei dem neuronalen Netz (22, 46), welches gefaltete Schichten umfasst, eine Filterreduzierung und/oder welches dichte Schichten umfasst, eine Neuronenreduzierung durchgeführt wird. Verfahren nach Anspruch 13, dadurch gekennzeichnet, dass das analysierende neuronale Netz (22, 46) nach der Simulation der Spektren und/oder Reduzierung der Spektren für die quantitative Analyse und/oder der Auswahl der chemischen Elemente für die qualitative Analyse mit einem Modell zur Quantisierung trainiert wird, bei dem die Datengröße, insbesondere von einem Knoten des neuronalen Netzes (22, 46), reduziert wird, vorzugsweise auf eine Bit-Größe von weniger als 32-bit (32-bit floats) reduziert wird. Verfahren nach einem der vorhergehenden Ansprüche, dadurch gekennzeichnet, dass das Messgerät (11) durch ein neuronales Netz eines Meta -Netzwerks (65) durch Simulationsdaten von einer Anzahl von bekannten Messgeräten zur Durchführung eines Meta- Lernverfahrens (64) für unbekannte Messgeräte (11) trainiert wird. Verfahren nach Anspruch 17, dadurch gekennzeichnet, dass zum Kalibrieren von unbekannten Messgeräten (11) für die Spektralanalyse das Meta-Lernverfahren (64) mit dem Meta-Netzwerk (65) eingesetzt wird, bei welchem die Eigenschaften und/oder die sich ändernden Messbedingungen und/oder die Messaufgaben des zu kalibrierenden Messgerätes (11) erfasst, und das Meta-Netzwerk (65) durch Simulationsdaten und/oder gemessenen Daten des unbekannten Messgerätes (11) ergänzend trainiert wird. Verfahren nach Anspruch 17 oder 18, dadurch gekennzeichnet, dass das Meta-Netzwerk (65) durch das Trainieren zumindest für die quantitative Analyse des unbekannten Messgerätes (11) betriebsbereit wird. Verfahren nach einem der vorhergehenden Ansprüche, dadurch gekennzeichnet, dass das analysierende neuronale Netz (22, 46, 65) zumindest als ein mehrschichtiges Netz (MLP), ein gefaltetes neuronales Netz (CNN) oder ein dichtes neuronales Netz (DNN), insbesondere ein dichtes gefaltetes Netz (DenseNet) aufgebaut wird. Verfahren nach einem der vorhergehenden Ansprüche, dadurch gekennzeichnet, dass in einem ersten Schritt zur Untersuchung der Probe (12) die quantitative Analyse durchgeführt wird und zur weiteren Analyse der Probe (12) die quantitative Analyse der Probe (12) durchgeführt wird. Verfahren nach einem der vorhergehenden Ansprüche, dadurch gekennzeichnet, dass die Quelle (14) als eine Röntgenröhre ausbeil- det ist und eine Röntgenstrahlung ausgegeben wird. Messgerät zur Durchführung einer Spektralanalyse zur Ermittlung eines Spektrums einer Probe, mit einer Quelle (14) zur Ausgabe einer Primärstrahlung (15) auf die Probe (12), mit einem Detektor (18) zur Erfassung einer Sekundärstrahlung (17), welche nach der Anregung der Probe (12) mittels Primärstrahlung (15) emittiert wird, mit einer computergestützten Auswerteeinrichtung (21), die das zumindest eine erfasste Spektrum des Detektors (18) auswertet, wobei zumindest ein analysierendes neuronales Netz (22) mit zumindest einer ersten Netzwerkarchitektur (26) zur quantitativen Analyse des Spektrums vorgesehen ist, wobei zumindest eine zweite Netzwerkarchitektur (41) mit einem zweiten analysierenden neuronalen Netz (46) für die qualitative Analyse des Spektrums vorgesehen ist, und mit einer Ausgabeeinrichtung, welche ein Ergebnis von zumindest einem durch das zumindest eine neuronale Netz (22, 46) analysierte Spektrum für eine Konzentration und/oder eine Identifikation des zumindest einen Elements der Probe (12) ausgibt. Computerprogramm zur Durchführung einer Spektralanalyse zur Ermittlung eines Spektrums von einer Probe (12), wobei das Computerprogramm auf wenigstens einem computerlesbaren Speichermedium vorgehalten ist, welches auf einem Computersystem ausführbar ist und das Computersystem dazu veranlasst, ein Verfahren nach einem der Ansprüche 1 bis 22 auszuführen.
EP23825471.8A 2022-12-06 2023-12-06 Verfahren und vorrichtung zur durchführung einer spektralanalyse zur ermittlung eines spektrums von einer probe Pending EP4612489A1 (de)

Applications Claiming Priority (2)

Application Number Priority Date Filing Date Title
DE102022132402 2022-12-06
PCT/IB2023/062314 WO2024121773A1 (de) 2022-12-06 2023-12-06 Verfahren und vorrichtung zur durchführung einer spektralanalyse zur ermittlung eines spektrums von einer probe

Publications (1)

Publication Number Publication Date
EP4612489A1 true EP4612489A1 (de) 2025-09-10

Family

ID=89224096

Family Applications (1)

Application Number Title Priority Date Filing Date
EP23825471.8A Pending EP4612489A1 (de) 2022-12-06 2023-12-06 Verfahren und vorrichtung zur durchführung einer spektralanalyse zur ermittlung eines spektrums von einer probe

Country Status (4)

Country Link
EP (1) EP4612489A1 (de)
JP (1) JP2025539483A (de)
CN (1) CN120604115A (de)
WO (1) WO2024121773A1 (de)

Family Cites Families (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN111222543B (zh) * 2019-12-19 2024-03-22 津海威视技术(天津)有限公司 物质识别方法和设备及计算机可读存储介质
AU2020439463A1 (en) * 2020-04-03 2022-12-01 Decision Tree, Llc Systems and methods for interpreting high energy interactions

Also Published As

Publication number Publication date
JP2025539483A (ja) 2025-12-05
CN120604115A (zh) 2025-09-05
WO2024121773A1 (de) 2024-06-13

Similar Documents

Publication Publication Date Title
DE60018932T2 (de) Schichtdickenmessung mittels inelastischer elektronenstreuung
EP4150295B1 (de) Computerimplementiertes verfahren zur zustandsüberwachung einer vorrichtung zur untersuchung von objekten und entsprechendes computerprogrammprodukt
EP2956758B1 (de) Verfahren und vorrichtung zur bestimmung einer konzentration einer fluoreszierenden substanz in einem medium
DE112014007016T5 (de) Diagnose und Behandlung für optische Rechenvorrichtung
DE10346433B4 (de) Analytisches Verfahren zum Bestimmen von kristallographischen Phasen einer Messprobe
DE102015220322A1 (de) Verfahren und Vorrichtung zur automatisierbaren Ermittlung der Bestimmungsgrenze und des relativen Fehlers bei der Quantifizierung der Konzentration einer zu untersuchenden Substanz in einer Messprobe
EP0812415B1 (de) Verfahren zur herstellung der vergleichbarkeit von spektrometermessungen
DE102006019705B3 (de) Dynamisches Messwertfilter für eine Gassensoranordnung
EP3329251A1 (de) Breitbandige resonator-verstärkte optische absorptionsspektroskopie
EP0427996A2 (de) Verfahren und Vorrichtung zur qualitativen und quantitativen Bestimmung von Inhaltsstoffen
WO2024121773A1 (de) Verfahren und vorrichtung zur durchführung einer spektralanalyse zur ermittlung eines spektrums von einer probe
DE102020112649A1 (de) Computerimplementiertes Verfahren zur Messung eines Objekts
EP2142913B1 (de) Analysesystem mit einem analysegerät und einem testträger zur photometrischen bestimmung eines analyten in einer körperflügssigkeit
WO1999047909A1 (de) Automatisches kalibrationsverfahren
DE102017201680A1 (de) Verfahren zum Kalibrieren und Mess- und Analyseverfahren
DE102019211694A1 (de) Verfahren und Vorrichtung zum Kalibrieren eines diamantbasierten Magnetfeldsensors mittels eines Resonanzmodells als ein Gaußprozessmodell
DE19960586B4 (de) Verfahren und Einrichtung zur Messung von Kenngrössen einer Probe durch Spektralanalyse
DE102008015145A1 (de) Verfahren zur Nachkalibrierung von Sensoren und zur Kalibrierung weiterer Sensoren
EP3282243B1 (de) Verfahren und messsystem zur bestimmung des feuchtegehalts eines faserverbundbauteils
EP0374686B1 (de) Verfahren zur Verbesserung von Richtigkeit und Reproduzierbarkeit der Messdaten immunometrischer Tests
EP2963398B1 (de) Prüfverfahren für Spektrometer und Spektrometer mit Prüffunktion
EP1333382A1 (de) Verfahren zur Bearbeitung von Messdaten und Vorrichtung zur Durchführung des Verfahrens
DE102024118136B3 (de) Verfahren und Vorrichtung zur Zeitbereichsspektroskopie mit reduzierter Stützstellenerfassung
AT522216A1 (de) Analysieren von Gas mittels Raman-Spektroskopie
DE102025128393A1 (de) Spektrometrisches Messverfahren und Analysator zum Auswerten einer von gemessenen Spektren gezeigten Variabilität

Legal Events

Date Code Title Description
STAA Information on the status of an ep patent application or granted ep patent

Free format text: STATUS: UNKNOWN

STAA Information on the status of an ep patent application or granted ep patent

Free format text: STATUS: THE INTERNATIONAL PUBLICATION HAS BEEN MADE

PUAI Public reference made under article 153(3) epc to a published international application that has entered the european phase

Free format text: ORIGINAL CODE: 0009012

STAA Information on the status of an ep patent application or granted ep patent

Free format text: STATUS: REQUEST FOR EXAMINATION WAS MADE

17P Request for examination filed

Effective date: 20250602

AK Designated contracting states

Kind code of ref document: A1

Designated state(s): AL AT BE BG CH CY CZ DE DK EE ES FI FR GB GR HR HU IE IS IT LI LT LU LV MC ME MK MT NL NO PL PT RO RS SE SI SK SM TR

DAV Request for validation of the european patent (deleted)
DAX Request for extension of the european patent (deleted)