EP2405800A1 - Fluorescence image processing by non-negative matrix factorisation - Google Patents

Fluorescence image processing by non-negative matrix factorisation

Info

Publication number
EP2405800A1
EP2405800A1 EP10707297A EP10707297A EP2405800A1 EP 2405800 A1 EP2405800 A1 EP 2405800A1 EP 10707297 A EP10707297 A EP 10707297A EP 10707297 A EP10707297 A EP 10707297A EP 2405800 A1 EP2405800 A1 EP 2405800A1
Authority
EP
European Patent Office
Prior art keywords
fluorescence
line
excitation
medium
acquisition
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Ceased
Application number
EP10707297A
Other languages
German (de)
French (fr)
Inventor
Anne-Sophie Montcuquet
Lionel Herve
Jérôme MARS
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Commissariat a lEnergie Atomique et aux Energies Alternatives CEA
Original Assignee
Commissariat a lEnergie Atomique CEA
Commissariat a lEnergie Atomique et aux Energies Alternatives CEA
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Commissariat a lEnergie Atomique CEA, Commissariat a lEnergie Atomique et aux Energies Alternatives CEA filed Critical Commissariat a lEnergie Atomique CEA
Publication of EP2405800A1 publication Critical patent/EP2405800A1/en
Ceased legal-status Critical Current

Links

Classifications

    • GPHYSICS
    • G01MEASURING; TESTING
    • G01NINVESTIGATING OR ANALYSING MATERIALS BY DETERMINING THEIR CHEMICAL OR PHYSICAL PROPERTIES
    • G01N21/00Investigating or analysing materials by the use of optical means, i.e. using sub-millimetre waves, infrared, visible or ultraviolet light
    • G01N21/62Systems in which the material investigated is excited whereby it emits light or causes a change in wavelength of the incident light
    • G01N21/63Systems in which the material investigated is excited whereby it emits light or causes a change in wavelength of the incident light optically excited
    • G01N21/64Fluorescence; Phosphorescence
    • G01N21/645Specially adapted constructive features of fluorimeters
    • G01N21/6456Spatial resolved fluorescence measurements; Imaging
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B5/00Measuring for diagnostic purposes; Identification of persons
    • A61B5/0059Measuring for diagnostic purposes; Identification of persons using light, e.g. diagnosis by transillumination, diascopy, fluorescence
    • A61B5/0071Measuring for diagnostic purposes; Identification of persons using light, e.g. diagnosis by transillumination, diascopy, fluorescence by measuring fluorescence emission
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B5/00Measuring for diagnostic purposes; Identification of persons
    • A61B5/0059Measuring for diagnostic purposes; Identification of persons using light, e.g. diagnosis by transillumination, diascopy, fluorescence
    • A61B5/0082Measuring for diagnostic purposes; Identification of persons using light, e.g. diagnosis by transillumination, diascopy, fluorescence adapted for particular medical purposes
    • A61B5/0084Measuring for diagnostic purposes; Identification of persons using light, e.g. diagnosis by transillumination, diascopy, fluorescence adapted for particular medical purposes for introduction into the body, e.g. by catheters
    • A61B5/0086Measuring for diagnostic purposes; Identification of persons using light, e.g. diagnosis by transillumination, diascopy, fluorescence adapted for particular medical purposes for introduction into the body, e.g. by catheters using infrared radiation
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F18/00Pattern recognition
    • G06F18/20Analysing
    • G06F18/21Design or setup of recognition systems or techniques; Extraction of features in feature space; Blind source separation
    • G06F18/213Feature extraction, e.g. by transforming the feature space; Summarisation; Mappings, e.g. subspace methods
    • G06F18/2133Feature extraction, e.g. by transforming the feature space; Summarisation; Mappings, e.g. subspace methods based on naturality criteria, e.g. with non-negative factorisation or negative correlation
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B5/00Measuring for diagnostic purposes; Identification of persons
    • A61B5/0059Measuring for diagnostic purposes; Identification of persons using light, e.g. diagnosis by transillumination, diascopy, fluorescence
    • A61B5/0075Measuring for diagnostic purposes; Identification of persons using light, e.g. diagnosis by transillumination, diascopy, fluorescence by spectroscopy, i.e. measuring spectra, e.g. Raman spectroscopy, infrared absorption spectroscopy
    • GPHYSICS
    • G01MEASURING; TESTING
    • G01NINVESTIGATING OR ANALYSING MATERIALS BY DETERMINING THEIR CHEMICAL OR PHYSICAL PROPERTIES
    • G01N21/00Investigating or analysing materials by the use of optical means, i.e. using sub-millimetre waves, infrared, visible or ultraviolet light
    • G01N21/62Systems in which the material investigated is excited whereby it emits light or causes a change in wavelength of the incident light
    • G01N21/63Systems in which the material investigated is excited whereby it emits light or causes a change in wavelength of the incident light optically excited
    • G01N21/64Fluorescence; Phosphorescence
    • G01N2021/6417Spectrofluorimetric devices
    • G01N2021/6423Spectral mapping, video display
    • GPHYSICS
    • G01MEASURING; TESTING
    • G01NINVESTIGATING OR ANALYSING MATERIALS BY DETERMINING THEIR CHEMICAL OR PHYSICAL PROPERTIES
    • G01N21/00Investigating or analysing materials by the use of optical means, i.e. using sub-millimetre waves, infrared, visible or ultraviolet light
    • G01N21/62Systems in which the material investigated is excited whereby it emits light or causes a change in wavelength of the incident light
    • G01N21/63Systems in which the material investigated is excited whereby it emits light or causes a change in wavelength of the incident light optically excited
    • G01N21/64Fluorescence; Phosphorescence
    • G01N21/6428Measuring fluorescence of fluorescent products of reactions or of fluorochrome labelled reactive substances, e.g. measuring quenching effects, using measuring "optrodes"
    • G01N2021/6439Measuring fluorescence of fluorescent products of reactions or of fluorochrome labelled reactive substances, e.g. measuring quenching effects, using measuring "optrodes" with indicators, stains, dyes, tags, labels, marks

Definitions

  • the invention relates to the field of optical imaging applied to the medical field.
  • This technique offers the prospect of non-invasive diagnostic systems through the use of non-ionizing, easy-to-use and inexpensive radiation.
  • Fluorescent markers are injected into the subject and bind to certain specific molecules, for example cancerous tumors.
  • the area of interest is illuminated at the optimal excitation wavelength of the fluorophore (the chemical substance of a molecule capable of emitting fluorescence light after excitation) and the fluorescent signal is detected.
  • Optical diffusion imaging - without fluorescent marker injection - is already used in clinical settings, particularly in the areas of mammography and neurology.
  • Fluorescence optical imaging (with specific fluorophore injection) is focused on "small animal” applications, due to the lack of suitable markers and injectable to humans, and the problem of tissue autofluorescence. which arises for the detection in depth. Indeed, to apply this method to the diagnosis of cancer in humans, it is essential that the specific signal located deeper under the skin than in the small animal can be detected. But the Specific signal to detect weakens with depth, mainly because of tissue absorption and diffusion, and confronts a parasitic signal that disrupts detection. This signal, called “auto-fluorescence”, describes the fluorescence of tissues to which no specific chemical or fluorophore has been injected: this is the natural fluorescence of the tissue.
  • the excitation wavelength is then close to the 400 nm wavelength for which the intensity of the autofluorescence signal is maximum.
  • optical fluorescence spectroscopy uses near infrared excitation wavelengths, which provide less absorption, and allows better penetration of tissue. The autofluorescence of tissues is then much weaker and becomes a signal to be suppressed rather than used.
  • the invention firstly relates to a method for locating at least one fluorescent marker in a scattering medium, wherein: a) at least one fluorescence image or acquisition or a series or a plurality of images or d fluorescence acquisitions, by excitation of the medium, each image or acquisition possibly comprising, on the one hand, a fluorescence component due to the marker or the markers, on the other hand an autofluorescence component due to a part of the medium other than the markers, the measured data of the image or of the acquisition or images or acquisitions that can be stored in a multidimensional array X, b) the data or table is processed by factoring this table into a product of only two non-negative multidimensional arrays, for example two non-negative matrices (if the spatial dimension is equal to 1), A and S, c) a graphical representation of the distribution of intensity or intensities of one or more sources of fluorescence, possibly of the autofluorescence which can be considered as a source of fluorescence, is determined from the data contained in Tables A
  • the invention also relates to a method for processing an image or acquisition or a series of images or fluorescence acquisitions in a scattering medium comprising at least one fluorescent marker, each image or acquisition being obtained by excitation of this medium, this image or acquisition may comprise, on the one hand, at least one fluorescence component due to the marker, and, on the other hand, an autofluorescence component due to a part of the medium other than the markers, a method in which which, during a processing step, these data or a table X of data from the series of images or acquisitions by factorization of this table X are processed into a product of only two non-negative multidimensional arrays, by example two non-negative matrices, A and S.
  • a method according to the invention may be preceded by the introduction of at least one marker in the medium.
  • the first array of non-negative AS A product is an array whose elements a q, p are weighting coefficients, a q, p being the contribution of the spectrum represented by the pth line of S, at the coordinate point q.
  • the second non-negative table S is a matrix whose lines correspond to the emission spectra of the fluorescent sources considered, the number of rows of the table S and the number of columns of the array A corresponding then to the number of fluorescence sources considered.
  • Table X is formed by making successive acquisitions, an acquisition being able for example to correspond to a given position of the source and to a given position of the detector. Each of these positions can be modified by a new acquisition.
  • the table S is, in general, a matrix, therefore an array of dimension 2, even though A and X may each be of dimension strictly greater than 2.
  • A is determined A and S by minimizing a cost or objective function, which function can be or
  • At least one row of the table S can be initialized, by a reference spectrum of the corresponding fluorescence source. This reference spectrum can be obtained empirically or from tabulated values. Table X obtained is preferably treated according to an iterative process.
  • the arrays Ai + i and Si + i, obtained during the iteration of order 1 + 1 being determined from the arrays Ai and Si obtained during the iteration of order 1.
  • the number of iteration can be determined according to the fluctuations of the tables A and S, or automatically, according to fluctuations of the function of cost during 2 or more successive iterations. This number of iterations can also be determined empirically, depending on the experience of the user.
  • a and S can be determined by an iterative method comprising, at each iteration, the minimization of a cost function, this cost function comprising:
  • the position of one of the sources can be obtained by eliminating contributions from other sources in the Table S, then performing the product of A with the table S thus modified. It is also possible to replace the coefficients of the columns of Table A that do not correspond to the chosen source by a null value. It is still possible to extract the column of A and the line of S corresponding to the desired source and to produce the product of this column and this line.
  • the excitation of the medium may be carried out by a laser excitation source, which may possibly be focused at the interface between the scattering medium and the external medium.
  • the excitation light will then penetrate into the scattering medium, and excite markers or sources in this medium, for example 3 cm or 5 cm deep, that is to say at a distance from the interface, in the diffusing medium.
  • the fluorescence radiation therefore comes from a zone at depth, for example between the interface and about 3 cm or 5 cm away from the interface, or between 1 cm at a distance from the interface and 5 cm at a distance of the interface.
  • the excitation may occur in the infra ⁇ red or near infra-red, for example at a wavelength between about 600 and 900 nm. Fluorescence can be detected at wavelengths greater than 700 nm or 750 nm. An excitation at wavelength greater than 750 nm or at 800 nm is also possible, with, for example, a fluorescence at wavelength greater than 800 nm or 900 nm.
  • the acquisition can be performed by an image sensor producing an image which gives, for points of the studied area, the spectral distribution of the fluorescence radiation from these points. Each acquisition can be carried out using a detector comprising a line of elementary detectors; the detector line can be moved, a fluorescence acquisition being performed for each position of the detector line.
  • the excitation can be performed using a laser, and the excitation line is displaced, a fluorescence image (X) can be made for each position of the excitation line.
  • the invention also relates to a device for locating at least one fluorescent marker in a scattering medium, comprising: a) means for producing an excitation beam, and means for focusing this beam, b) means for producing a acquisition or an image or series of acquisitions or fluorescence images of points or sources of the medium, each acquisition may comprise the fluorescence components due to the different fluorescent sources present, for example on the one hand one or more markers and secondly, autofluorescence, c) means for processing a table X of the data obtained by the series of acquisitions by factorization into two non-negative tables A and S, d) means for determining a graphical representation of the distribution of intensities of the different sources of fluorescence, these different sources may be one or more fluorescent markers and one autofluorescence.
  • the means for carrying out an acquisition or an image or a series of acquisitions or images preferably comprise an image sensor giving, for points of the zone studied, the spectral distribution of the fluorescence radiation coming from these points. Focusing is preferably at the interface of the medium with the environment.
  • the means for producing a laser beam make it possible to produce a zone, called an excitation zone, focused for example at the interface of this medium with the ambient medium.
  • the excitation light then enters the medium, diffuses there, and will excite the sources of fluorescence, markers and autofluorescence.
  • This excitation zone may be an excitation line.
  • the sources of fluorescence can be located in depth, remotely under the interface.
  • a device according to the invention may further comprise means for modifying the position of this excitation zone, a fluorescence image being produced for each position of the excitation zone.
  • At least part of the means for performing a detection of the fluorescence signal from said medium may be arranged along a line, called the detection line.
  • a device according to the invention may further comprise means for change the position of this line along two axes.
  • the means for processing the acquisition matrix (or multidimensional array) by factorization into two non-negative arrays A and S implement a method according to the invention, as already described above.
  • FIG. 1 represents a device for implementing the invention
  • FIG. 2 illustrates how a fluorescence acquisition is constituted
  • FIG. 3 represents a fluorescence acquisition obtained, with autofluorecence and fluorescence
  • FIGS. 4A and 4B respectively represent schematically a matrix S of spectra, with 2 fluorescent sources and therefore 2 lines, and a product of two arrays, whose matrix S, to obtain array X,
  • FIGS. 5A and 5B respectively represent a spectral model of autofluorescence and fluorescence, for initializing an S matrix in a method according to the invention
  • FIG. 6 represents autofluorescence and fluorescence spectra detected after treatment according to FIG. invention, and a comparison with initial models
  • FIGS. 7A and 7B respectively represent an image of autofluorescence, and a image of the fluorescence, obtained after treatment according to the invention of the image of FIG.
  • FIG. 8 represents steps of a method according to the invention
  • FIGS. 9, 10A and 10B represent fluorescence images (FIGS. 9 and 10B)
  • an image of autofluorescence (FIG. 10A) obtained after processing, according to methods of the prior art, the image of FIG.
  • Figure 1 is an example of an experimental system for implementing the invention.
  • the illumination of an area of an object is obtained using a continuous laser 2 whose beam, which emits for example a radiation in the infrared or even the near infrared, is focused with focusing means to reach a certain area on the surface of the scattering medium, this area may be a line.
  • the excitation light then diffuses into an area of the scattering medium, different from the previous zone and will excite one or more fluorescent species.
  • Means 6 make it possible to achieve a spectral dispersion of the fluorescence radiation emitted by the scattering medium studied in the external medium. These means 6 are coupled to means 8, forming an image sensor, to produce an image which gives, for points of the studied area, the spectral distribution of the fluorescence radiation. from these points.
  • the image sensor of these means 8 is a linear matrix (N ⁇ , N xd ), where N ⁇ is the number of channels corresponding to the range of wavelength considered, and N xd is the number of pixels corresponding to the number of points detected on the line.
  • the means 8 comprise means for digitizing the image.
  • Data processing means 24 will make it possible to implement a processing method for analyzing the digital data thus obtained, in particular in terms of the spatial and / or spectral distribution of the fluorescent markers.
  • These electronic means 24 comprise for example a microcomputer programmed to store and process the data acquired by the means 8. More precisely, a central unit 26 is programmed to implement a processing method according to the invention.
  • Display or display means 27 allow, after treatment, to represent the positioning or the spatial distribution of the fluorophores in the medium under examination.
  • the means 24 may optionally control or control other parts of the experimental device.
  • the medium studied is a diffusing medium, for example a biological tissue.
  • incident radiation can penetrate into the medium, the depth of penetration into the medium of up to a few cm depending on the attenuation coefficient of this medium, for example 3 cm or 5 cm.
  • fluorophores located at a distance between 0 cm (so very close to the surface) and 3 cm or 5 cm will be detected.
  • the detection means 6, 8 thus detect a radiation which comes from the zone of the scattering medium excited by the laser beam, which passes through the diffusing medium towards the boundary between the scattering medium and the external medium, then which reaches the means 6 detection and spectral dispersion.
  • the detection means are not necessarily focused on the zone or the excitation line, but can be shifted and aim for another zone or line, in particular on the surface of the medium. This embodiment is made possible due to the diffusion of light in the medium.
  • the medium studied can be a living medium. It may be for example an area of the human or animal body.
  • the body envelope constitutes the interface of the diffusing medium with the external medium.
  • An excitation source is therefore focused on this interface, for example along a line. Markers injected into this scattering medium make it possible to locate areas such as tumors.
  • a laser source having an excitation wavelength equal to 690 nm is focused along a line on the interface and makes it possible to carry out an excitation of the fluorophores in the scattering medium, at a depth that can reach a few centimeters.
  • the line can be fixed, and in this case one acquires only one line of the object.
  • the source 2 can be coupled to a laser fiber 3.
  • a lens 4 makes it possible to focus the beam in the form of a laser line at the interface of the medium studied.
  • the laser excitation can be positioned above the object, as in FIG. 1, and it is then possible to make an observation in reflection: the fluorescence signal is detected above the object, or on the same side of the object. the object that the radiation source, by an imaging spectrometer 6 coupled to a CCD camera 8.
  • An excitation filter is used, it allows to purify the Laser signal.
  • a system 10 allows high-pass filtering, which cuts wavelengths below 700 nm, for example an RG9 filter system. This filtering is positioned in front of the lens, to block the parasitic excitation coming from the laser beam itself.
  • the acquired image is then obtained using software from the manufacturer Andor or Labview, and we can control the system and translation plates by a single Labview interface.
  • FIG. 1 also shows an axis X d which describes the position of the N x d detectors aligned along a detection line in the means 8.
  • the fluorescence along the detection line is detected, and a wavelength spectrum (on the abscissa) of points of the line (ie the points i xd of the axis X d of the ordinates of FIG. 2) is realized .
  • (i xs , i ys ) the coordinates of a point source, for example a laser source.
  • this source contains N xs (- ⁇ 2) elementary sources according to the line.
  • a single fluorescent source is here detected along the line at the position i xd of the source positioning point, in the wavelength range between 850 and 900 nm.
  • a first part A which is of the autofluorescence visible all along the acquisition line Xd whose maximum intensity is around 700 nm.
  • the second part B is fluorescence due to the fluorophore (ICG - indocyanine green) it is spatially more localized than autofluorescence and its emission spectrum has a peak around 860 nm.
  • a fluorescent source may therefore comprise several emission zones, distributed at various positions in the scattering medium.
  • Such an image can be processed by a method according to the invention, in particular in order to separate the contribution of the autofluorescence on the one hand and that of the source or sources of fluorescence, on the other hand, the latter coming from fluorophores present in the medium examined.
  • non-negative matrix is meant a matrix whose all elements are non-negative.
  • P is the number of fluorescence sources considered.
  • the matrix X corresponds to the digitized image which has been obtained by the measurement:
  • X is the matrix expression of the image.
  • the matrix A is called the weighting matrix and an element a lxd , p (> _ 0) of this matrix represents the weight of the source p at position i xd of the measurement line X d .
  • It is of size N xd * P, the number of lines N xd representing the number of points selected along the fluorescence line, the number of columns p representing the number of sources likely to be present in the medium: fluorescent markers and possibly autofluorescence.
  • S is the matrix of the spectra and s p , l ⁇ ( ⁇
  • each line of the matrix S corresponds to the emission spectrum of a fluorescent source, this spectrum being discretized along N ⁇ channels.
  • each source except autofluorescence, has a spectrum close to that of a monochromatic source; but in practice there is some dispersion around a central frequency.
  • the line p of the matrix S can therefore comprise several non-zero elements.
  • FIG. 4A gives the illustrated example of an S matrix for an acquisition with two fluorescent sources considered: the two lines represent the emission spectra of the two sources considered, one of which, the first one, has a spectral distribution more wide than the second.
  • N xd points along the line which corresponds to Nxd detectors, so we have:
  • FIG. 4B shows the imaged example of the product of a matrix S (for an acquisition with two fluorescent sources) with a table in order to obtain the table XS containing information on the fluorescence spectra, while A defines their weighting. in each of the lines of X.
  • the algorithm starts with an initialization of matrices A and S to the desired dimensions, and respecting the constraints of positivity.
  • the columns of A are initialized randomly, while the S lines are initialized by reference spectra, representing the estimated emission spectra of the searched fluorescent sources or corresponding to these spectra. These spectra are determined empirically or according to tabulated values.
  • the matrices are initialized, but then evolve during the algorithm.
  • the minimization of the function Q FMN S e is done in two iterative steps. First, for S fixed, the matrix A is searched. Then, for fixed A, the matrix S is computed. The formulas of update of matrices A and S are then:
  • the algorithm implemented in the context of the invention is therefore an iterative algorithm that updates the matrices A and S searched according to the update functions described above which minimize as iterations the function objective (Euclidean distance between X and A. S).
  • the number of iteration is determined according to the fluctuations of the matrices A and S, or automatically, according to the fluctuations of the cost function, Q FMN , during 2 or more successive iterations, or empirically.
  • the initialization of the algorithm consists in principle in creating two random matrices A and S, and then updating them during iterations.
  • At least the first lines, and preferably all the lines (for more robustness), of the matrix S are chosen at initialization, which amounts to giving the approximate shape of the spectra of the corresponding sources.
  • approximate spectra one for autofluorescence, the others being those of the fluorescence source (s) due to the marker (s).
  • a Only fluorescent marker one chooses two spectral models, one for autofluorescence and one for fluorescence of the marker, as illustrated respectively in FIGS. 5A and 5B, on the basis of a priori knowledge of the autofluorescence and the fluorescence of the fluorescence marker. marker pen .
  • the columns of A are initialized randomly, the initialization of the lines of S as previously described proving to be sufficient for the initialization step for a satisfactory final result.
  • the matrix A is updated.
  • the matrix S is updated.
  • the matrix A ' being then the matrix A for which all the coefficients of the columns other than the pth column are set to zero.
  • a method according to the invention implements an image processing method which, applied to the image of FIG. 3, leads to the results of FIGS. 5A, 5B, 6, 7A and 7B.
  • FIGS. 5A and 5B show the shape of the spectra chosen for the initialization of the two sources, ie the two lines of the initial matrix S.
  • FIG. 6 shows the final shape of the spectra of the two main sources detected in solid lines (the initialization spectra are in dotted line), for autofluorescence and fluorescence (ICG).
  • FIGS 7A and 7B show the result in images: fluorescence ( Figure 7B) can be separated from autofluorescence ( Figure 7A).
  • a step S1 one or more acquisitions are made by excitation of the scattering medium, by laser beam; this results, for example, in one or more images; in a step S2, the matrices A and S are initialized,
  • step S 3 it is then possible to carry out a graphical representation of one or more sources of fluorescence, or a visualization of one or more sources (step S4), by selecting the desired source, for example by setting the coefficients of the other sources to zero in the matrix S.
  • An image corresponding to the photons produced by one or more fluorescent sources is thus constructed, for example by multiplying respectively the (the) columns of the corresponding matrix A by the line (s) of the matrix S corresponding to the selected source or sources that are searched.
  • each detector will have 2 coordinates (i xd , i yd ) along the axes Xd and Yd respectively, with 1 ⁇ i xd ⁇ N xd and 1 ⁇ i yd ⁇ N yd .
  • the Laser line is preferably fixed.
  • each detector is aligned along the axis Xd and one moves along the axis Yd in order to have a measurement for all the (ixd, iyd) coordinates of detectors,
  • the detector line remains preferentially fixed.
  • the coordinates of an elementary source are then i xs and i ys .
  • the source is linear along an axis Xs and is moved along the axis Ys.
  • ixs remains constant and only iys evolves. According to a preferred embodiment of the invention, either the on-line source or the detector is moved.
  • the coordinates (ixs, iyd) are not useful. Only the coordinates (ixd, iys, i ⁇ ) are useful so that X (and A) can be considered as (only) three-dimensional arrays.
  • the marks Xd, Yd and Xs, Ys can respectively be respectively associated with a reference plane, which can be the work plane on which the object to be analyzed is arranged, or the source displacement plane, or the displacement plane. of the detector.
  • An image or table of data obtained in each configuration can be processed independently of the images or tables obtained in other configurations, a configuration designating an acquisition with the detector and the laser line in a determined position.
  • X is an array of dimensions (i xd , i yd , i ⁇ ), and where i xd and i yd are the coordinates of an elementary detector along the Xd and Yd axes.
  • X is an array of dimensions (i x s / i yS , i ⁇ ), and where i xS and i yS are the coordinates of an elementary source along the Xs and Ys axes. If the Laser line and the detectors are simultaneously moved between two successive acquisitions, we have:
  • a and S are multidimensional arrays of which all elements are positive. As previously described, A and S are initialized then determined according to a factorization algorithm in non-negative matrices.
  • the term non-negative matrix can be replaced by "array" because A can have a dimension greater than 2.
  • each line of S corresponds to the emission spectrum of a source fluorescent, this spectrum being discretized according to N ⁇ channels.
  • the algorithm starts with an initialization of the array A and the matrix S to the desired dimensions, and respecting the constraints of positivity.
  • Table A is initialized randomly, while the S lines are initialized by reference spectra representing the searched sources. These spectra are determined empirically or according to tabulated values.
  • the algorithm stems from a minimization of a function of cost or objective Q FMN .
  • ⁇ , 3 is a positive real.
  • 25 combines a distance between X and AS (Q FMN ) fe -
  • ⁇ 4 ' is a real positive or strictly positive.
  • the function to be minimized Q TM N combines a distance between X and AS ⁇ Q FMN ) fe - (- a second distance between the table A resulting from the current iteration, and the table A ° established during the initialization , or initial array A °, this second distance being able to be weighted by a real positive or strictly positive ⁇ 4 ' .
  • ⁇ x is a positive or strictly positive real, with 1 ⁇ i ⁇ 4, i can also correspond to the index 4 ', ⁇ x also being able to correspond to the index ⁇ 4.
  • At least one marker is introduced into a diffusing medium, so that the diffusing medium contains p fluorescence sources, the autofluorescence of the medium being able to be considered as a source of fluorescence.
  • the diffusing medium contains p fluorescence sources, the autofluorescence of the medium being able to be considered as a source of fluorescence.
  • At least one fluorescence acquisition is thus achieved by exciting the medium by a laser light source S with coordinates (i xS , i y s), the beam of this laser source being able to be focused, for example, in the form of a line.
  • the fluorescence is detected by a detector D, which may comprise a plurality of detectors (i Xc ui Yd ) having a spectral dispersion capacity, these detectors being for example aligned along an axis Xd and thus forming a line of N xd elementary detectors.
  • a detector D which may comprise a plurality of detectors (i Xc ui Yd ) having a spectral dispersion capacity, these detectors being for example aligned along an axis Xd and thus forming a line of N xd elementary detectors.
  • the source and / or the plurality of detectors are displaced, for example in translation, the coordinates of the source and of each detector being respectively denoted (i X d, iyd) in a reference (X d , Y d ) and (i xs , i ys ) in a reference (X 8 , Y s ).
  • a measurement pattern, or acquisition, is determined by a position of the plurality of detectors and a position of the source.
  • the fluorescence signal produced inside the scattering medium is measured by each detector (xd, yd) placed in (ix d , iy d ). Such a signal is then separated according to N ⁇ length 10. waves, each detector (xd, yd) measuring the intensity at each wavelength i ⁇ .
  • Table X obtained following measurements in each configuration, then corresponding to a series of acquisitions, is then processed by factoring the product of two non-negative matrices.
  • a and S such as:
  • the objective function is based on the calculation of the Euclidean distance between the array of X data and the tensor product A * S, other types of objective functions can be implemented within the scope of the invention, in particular an objective function based on the calculation of the divergence, including the Kullback Leibler divergence. Lee and Seung have determined for this function updating laws, which ensure the decay of the objective function in the case of a matrix X in two dimensions.

Landscapes

  • Life Sciences & Earth Sciences (AREA)
  • Health & Medical Sciences (AREA)
  • Engineering & Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • General Health & Medical Sciences (AREA)
  • Pathology (AREA)
  • Animal Behavior & Ethology (AREA)
  • Molecular Biology (AREA)
  • Veterinary Medicine (AREA)
  • Public Health (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • General Physics & Mathematics (AREA)
  • Theoretical Computer Science (AREA)
  • Data Mining & Analysis (AREA)
  • Biophysics (AREA)
  • Surgery (AREA)
  • Biomedical Technology (AREA)
  • Heart & Thoracic Surgery (AREA)
  • Medical Informatics (AREA)
  • Bioinformatics & Cheminformatics (AREA)
  • Artificial Intelligence (AREA)
  • Evolutionary Biology (AREA)
  • General Engineering & Computer Science (AREA)
  • Bioinformatics & Computational Biology (AREA)
  • Evolutionary Computation (AREA)
  • Nuclear Medicine, Radiotherapy & Molecular Imaging (AREA)
  • Chemical & Material Sciences (AREA)
  • Analytical Chemistry (AREA)
  • Biochemistry (AREA)
  • Immunology (AREA)
  • Investigating, Analyzing Materials By Fluorescence Or Luminescence (AREA)

Abstract

The invention relates to a method for locating at least one fluorescent marker in a scattering medium, in which : a) at least one marker is inserted into said medium ; b) a fluorescence image is obtained by infrared excitation of the medium along a first axis, the image comprising a fluorescence component due to the marker and a self-fluorescence due to a portion of the medium other than the markers; c) the image is processed by factorisation into two non-negative matrices A and S; d) an image of the marker(s) distribution is determined without the self-fluorescence component.

Description

TRAITEMENT D'UNE IMAGE DE FLUORESCENCE PAR FACTORISATION EN MATRICES NON NEGATIVES TREATMENT OF A FLUORESCENCE IMAGE BY FACTORIZATION IN NON-NEGATIVE MATRICES
DESCRIPTIONDESCRIPTION
DOMAINE TECHNIQUE ET ART ANTERIEURTECHNICAL FIELD AND PRIOR ART
L' invention concerne le domaine de l'imagerie optique appliquée au domaine médical. Cette technique offre la perspective de systèmes de diagnostic non invasifs grâce à l'utilisation de rayonnements non-ionisants, faciles d'utilisation et peu coûteux. Des marqueurs fluorescents sont injectés au sujet et se fixent sur certaines molécules spécifiques, par exemple des tumeurs cancéreuses. La zone d' intérêt est éclairée à la longueur d' onde d'excitation optimale du fluorophore (substance chimique d'une molécule capable d'émettre de la lumière de fluorescence après excitation) et le signal fluorescent est détecté. L'imagerie optique de diffusion —sans injection de marqueurs fluorescents- est déjà utilisée en milieu clinique, notamment dans les domaines de la mammographie et de la neurologie. L'imagerie optique de fluorescence (avec injection de fluorophore spécifique) est quant à elle concentrée à ce jour sur des applications « petit animal » en raison du manque de marqueurs adaptés et injectables à l'humain, et du problème d' autofluorescence des tissus qui se pose pour la détection en profondeur. En effet, pour appliquer cette méthode au diagnostic de cancers chez l'homme, il est primordial que le signal spécifique situé plus profondément sous la peau que chez le petit animal puisse être détecté. Mais le signal spécifique à détecter faiblit avec la profondeur, principalement à cause de l'absorption et de la diffusion des tissus, et se confronte à un signal parasite qui perturbe la détection. Ce signal, appelé « auto-fluorescence », décrit la fluorescence de tissus auxquels aucune substance chimique ou fluorophore spécifique n'a été injecté : il s'agit de la fluorescence naturelle du tissu.The invention relates to the field of optical imaging applied to the medical field. This technique offers the prospect of non-invasive diagnostic systems through the use of non-ionizing, easy-to-use and inexpensive radiation. Fluorescent markers are injected into the subject and bind to certain specific molecules, for example cancerous tumors. The area of interest is illuminated at the optimal excitation wavelength of the fluorophore (the chemical substance of a molecule capable of emitting fluorescence light after excitation) and the fluorescent signal is detected. Optical diffusion imaging - without fluorescent marker injection - is already used in clinical settings, particularly in the areas of mammography and neurology. Fluorescence optical imaging (with specific fluorophore injection) is focused on "small animal" applications, due to the lack of suitable markers and injectable to humans, and the problem of tissue autofluorescence. which arises for the detection in depth. Indeed, to apply this method to the diagnosis of cancer in humans, it is essential that the specific signal located deeper under the skin than in the small animal can be detected. But the Specific signal to detect weakens with depth, mainly because of tissue absorption and diffusion, and confronts a parasitic signal that disrupts detection. This signal, called "auto-fluorescence", describes the fluorescence of tissues to which no specific chemical or fluorophore has been injected: this is the natural fluorescence of the tissue.
Divers travaux sur l' autofluorescence des tissus semblent révéler la possibilité d'attribuer celle-ci à la présence de protoporphyrine IX dans les cellules vivantes. Cette molécule, qui est impliquée dans le transport de l'oxygène et entre notamment dans la composition de l'hémoglobine, a en effet la propriété de fluorescer dans les longueurs d'onde utilisées en imagerie optique médicales (entre 650 nm et 850 nm environ) . L' autofluorescence est donc un phénomène connu, mais elle est à ce jour rarement perçue comme un signal parasite. En cancérologie notamment, l' autofluorescence est utilisée pour distinguer des tissus cancéreux de tissus sains. Il ne s'agit alors pas d'injecter de marqueur spécifique, mais simplement d'observer l' autofluorescence de zones spécifiques et de comparer différentes zones d'un même individu. La longueur d'onde d'excitation est alors proche des 400 nm, longueur d'onde pour laquelle l'intensité du signal d' autofluorescence est maximale. Par opposition, la spectroscopie optique de fluorescence utilise des longueurs d'onde d'excitation en proche infra rouge, qui assurent une absorption moindre, et permettent une meilleure pénétration des tissus. L' autofluorescence des tissus est alors beaucoup plus faible et devient un signal à supprimer plutôt qu'à utiliser.Various studies on the autofluorescence of tissues seem to reveal the possibility of attributing it to the presence of protoporphyrin IX in living cells. This molecule, which is involved in the transport of oxygen and especially in the composition of hemoglobin, indeed has the property of fluorescing in the wavelengths used in medical optical imaging (between 650 nm and 850 nm approximately ). Autofluorescence is therefore a known phenomenon, but it is rarely seen as a parasitic signal. In oncology in particular, autofluorescence is used to distinguish cancerous tissue from healthy tissue. It is not a matter of injecting specific markers, but simply observing the autofluorescence of specific areas and comparing different areas of the same individual. The excitation wavelength is then close to the 400 nm wavelength for which the intensity of the autofluorescence signal is maximum. In contrast, optical fluorescence spectroscopy uses near infrared excitation wavelengths, which provide less absorption, and allows better penetration of tissue. The autofluorescence of tissues is then much weaker and becomes a signal to be suppressed rather than used.
D'une manière générale, il se pose donc le problème de trouver un nouveau procédé, permettant de différencier, dans une image, la contribution de 1' autofluorescence de celle des sources de fluorescence associées à des marqueurs.In general, there is therefore the problem of finding a new method for differentiating, in an image, the contribution of autofluorescence from that of the fluorescence sources associated with markers.
Il se pose également le problème de trouver un nouveau dispositif, permettant de mettre en œuvre un tel procédé.There is also the problem of finding a new device for implementing such a method.
EXPOSÉ DE L' INVENTIONSTATEMENT OF THE INVENTION
L' invention concerne d' abord un procédé de localisation d'au moins un marqueur fluorescent dans un milieu diffusant, dans lequel : a) on réalise au moins une image ou une acquisition de fluorescence ou une série ou une pluralité d'images ou d'acquisitions de fluorescence, par une excitation du milieu, chaque image ou acquisition pouvant comporter d'une part une composante de fluorescence due au marqueur ou aux marqueurs, d' autre part une composante d' autofluorescence due à une partie du milieu autre que les marqueurs, les données mesurées de l'image ou de l'acquisition ou des images ou des acquisitions pouvant être stockées dans un tableau multidimensionnel X, b) on traite ces données ou ce tableau, par factorisation de ce tableau en un produit de seulement deux tableaux multidimensionnels non négatifs, par exemple deux matrices non négatives (si la dimension spatiale est égale à 1) , A et S, c) on détermine une représentation graphique de la répartition de l'intensité ou des intensités d'une ou plusieurs sources de fluorescence, éventuellement de 1 ' autofluorescence qui peut être considérée comme une source de fluorescence, à partir des données contenues dans les tableaux A et S .The invention firstly relates to a method for locating at least one fluorescent marker in a scattering medium, wherein: a) at least one fluorescence image or acquisition or a series or a plurality of images or d fluorescence acquisitions, by excitation of the medium, each image or acquisition possibly comprising, on the one hand, a fluorescence component due to the marker or the markers, on the other hand an autofluorescence component due to a part of the medium other than the markers, the measured data of the image or of the acquisition or images or acquisitions that can be stored in a multidimensional array X, b) the data or table is processed by factoring this table into a product of only two non-negative multidimensional arrays, for example two non-negative matrices (if the spatial dimension is equal to 1), A and S, c) a graphical representation of the distribution of intensity or intensities of one or more sources of fluorescence, possibly of the autofluorescence which can be considered as a source of fluorescence, is determined from the data contained in Tables A and S.
L' invention concerne également un procédé de traitement d'une image ou acquisition ou d'une série d'images ou d'acquisitions de fluorescence dans un milieu diffusant comportant au moins un marqueur fluorescent, chaque image ou acquisition étant obtenue par une excitation de ce milieu, cette image ou acquisition pouvant comporter, d'une part, au moins une composante de fluorescence due au marqueur, et, d'autre part, une composante d' autofluorescence due à une partie du milieu autre que les marqueurs, procédé dans lequel, au cours d'une étape de traitement, on traite ces données ou un tableau X de données issues de la série d'images ou d'acquisitions par factorisation de ce tableau X en un produit de seulement deux tableaux multidimensionnels non négatifs, par exemple deux matrices non négatives, A et S .The invention also relates to a method for processing an image or acquisition or a series of images or fluorescence acquisitions in a scattering medium comprising at least one fluorescent marker, each image or acquisition being obtained by excitation of this medium, this image or acquisition may comprise, on the one hand, at least one fluorescence component due to the marker, and, on the other hand, an autofluorescence component due to a part of the medium other than the markers, a method in which which, during a processing step, these data or a table X of data from the series of images or acquisitions by factorization of this table X are processed into a product of only two non-negative multidimensional arrays, by example two non-negative matrices, A and S.
Il est ensuite possible de déterminer une représentation graphique ou une image de la répartition de l'intensité d'une source de fluorescence ou des intensités des différentes sources de fluorescence, chaque source étant un marqueur fluorescent ou 1 ' autofluorescence .It is then possible to determine a graphical representation or an image of the distribution of the intensity of a fluorescence source or the intensities of the different sources of fluorescence, each source being a fluorescent marker or an autofluorescence.
Un procédé selon l'invention peut être précédé de l'introduction d'au moins un marqueur dans le milieu. Dans l'un ou l'autre des procédés ci-dessus, le premier tableau A non négatif du produit AS est un tableau dont les éléments aq,p sont des coefficients de pondération, aq,p étant la contribution du spectre représenté par la pieme ligne de S, au point de coordonnée q. Le second tableau non négatif S est une matrice dont les lignes correspondent aux spectres d'émission des sources fluorescentes considérées, le nombre de lignes du tableau S et le nombre de colonnes du tableau A correspondant alors au nombre de sources de fluorescence considérées.A method according to the invention may be preceded by the introduction of at least one marker in the medium. In either of the above methods, the first array of non-negative AS A product is an array whose elements a q, p are weighting coefficients, a q, p being the contribution of the spectrum represented by the pth line of S, at the coordinate point q. The second non-negative table S is a matrix whose lines correspond to the emission spectra of the fluorescent sources considered, the number of rows of the table S and the number of columns of the array A corresponding then to the number of fluorescence sources considered.
Le tableau X est formé en réalisant des acquisitions successives, une acquisition pouvant par exemple correspondre a une position donnée de la source et à une position donnée du détecteur. Chacune de ces positions peut être modifiée par une nouvelle acquisition .Table X is formed by making successive acquisitions, an acquisition being able for example to correspond to a given position of the source and to a given position of the detector. Each of these positions can be modified by a new acquisition.
Le tableau S est, en général, une matrice, donc un tableau de dimension 2, quand bien même A et X peuvent être chacun de dimension strictement supérieure à 2.The table S is, in general, a matrix, therefore an array of dimension 2, even though A and X may each be of dimension strictly greater than 2.
Lors de l'étape de traitement du tableau X des données résultant de l'acquisition ou de la série d'acquisition (c'est notamment l'étape b) du procédé de localisation ou une étape du procédé de traitement) , on détermine A et S par minimisation d'une fonction de coût ou d'objectif, cette fonction pouvant être ouDuring the processing step of the table X of the data resulting from the acquisition or the acquisition series (it is in particular the step b) of the localization method or a step of the processing method), A is determined A and S by minimizing a cost or objective function, which function can be or
^^^^x ^v,.. ^u. ^u^i^^ ^^....^.-^m^ «X —AS I"I2 entre l'image ^^ ^ ^ x ^ v, .. ^ u. ^ U ^ i ^^ ^^ .... ^ .- ^ m ^ "X -AS I" I 2 between the image
X et le produit A. S. En outre, lors de l'étape de traitement , au moins une ligne du tableau S peut être initialisée, par un spectre de référence de la source de fluorescence correspondante. Ce spectre de référence peut-être obtenu de façon empirique ou à partir de valeurs tabulées. Le tableau X obtenu est traité de préférence selon un procédé itératif.X and the product AS In addition, during the processing step, at least one row of the table S can be initialized, by a reference spectrum of the corresponding fluorescence source. This reference spectrum can be obtained empirically or from tabulated values. Table X obtained is preferably treated according to an iterative process.
Par exemple, on réalise k itérations, les tableaux Ai+i et Si+i, obtenus lors de l'itération d'ordre 1+1 étant déterminés à partir des tableaux Ai et Si obtenus lors de l'itération d'ordre 1. Le nombre d'itération peut être déterminé en fonction des fluctuations des tableaux A et S, ou de façon automatique, en fonction de fluctuations de la fonction de coût au cours de 2 ou plusieurs itérations successives. Ce nombre d'itérations peut également être déterminé empiriquement, en fonction de l'expérience de 1 ' utilisateur .For example, we carry out k iterations, the arrays Ai + i and Si + i, obtained during the iteration of order 1 + 1 being determined from the arrays Ai and Si obtained during the iteration of order 1. The number of iteration can be determined according to the fluctuations of the tables A and S, or automatically, according to fluctuations of the function of cost during 2 or more successive iterations. This number of iterations can also be determined empirically, depending on the experience of the user.
Lors de l'étape de traitement, on peut déterminer A et S par un procédé itératif comportant, à chaque itération, la minimisation d'une fonction de coût, cette fonction de coût comportant :During the processing step, A and S can be determined by an iterative method comprising, at each iteration, the minimization of a cost function, this cost function comprising:
- une distance entre le tableau X et le produit des tableaux A et S,- a distance between table X and the product of tables A and S,
- au moins une distance entre un tableau (A ,S) et un tableau initial (A°, S°)at least one distance between an array (A, S) and an initial array (A °, S °)
Lors de l'étape de détermination de la représentation graphique de la répartition des intensités des différentes sources de fluorescence (dues au (x) marqueur (s), ou à l' autofluorescence) , la position d'une des sources peut être obtenue en éliminant les contributions des autres sources dans le tableau S, puis en effectuant le produit de A avec le tableau S ainsi modifiée. Il est également possible de remplacer les coefficients des colonnes du tableau A ne correspondant pas à la source choisie par une valeur nulle. Il encore possible d'extraire la colonne de A et la ligne de S correspondant à la source recherchée et de réaliser le produit de cette colonne et de cette ligne .During the step of determining the graphical representation of the distribution of the intensities of the different sources of fluorescence (due to the marker (s), or to the autofluorescence), the position of one of the sources can be obtained by eliminating contributions from other sources in the Table S, then performing the product of A with the table S thus modified. It is also possible to replace the coefficients of the columns of Table A that do not correspond to the chosen source by a null value. It is still possible to extract the column of A and the line of S corresponding to the desired source and to produce the product of this column and this line.
L'excitation du milieu peut être réalisée par une source d'excitation laser, qui peut être éventuellement focalisée à l'interface entre le milieu diffusant et le milieu extérieur. La lumière d'excitation va ensuite pénétrer dans le milieu diffusant, et y exciter des marqueurs ou des sources dans ce milieu, par exemple à 3 cm ou 5 cm en profondeur, c'est-à-dire à distance de l'interface, dans le milieu diffusant. Le rayonnement de fluorescence provient donc d'une zone en profondeur, par exemple comprise entre l'interface et environ 3 cm ou 5 cm à distance de l'interface, ou comprise entre 1 cm à distance de l'interface et 5 cm à distance de 1' interface .The excitation of the medium may be carried out by a laser excitation source, which may possibly be focused at the interface between the scattering medium and the external medium. The excitation light will then penetrate into the scattering medium, and excite markers or sources in this medium, for example 3 cm or 5 cm deep, that is to say at a distance from the interface, in the diffusing medium. The fluorescence radiation therefore comes from a zone at depth, for example between the interface and about 3 cm or 5 cm away from the interface, or between 1 cm at a distance from the interface and 5 cm at a distance of the interface.
L'excitation peut avoir lieu dans l'infra¬ rouge ou le proche infra rouge, par exemple à une longueur d'onde comprise environ entre 600 et 900 nm. La fluorescence peut quant à elle être détectée à des longueurs d'onde supérieures à 700 nm ou à 750 nm. Une excitation à longueur d'onde supérieure à 750 nm ou à 800 nm est également possible, avec, par exemple, une fluorescence à longueur d'onde supérieure à 800 nm ou à 900 nm. L'acquisition peut être réalisée par un capteur d'image produisant une image qui donne, pour des points de la zone étudiée, la répartition spectrale du rayonnement de fluorescence provenant de ces points. Chaque acquisition peut être réalisée à l'aide d'un détecteur comportant une ligne de détecteurs élémentaires ; la ligne de détecteurs peut être déplacée, une acquisition de fluorescence étant réalisée pour chaque position de la ligne de détecteurs.The excitation may occur in the infra ¬ red or near infra-red, for example at a wavelength between about 600 and 900 nm. Fluorescence can be detected at wavelengths greater than 700 nm or 750 nm. An excitation at wavelength greater than 750 nm or at 800 nm is also possible, with, for example, a fluorescence at wavelength greater than 800 nm or 900 nm. The acquisition can be performed by an image sensor producing an image which gives, for points of the studied area, the spectral distribution of the fluorescence radiation from these points. Each acquisition can be carried out using a detector comprising a line of elementary detectors; the detector line can be moved, a fluorescence acquisition being performed for each position of the detector line.
L'excitation peut être réalisée à l'aide d'un laser, et on déplace la ligne d'excitation, une image (X) de fluorescence pouvant être réalisée pour chaque position de la ligne d'excitation. L'invention concerne également un dispositif de localisation d'au moins un marqueur fluorescent dans un milieu diffusant, comportant : a) des moyens pour produire un faisceau d'excitation, et des moyens pour focaliser ce faisceau, b) des moyens pour réaliser une acquisition ou une image ou une série d'acquisitions ou d'images de fluorescence de points ou de sources du milieu, chaque acquisition pouvant comporter les composantes de fluorescence dues aux différentes sources fluorescentes présentes, par exemple d'une part un ou plusieurs marqueurs et d'autre part 1 ' autofluorescence, c) des moyens pour traiter un tableau X des données obtenues par la série d'acquisitions par factorisation en deux tableaux non négatifs A et S, d) des moyens pour déterminer une représentation graphique de la répartition des intensités des différentes sources de fluorescence, ces différentes sources pouvant être un ou plusieurs marqueurs fluorescents et 1 ' autofluorescence .The excitation can be performed using a laser, and the excitation line is displaced, a fluorescence image (X) can be made for each position of the excitation line. The invention also relates to a device for locating at least one fluorescent marker in a scattering medium, comprising: a) means for producing an excitation beam, and means for focusing this beam, b) means for producing a acquisition or an image or series of acquisitions or fluorescence images of points or sources of the medium, each acquisition may comprise the fluorescence components due to the different fluorescent sources present, for example on the one hand one or more markers and secondly, autofluorescence, c) means for processing a table X of the data obtained by the series of acquisitions by factorization into two non-negative tables A and S, d) means for determining a graphical representation of the distribution of intensities of the different sources of fluorescence, these different sources may be one or more fluorescent markers and one autofluorescence.
Les moyens pour réaliser une acquisition ou une image ou une série d'acquisitions ou d'images comportent de préférence un capteur d'images donnant, pour des points de la zone étudiée, la répartition spectrale des rayonnements de fluorescence provenant de ces points. La focalisation a lieu de préférence à l'interface du milieu avec le milieu ambiant.The means for carrying out an acquisition or an image or a series of acquisitions or images preferably comprise an image sensor giving, for points of the zone studied, the spectral distribution of the fluorescence radiation coming from these points. Focusing is preferably at the interface of the medium with the environment.
Les moyens pour produire un faisceau laser permettent de produire une zone, dite zone d'excitation, focalisée par exemple à l'interface de ce milieu avec le milieu ambiant. La lumière d'excitation pénètre alors dans le milieu, y diffuse, et va exciter les sources de fluorescence, marqueurs et autofluorescence. Cette zone d'excitation peut être une ligne d'excitation. Comme expliqué ci-dessus, les sources de fluorescence peuvent être localisées en profondeur, à distance sous l'interface.The means for producing a laser beam make it possible to produce a zone, called an excitation zone, focused for example at the interface of this medium with the ambient medium. The excitation light then enters the medium, diffuses there, and will excite the sources of fluorescence, markers and autofluorescence. This excitation zone may be an excitation line. As explained above, the sources of fluorescence can be located in depth, remotely under the interface.
Un dispositif selon l'invention peut comporter en outre des moyens pour modifier la position de cette zone d'excitation, une image de fluorescence étant réalisée pour chaque position de la zone d'excitation.A device according to the invention may further comprise means for modifying the position of this excitation zone, a fluorescence image being produced for each position of the excitation zone.
Au moins une partie des moyens pour réaliser une détection du signal de fluorescence issu dudit milieu peuvent être disposés selon une ligne, dite ligne de détection. Un dispositif selon l'invention peut comporter en outre des moyens pour modifier la position de cette ligne le long de deux axes .At least part of the means for performing a detection of the fluorescence signal from said medium may be arranged along a line, called the detection line. A device according to the invention may further comprise means for change the position of this line along two axes.
Les moyens pour traiter la matrice d'acquisitions (ou tableau multidimensionnel) par factorisation en deux tableaux non négatifs A et S, mettent en œuvre un procédé selon l'invention, comme déjà décrit ci-dessus.The means for processing the acquisition matrix (or multidimensional array) by factorization into two non-negative arrays A and S, implement a method according to the invention, as already described above.
BRÈVE DESCRIPTION DES DESSINSBRIEF DESCRIPTION OF THE DRAWINGS
- La figure 1 représente un dispositif pour mettre en œuvre l'invention,FIG. 1 represents a device for implementing the invention,
- la figure 2 illustre comment est constituée une acquisition de fluorescence,FIG. 2 illustrates how a fluorescence acquisition is constituted,
- la figure 3 représente une acquisition de fluorescence obtenue, avec autofluorecence et fluorescence,FIG. 3 represents a fluorescence acquisition obtained, with autofluorecence and fluorescence,
- les figures 4A et 4B représente respectivement schématiquement une matrice S de spectres, à 2 sources fluorescentes et donc 2 lignes, et un produit de deux tableaux, dont la matrice S, pour obtenir le tableau X,FIGS. 4A and 4B respectively represent schematically a matrix S of spectra, with 2 fluorescent sources and therefore 2 lines, and a product of two arrays, whose matrix S, to obtain array X,
- les figures 5A et 5B représentent respectivement un modèle spectral d' autofluorecence et de fluorescence, pour initialiser une matrice S dans un procédé selon l'invention, - la figure 6 représente des spectres d' autofluorescence et de fluorescence détectés après traitement selon l'invention, et une comparaison avec des modèles initiaux,FIGS. 5A and 5B respectively represent a spectral model of autofluorescence and fluorescence, for initializing an S matrix in a method according to the invention; FIG. 6 represents autofluorescence and fluorescence spectra detected after treatment according to FIG. invention, and a comparison with initial models,
- les figures 7A et 7B représentent respectivement une image de l' autofluorescence, et une image de la fluorescence, obtenues après traitement selon l'invention de l'image de la figure 3,FIGS. 7A and 7B respectively represent an image of autofluorescence, and a image of the fluorescence, obtained after treatment according to the invention of the image of FIG.
- la figure 8 représente des étapes d'un procédé selon l'invention, - les figures 9, 1OA et 1OB représentent des images de fluorescence (figures 9 et 10B) , et une image de l' autofluorescence (figure 10A), obtenues après traitement, selon des méthodes de l'art antérieur, de l'image de la figure 3.FIG. 8 represents steps of a method according to the invention, FIGS. 9, 10A and 10B represent fluorescence images (FIGS. 9 and 10B), and an image of autofluorescence (FIG. 10A), obtained after processing, according to methods of the prior art, the image of FIG.
EXPOSÉ DÉTAILLÉ DE MODES DE REALISATIONS DE L'INVENTIONDETAILED DESCRIPTION OF EMBODIMENTS OF THE INVENTION
La figure 1 est un exemple de système expérimental permettant de mettre en œuvre l'invention.Figure 1 is an example of an experimental system for implementing the invention.
L'illumination d'une zone d'un objet (non représenté sur la figure), est obtenue à l'aide d'un laser continu 2 dont le faisceau, qui émet par exemple un rayonnement dans l'infra rouge ou même le proche infra rouge, est focalisé avec des moyens de focalisation pour atteindre une certaine zone à la surface du milieu diffusant, cette zone pouvant être une ligne. La lumière d'excitation diffuse ensuite dans une zone du milieu diffusant, différente de la zone précédente et va y exciter une ou plusieurs espèces fluorescentes .The illumination of an area of an object (not shown in the figure), is obtained using a continuous laser 2 whose beam, which emits for example a radiation in the infrared or even the near infrared, is focused with focusing means to reach a certain area on the surface of the scattering medium, this area may be a line. The excitation light then diffuses into an area of the scattering medium, different from the previous zone and will excite one or more fluorescent species.
Des moyens 6 permettent de réaliser une dispersion spectrale du rayonnement de fluorescence émis par le milieu diffusant étudié dans le milieu extérieur. Ces moyens 6 sont couplés à des moyens 8, formant capteur d'image, pour produire une image qui donne, pour des points de la zone étudiée, la répartition spectrale du rayonnement de fluorescence provenant de ces points. Le capteur d'image de ces moyens 8 est une matrice linéaire (Nλ,Nxd), où Nλ est le nombre de canaux correspondant à la gamme de longueur d'onde considérée, et Nxd est le nombre de pixels correspondant au nombre de points détectés sur la ligne .Means 6 make it possible to achieve a spectral dispersion of the fluorescence radiation emitted by the scattering medium studied in the external medium. These means 6 are coupled to means 8, forming an image sensor, to produce an image which gives, for points of the studied area, the spectral distribution of the fluorescence radiation. from these points. The image sensor of these means 8 is a linear matrix (N λ , N xd ), where N λ is the number of channels corresponding to the range of wavelength considered, and N xd is the number of pixels corresponding to the number of points detected on the line.
Les moyens 8 comportent des moyens pour numériser l'image. Des moyens 24 de traitement des données vont permettre de mettre en œuvre un procédé de traitement pour analyser les données numériques ainsi obtenues, notamment en termes de répartition spatiale et/ou spectrale des marqueurs fluorescents. Ces moyens électroniques 24 comportent par exemple un micro ordinateur programmé pour mémoriser et traiter les données acquises par les moyens 8. Plus précisément une unité centrale 26 est programmée pour mettre en œuvre un procédé de traitement selon l'invention. Des moyens 27 d'affichage ou de visualisation permettent, après traitement, de représenter le positionnement ou la distribution spatiale des fluorophores dans le milieu examiné. Les moyens 24 permettent éventuellement de commander ou de contrôler d' autres parties du dispositif expérimental.The means 8 comprise means for digitizing the image. Data processing means 24 will make it possible to implement a processing method for analyzing the digital data thus obtained, in particular in terms of the spatial and / or spectral distribution of the fluorescent markers. These electronic means 24 comprise for example a microcomputer programmed to store and process the data acquired by the means 8. More precisely, a central unit 26 is programmed to implement a processing method according to the invention. Display or display means 27 allow, after treatment, to represent the positioning or the spatial distribution of the fluorophores in the medium under examination. The means 24 may optionally control or control other parts of the experimental device.
Le milieu étudié est un milieu diffusant, par exemple un tissu biologique. Dans ce type de milieu, un rayonnement incident peut pénétrer dans le milieu, la profondeur de pénétration dans le milieu pouvant atteindre quelques cm selon le coefficient d'atténuation de ce milieu, par exemple 3 cm ou 5 cm. Autrement dit, des fluorophores situés à une distance comprise entre 0 cm (donc situés très proches de la surface) et 3 cm ou 5 cm vont pouvoir être détectés.The medium studied is a diffusing medium, for example a biological tissue. In this type of medium, incident radiation can penetrate into the medium, the depth of penetration into the medium of up to a few cm depending on the attenuation coefficient of this medium, for example 3 cm or 5 cm. In other words, fluorophores located at a distance between 0 cm (so very close to the surface) and 3 cm or 5 cm will be detected.
Les moyens de détection 6, 8 détectent donc un rayonnement qui provient de la zone du milieu diffusant excitée par le faisceau laser, qui traverse le milieu diffusant en direction de la frontière entre le milieu diffusant et le milieu extérieur, puis qui atteint les moyens 6 de détection et de dispersion spectrale. Les moyens de détection ne sont pas forcément focalisés sur la zone ou la ligne d'excitation, mais peuvent être décalés et viser une autre zone ou ligne, en particulier à la surface du milieu. Ce mode de réalisation est rendu possible du fait de la diffusion de la lumière dans le milieu. Typiquement, le milieu étudié peut être un milieu vivant. Il peut s'agir par exemple d'une zone du corps humain ou animal. L'enveloppe corporelle constitue l'interface du milieu diffusant avec le milieu extérieur. Une source d'excitation est donc focalisée sur cette interface, par exemple selon une ligne. Des marqueurs injectés dans ce milieu diffusant permettent de localiser des zones telles des tumeurs.The detection means 6, 8 thus detect a radiation which comes from the zone of the scattering medium excited by the laser beam, which passes through the diffusing medium towards the boundary between the scattering medium and the external medium, then which reaches the means 6 detection and spectral dispersion. The detection means are not necessarily focused on the zone or the excitation line, but can be shifted and aim for another zone or line, in particular on the surface of the medium. This embodiment is made possible due to the diffusion of light in the medium. Typically, the medium studied can be a living medium. It may be for example an area of the human or animal body. The body envelope constitutes the interface of the diffusing medium with the external medium. An excitation source is therefore focused on this interface, for example along a line. Markers injected into this scattering medium make it possible to locate areas such as tumors.
Comme on va le voir, il y a également excitation d'autres éléments du milieu, créant une fluorescence parasite, ou autofluorescence. Une image peut être visualisée sur des moyens de visualisation 27.As we will see, there is also excitation of other elements of the medium, creating parasitic fluorescence, or autofluorescence. An image can be viewed on viewing means 27.
Dans l'exemple illustré une source laser de longueur d'onde d'excitation égale à 690 nm est focalisée le long d'une ligne sur l'interface et permet de réaliser une excitation des fluorophores dans le milieu diffusant, à une profondeur pouvant atteindre quelques centimètres. La ligne peut être fixe, et dans ce cas on n'acquiert qu'une seule ligne de l'objet. Mais on peut aussi utiliser des platines de translation afin d'acquérir ligne par ligne l'image de fluorescence d'une portion d'un objet ou d'un objet entier. Ces platines peuvent être commandées par des moyens tels que les moyens 24, 26, 27 de la figure 1. En réalisant ainsi plusieurs images, on peut obtenir un signal en provenance de tout ou partie d'une zone située dans l'objet. Chaque image peut être traitée comme indiqué dans la présente description.In the illustrated example, a laser source having an excitation wavelength equal to 690 nm is focused along a line on the interface and makes it possible to carry out an excitation of the fluorophores in the scattering medium, at a depth that can reach a few centimeters. The line can be fixed, and in this case one acquires only one line of the object. But we can also use translation plates to acquire line by line fluorescence image of a portion of an object or an entire object. These plates can be controlled by means such as the means 24, 26, 27 of Figure 1. By thus making several images, one can obtain a signal from all or part of an area in the object. Each image can be processed as indicated in this description.
La source 2 peut être couplée à une fibre laser 3. Une lentille 4 permet de focaliser le faisceau sous forme d'une ligne laser à l'interface du milieu étudié.The source 2 can be coupled to a laser fiber 3. A lens 4 makes it possible to focus the beam in the form of a laser line at the interface of the medium studied.
L'excitation laser peut être positionnée au-dessus de l'objet, comme en figure 1, et on peut alors réaliser une observation en réflexion : le signal de fluorescence est détecté au-dessus de l'objet, ou encore du même côté de l'objet que la source de rayonnement, par un spectromètre imageur 6 couplé à une caméra CCD 8. Un filtre d'excitation est utilisé, il permet d'épurer le signal Laser. Un système 10 permet un filtrage passe-haut, qui coupe les longueurs d'onde en-dessous de 700 nm, c'est par exemple un système de filtres RG9. Ce filtrage est positionné devant l'objectif, pour bloquer l'excitation parasite provenant du faisceau laser lui-même. L'image acquise est alors obtenue à l'aide d'un logiciel du constructeur Andor ou Labview, et on peut piloter le système et les platines de translation par une unique interface Labview.The laser excitation can be positioned above the object, as in FIG. 1, and it is then possible to make an observation in reflection: the fluorescence signal is detected above the object, or on the same side of the object. the object that the radiation source, by an imaging spectrometer 6 coupled to a CCD camera 8. An excitation filter is used, it allows to purify the Laser signal. A system 10 allows high-pass filtering, which cuts wavelengths below 700 nm, for example an RG9 filter system. This filtering is positioned in front of the lens, to block the parasitic excitation coming from the laser beam itself. The acquired image is then obtained using software from the manufacturer Andor or Labview, and we can control the system and translation plates by a single Labview interface.
Sur la figure 1 est également mis en évidence un axe Xd qui décrit la position des Nxd détecteurs alignés le long d'une ligne de détection dans les moyens 8.FIG. 1 also shows an axis X d which describes the position of the N x d detectors aligned along a detection line in the means 8.
On retrouve cet axe Xd sur la figure 2, qui donne un exemple schématique du type d'image que l'on peut acquérir avec un système tel que décrit ci-dessus et de l'information que l'on peut y trouver.We find this axis X d in Figure 2, which gives a schematic example of the type of image that can be acquired with a system as described above and information that can be found there.
La fluorescence le long de la ligne de détection est détectée, et un spectre en longueur d'onde (en abscisse) de points de la ligne (soit les points ixd de l'axe Xd des ordonnées de la figure 2) est réalisé.The fluorescence along the detection line is detected, and a wavelength spectrum (on the abscissa) of points of the line (ie the points i xd of the axis X d of the ordinates of FIG. 2) is realized .
On désigne par (ixd, iyd) les coordonnées d'un détecteur ponctuel.We denote by (i xd , i yd ) the coordinates of a point detector.
On note (ixs, iys) les coordonnées d'une source ponctuelle, par exemple une source laser. Dans le cas d'une source laser en ligne, on peut considérer que cette source contient Nxs (-^2) sources élémentaires selon la ligne.We denote (i xs , i ys ) the coordinates of a point source, for example a laser source. In the case of an online laser source, it can be considered that this source contains N xs (- ^ 2) elementary sources according to the line.
Une seule source fluorescente est ici détectée le long de la ligne à la position ixd du point de positionnement de la source, dans la gamme de longueur d'onde comprise entre 850 et 900 nm.A single fluorescent source is here detected along the line at the position i xd of the source positioning point, in the wavelength range between 850 and 900 nm.
Une image réelle est beaucoup plus complexe, et mélange les contributions, à la fois deA real picture is much more complex, and mixes the contributions, both from
1' autofluorescence et d'une ou plusieurs sources de fluorescence, cette fluorescence provenant de fluorophores présents dans le milieu diffusant examiné. Un exemple d'une acquisition réalisée pour une excitation dans le proche infra rouge est illustré en figure 3. Expérimentalement, il correspond au cas d'un capillaire (tube de verre rempli de vert d' indocyanine ICG) placé, en position sous cutanée, au niveau du dos d'une souris. La source excite le fluorophore présent dans le capillaire ainsi que les tissus biologiques environnants, ce qui génère de 1 ' autofluorescence .Autofluorescence and one or more sources of fluorescence, this fluorescence from fluorophores present in the scattering medium examined. An example of an acquisition performed for an excitation in the near infrared is illustrated in FIG. 3. Experimentally, it corresponds to the case of a capillary (glass tube filled with indocyanine green ICG) placed, in subcutaneous position, at the back of a mouse. The source excites the fluorophore present in the capillary as well as the surrounding biological tissues, which generates autofluorescence.
On voit deux parties principales sur cette image: une première partie A qui est de l' autofluorescence visible tout le long de la ligne d'acquisition Xd dont le maximum d'intensité se situe autour de 700 nm. La seconde partie B est la fluorescence due au fluorophore (ICG - vert d ' indocyanine) elle est spatialement plus localisée que 1' autofluorescence et son spectre d'émission présente un pic autour de 860 nm.We see two main parts in this image: a first part A which is of the autofluorescence visible all along the acquisition line Xd whose maximum intensity is around 700 nm. The second part B is fluorescence due to the fluorophore (ICG - indocyanine green) it is spatially more localized than autofluorescence and its emission spectrum has a peak around 860 nm.
Sur une telle image, on appelle source un ensemble de points ayant un même spectre d'émission. Une source fluorescente peut donc comporter plusieurs zones d'émission, répartis à diverses positions dans le milieu diffusant.On such an image, we call source a set of points having the same emission spectrum. A fluorescent source may therefore comprise several emission zones, distributed at various positions in the scattering medium.
Une telle image peut être traitée par un procédé selon l'invention, en particulier afin de séparer la contribution de l' autofluorescence d'une part et celle de la ou des sources de fluorescence, d'autre part, cette dernière provenant de fluorophores présents dans le milieu examiné.Such an image can be processed by a method according to the invention, in particular in order to separate the contribution of the autofluorescence on the one hand and that of the source or sources of fluorescence, on the other hand, the latter coming from fluorophores present in the medium examined.
Mais, en vue du traitement, 1 ' autofluorescence est considérée comme une source fluorescente au même titre qu'un fluorophore. Une technique de traitement des données est décrite par Lee et Seung dans l'article « Algorithms for Non Négative Matrix Factorisation », paru dans Advances in neural information processing Systems, pages 556-562, 2001.However, for the purpose of treatment, autofluorescence is considered a fluorescent source in the same way as a fluorophore. A data processing technique is described by Lee and Seung in the article "Algorithms for Non-Negative Matrix Factorization", published in Advances in Neural Information Processing Systems, pages 556-562, 2001.
Selon cette technique, étant donné une matrice non négative X, de taille Nxd * Nλ (soit Nxd lignes et Nλ colonnes) on cherche les matrices non négatives A et S, respectivement de tailles Nxd * P et P * Nλ, qui satisfont à la condition :According to this technique, given a non-negative matrix X, of size N xd * N λ (ie N xd rows and N λ columns), the non-negative matrices A and S, respectively of sizes N xd * P and P * N, are sought. λ , which satisfy the condition:
X ≈ A S (1)X ≈ A S (1)
On entend par matrice non négative une matrice dont tous les éléments sont non négatifs. P correspond au nombre de sources de fluorescence considérées .By non-negative matrix is meant a matrix whose all elements are non-negative. P is the number of fluorescence sources considered.
La matrice X correspond à l'image numérisée qui a été obtenue par la mesure : X est l'expression matricielle de l'image. La matrice A est dite matrice de pondération et un élément alxd,p (>_ 0) de cette matrice représente le poids de la source p en position ixd de la ligne de mesure Xd. Elle est de taille Nxd * P, le nombre de lignes Nxd représentant le nombre de points sélectionnés le long de la ligne de fluorescence, le nombre de colonnes p représentant le nombre de sources susceptibles d'être présentes dans le milieu : marqueurs fluorescents et éventuellement autofluorescence . S est dite matrice des spectres et sp, (^The matrix X corresponds to the digitized image which has been obtained by the measurement: X is the matrix expression of the image. The matrix A is called the weighting matrix and an element a lxd , p (> _ 0) of this matrix represents the weight of the source p at position i xd of the measurement line X d . It is of size N xd * P, the number of lines N xd representing the number of points selected along the fluorescence line, the number of columns p representing the number of sources likely to be present in the medium: fluorescent markers and possibly autofluorescence. S is the matrix of the spectra and s p , (^
0) représente la iλeme valeur du spectre de la peme source. Elle est de taille P * Nλ, le nombre de lignes P représentant le nombre de sources de fluorescence (incluant l' autofluorescence) , le nombre de colonnes Nλ représentant le nombre de données du spectre de chaque source. Autrement dit, chaque ligne de la matrice S correspond au spectre d'émission d'une source fluorescente, ce spectre étant discrétisé selon Nλ canaux .0) represents the i- th value of the spectrum of the same source. It is of size P * N λ , the number of lines P representing the number of fluorescence sources (including autofluorescence), the number of columns N λ representing the number of spectrum data from each source. In other words, each line of the matrix S corresponds to the emission spectrum of a fluorescent source, this spectrum being discretized along N λ channels.
En principe, chaque source, sauf 1' autofluorescence, a un spectre proche de celui d'une source monochromatique; mais en pratique il y a une certaine dispersion autour d'une fréquence centrale. La ligne p de la matrice S peut donc comporter plusieurs éléments non nuls.In principle, each source, except autofluorescence, has a spectrum close to that of a monochromatic source; but in practice there is some dispersion around a central frequency. The line p of the matrix S can therefore comprise several non-zero elements.
On donne en figure 4A l'exemple imagé d'une matrice S pour une acquisition avec deux sources fluorescentes considérées : les deux lignes représentent les spectres d'émission des deux sources considérées, dont l'une, la première, a une répartition spectrale plus large que la deuxième. En première ligne de la matrice S, ce sont plutôt les premiers éléments de la suite Sixλ (iλ=l, ....Nχ) qui sont non nuls, tandis qu'en deuxième ligne, ce sont plutôt les derniers éléments de la suite S2iλ (iλ=l, -.Nλ) ) qui sont non nuls.FIG. 4A gives the illustrated example of an S matrix for an acquisition with two fluorescent sources considered: the two lines represent the emission spectra of the two sources considered, one of which, the first one, has a spectral distribution more wide than the second. In the first line of the matrix S, it is rather the first elements of the sequence Si x λ (iλ = l, .... Nχ) which are non-zero, whereas in the second line, they are rather the last elements of the sequence S 2 iλ (iλ = l, -.Nλ)) which are non-zero.
Dans le cas de deux sources (P = 2) et deIn the case of two sources (P = 2) and
Nxd points le long de la ligne, ce qui correspond à Nxd détecteurs, on a donc :N xd points along the line, which corresponds to Nxd detectors, so we have:
On donne en figure 4B l'exemple imagé du produit d'une matrice S (pour une acquisition avec deux sources fluorescentes) avec un tableau afin d'obtenir le tableau X S contient des informations sur les spectres de fluorescence, tandis que A définit leur pondération dans chacune des lignes de X. FIG. 4B shows the imaged example of the product of a matrix S (for an acquisition with two fluorescent sources) with a table in order to obtain the table XS containing information on the fluorescence spectra, while A defines their weighting. in each of the lines of X.
La solution de l'équation (1) ci-dessus est obtenue de manière approchée, par itérations. Pratiquement, on cherche à minimiser une fonction objectif. Dans cet exemple, on considère la distance euclidienne entre le matrice X et le produit des deux matrices A et S. Autrement dit, on cherche à minimiser la quantité :The solution of equation (1) above is obtained in an approximate manner, by iterations. Practically, we try to minimize an objective function. In this example, we consider the Euclidean distance between the matrix X and the product of the two matrices A and S. In other words, we try to minimize the quantity:
II "II "
avec A≥O et S≥O .with A≥O and S≥O.
En d'autres termes, on définit une fonction de coût ou d'objectif, QFMN , qui s'écrit :In other words, we define a function of cost or objective, Q FMN , which is written:
où Xiχd,iλ est l'élément en ligne ixd et en colonne iλ de la matrice X, et aixd,p est l'élément en ligne ixd et en colonne p de la matrice A, et sp, est l'élément en ligne p et en colonne iλ de la matrice S. Cette fonction a la valeur 0 pour borne inférieure et s'annule si et seulement si X = A S.where Xiχ d , iλ is the element in line i xd and in column i λ of matrix X, and a ixd , p is the inline element i xd and in column p of matrix A, and s p , is the element in line p and in column i λ of the matrix S. This function has the value 0 for the lower bound and vanishes if and only if X = A S.
L'algorithme débute par une initialisation des matrices A et S aux dimensions voulues, et en respectant les contraintes de positivité. Les colonnes de A sont initialisées de façon aléatoire, tandis que les lignes de S sont initialisées par des spectres de référence, représentant les spectres d'émission estimés des sources fluorescentes recherchées ou correspondant à ces spectres. Ces spectres sont déterminés de façon empirique ou selon des valeurs tabulées. Les matrices sont initialisées, mais évoluent ensuite pendant l'algorithme. La minimisation de la fonction QFMN Se fait en deux étapes itératives. Tout d'abord, pour S fixée, la matrice A est recherchée. Ensuite, pour A fixée, la matrice S est calculée Les formules de mise à jour des matrices A et S sont alors :The algorithm starts with an initialization of matrices A and S to the desired dimensions, and respecting the constraints of positivity. The columns of A are initialized randomly, while the S lines are initialized by reference spectra, representing the estimated emission spectra of the searched fluorescent sources or corresponding to these spectra. These spectra are determined empirically or according to tabulated values. The matrices are initialized, but then evolve during the algorithm. The minimization of the function Q FMN S e is done in two iterative steps. First, for S fixed, the matrix A is searched. Then, for fixed A, the matrix S is computed. The formulas of update of matrices A and S are then:
Ces lois, une fois simplifiées, équivalent àThese laws, once simplified, are equivalent to
— ^ {ΛτX)pJχ- ^ {Λ τ X) pJ χ
>p, i λ p,îλ ' {A vt ""ryAS)pM La fonction objectif converge vers un minimum local, et les lois de mise à jour assurent que la fonction objectif décroît.> p, i λ p, λ ' {A vt "" r yAS) pM The objective function converges to a local minimum, and update laws ensure that the objective function decreases.
L'algorithme mis en œuvre dans le cadre de l'invention est donc un algorithme itératif qui met à jour les matrices A et S recherchées selon les fonctions de mises à jour décrites ci-dessus qui minimisent au fur et à mesure des itérations la fonction objectif (distance euclidienne entre X et A. S) .The algorithm implemented in the context of the invention is therefore an iterative algorithm that updates the matrices A and S searched according to the update functions described above which minimize as iterations the function objective (Euclidean distance between X and A. S).
Le nombre d'itération est déterminé en fonction des fluctuations des matrices A et S, ou de façon automatique, en fonction des fluctuations de la fonction de coût, QFMN, au cours de 2 ou plusieurs itérations successives, ou de façon empirique.The number of iteration is determined according to the fluctuations of the matrices A and S, or automatically, according to the fluctuations of the cost function, Q FMN , during 2 or more successive iterations, or empirically.
L'initialisation de l'algorithme consiste en principe à créer deux matrices A et S aléatoires, puis à les mettre à jour au cours d'itérations.The initialization of the algorithm consists in principle in creating two random matrices A and S, and then updating them during iterations.
Dans le cas d'un spectre tel que celui de la figure 3, cette méthode a été testée mais seuls quelques cas sur des dizaines convergent vers un résultat physiquement raisonnable.In the case of a spectrum such as that of Figure 3, this method has been tested but only a few cases on tens converge to a physically reasonable result.
Pour cette raison, selon l'invention, on choisit au moins les premières lignes, et de préférence toutes les lignes (pour plus de robustesse) , de la matrice S lors de l'initialisation ce qui revient à donner la forme approximative des spectres des sources correspondantes. On choisit donc des spectres approximatifs, dont un pour l' autofluorescence, les autres étant ceux de la ou les sources de fluorescence due(s) au (x) marqueur(s) . Par exemple, dans le cas d'un seul marqueur fluorescent, on choisit deux modèles de spectres, un pour l' autofluorescence et un pour la fluorescence du marqueur, comme illustré respectivement en figures 5A et 5B, en se basant sur une connaissance a priori de l' autofluorescence et de la fluorescence du marqueur .For this reason, according to the invention, at least the first lines, and preferably all the lines (for more robustness), of the matrix S are chosen at initialization, which amounts to giving the approximate shape of the spectra of the corresponding sources. We therefore choose approximate spectra, one for autofluorescence, the others being those of the fluorescence source (s) due to the marker (s). For example, in the case of a Only fluorescent marker, one chooses two spectral models, one for autofluorescence and one for fluorescence of the marker, as illustrated respectively in FIGS. 5A and 5B, on the basis of a priori knowledge of the autofluorescence and the fluorescence of the fluorescence marker. marker pen .
On initialise les colonnes de A de façon aléatoire, l'initialisation des lignes de S comme précédemment décrit s' avérant être suffisante pour l'étape d'initialisation pour un résultat final satisfaisant .The columns of A are initialized randomly, the initialization of the lines of S as previously described proving to be sufficient for the initialization step for a satisfactory final result.
En outre on applique des contraintes de positivité : on choisit des matrices d'initialisation à coefficients positifs, les lois de mises à jour conservant ensuite cette positivité. Une fois les matrices d'initialisation A et S déterminées, l'algorithme permet de mettre à jour les matrices A et S selon les règles explicitées ci-dessus. Ainsi, selon l'invention : — On choisit des matrices d'initialisationIn addition, positivity constraints are applied: positive coefficient initialization matrices are chosen, the update laws then keeping this positivity. Once the initialization matrices A and S have been determined, the algorithm makes it possible to update the matrices A and S according to the rules explained above. Thus, according to the invention: - We choose initialization matrices
A et S qui respectent les contraintes de positivité,A and S which respect the constraints of positivity,
— On minimise la fonction d'objectif en deux étapes itératives :- The objective function is minimized in two iterative steps:
- Pour S fixée, la matrice A est mise à jour, - Pour A fixée, la matrice S est mise à jour.For fixed S, the matrix A is updated. For fixed A, the matrix S is updated.
Une fois les matrices A et S trouvées, il est possible de trouver la répartition spatiale : de la première source fluorescente en effectuant le produit AS' , la matrice S' étant alors la matrice S pour laquelle le spectre de la deuxième source est éteint (donc S2, iλ = 0 pour tout iλ) ; et/ou de la deuxième source fluorescente en effectuant le produit AS' , la matrice S' étant alors la matrice S pour laquelle le spectre de la première source est éteint (donc Si, = 0 pour tout . - et/ou de la pieme source fluorescente en effectuant le produit de la colonne p de A par la ligne p de S.Once the matrices A and S have been found, it is possible to find the spatial distribution of the first fluorescent source by producing the product AS ', the matrix S' then being the matrix S for which the spectrum of the second source is extinguished ( therefore S 2 , iλ = 0 for all i λ ); and / or the second fluorescent source by producing the product AS ', the matrix S' then being the matrix S for which the spectrum of the first source is off (thus Si, = 0 for all . and / or the pth fluorescent source by making the product of the column p of A by the line p of S.
- et/ou de la pieme source fluorescente en effectuant le produit A1S, la matrice A' étant alors la matrice A pour laquelle tous les coefficients des colonnes autres que la pième colonne sont mis à zéro.- and / or the p th fluorescent source by obtaining the product A S 1, the matrix A 'being then the matrix A for which all the coefficients of the columns other than the pth column are set to zero.
On peut donc représenter la répartition des intensités de chaque source de fluorescence (marqueurs ou autofluorescence) séparément de celle des autres sources .It is therefore possible to represent the intensity distribution of each fluorescence source (markers or autofluorescence) separately from that of the other sources.
Pratiquement cela signifie qu'il est possible d'obtenir la répartition spatiale de tout ou partie des sources de fluorescence constituées par les marqueurs et 1 ' autofluorescence .Practically this means that it is possible to obtain the spatial distribution of all or part of the fluorescence sources constituted by the markers and the autofluorescence.
Un procédé selon l'invention met en œuvre un procédé de traitement de l'image qui, appliqué à l'image de la figure 3, conduit aux résultats des figures 5A, 5B, 6, 7A et 7B. Les figures 5A et 5B présentent l'allure des spectres choisis pour l'initialisation des deux sources, soit les deux lignes de la matrice S initiale.A method according to the invention implements an image processing method which, applied to the image of FIG. 3, leads to the results of FIGS. 5A, 5B, 6, 7A and 7B. FIGS. 5A and 5B show the shape of the spectra chosen for the initialization of the two sources, ie the two lines of the initial matrix S.
La figure 6 présente l'allure finale des spectres des deux sources principales détectées en trait plein (les spectres d'initialisation sont en trait pointillés), pour l' autofluorescence et la fluorescence (ICG) .FIG. 6 shows the final shape of the spectra of the two main sources detected in solid lines (the initialization spectra are in dotted line), for autofluorescence and fluorescence (ICG).
Les figures 7A et 7B représentent le résultat en images: la fluorescence (figure 7B) peut être séparée de l' autofluorescence (figure 7A) .Figures 7A and 7B show the result in images: fluorescence (Figure 7B) can be separated from autofluorescence (Figure 7A).
Un des avantages de cette méthode est la cohérence avec les données, puisqu'il s'agit ici de ne traiter et d'obtenir que des données positives.One of the advantages of this method is the coherence with the data, because it is here to treat and to obtain only positive data.
Des étapes d'un procédé selon l'invention sont représentées en figure 8 :Steps of a method according to the invention are represented in FIG.
- dans une étape Sl, on réalise une ou plusieurs acquisitions par excitation du milieu diffusant, par faisceau laser; il en résulte par exemple une ou plusieurs images, - dans une étape S2, on initialise les matrices A et S,in a step S1, one or more acquisitions are made by excitation of the scattering medium, by laser beam; this results, for example, in one or more images; in a step S2, the matrices A and S are initialized,
- l'équation X ≈ A. S peut ensuite être résolue, de manière itérative comme expliqué ci-dessus (étape S 3) , - on peut ensuite procéder à une représentation graphique d'une ou plusieurs sources de fluorescence, ou une visualisation d'une ou plusieurs sources (étape S4), par sélection de la source souhaitée, par exemple par la mise à zéro, dans la matrice S, des coefficients des autres sources.the equation X ≈ A. S can then be solved iteratively as explained above (step S 3), it is then possible to carry out a graphical representation of one or more sources of fluorescence, or a visualization of one or more sources (step S4), by selecting the desired source, for example by setting the coefficients of the other sources to zero in the matrix S.
On construit donc une image correspondant aux photons produits par une ou plusieurs sources fluorescentes, par exemple en multipliant respectivement la (les) colonnes de la matrice A correspondant par la (les) ligne (s) de la matrice S correspondant à la ou les sources sélectionnées que l'on recherche.An image corresponding to the photons produced by one or more fluorescent sources is thus constructed, for example by multiplying respectively the (the) columns of the corresponding matrix A by the line (s) of the matrix S corresponding to the selected source or sources that are searched.
Une comparaison avec les résultats obtenus avec d'autres méthodes a été réalisée. Ainsi, la même image, celle de la figure 3, a d'abord été traitée par la méthode par simple soustraction, par exemple telle qu'expliquée dans US 7321791 ou dans WO 2005/040769.A comparison with the results obtained with other methods was carried out. Thus, the same image, that of Figure 3, was first processed by the simple subtraction method, for example as explained in US 7321791 or WO 2005/040769.
Le résultat obtenu est celui de la figure 9 : l'algorithme itératif utilisé permet d'isoler la fluorescence spécifique, mais des « traînées » restent visibles sur l' image obtenue, et l' intensité de fluorescence spécifique est plus faible que pour les résultats obtenus en factorisation de matrices non négatives. De plus, il est possible d'obtenir des valeurs négatives, ce qui s'adapte mal aux données spectrales .The result obtained is that of FIG. 9: the iterative algorithm used makes it possible to isolate the specific fluorescence, but "streaks" remain visible on the image obtained, and the specific fluorescence intensity is lower than for the results obtained in factorization of non-negative matrices. In addition, it is possible to obtain negative values, which adapts badly to the spectral data.
La même image a ensuite été traitée par la méthode dite de décomposition en valeurs singulières, exposée par exemple dans D.Kalman, « A Singularly Valuable Décomposition : the svd of a Matrix », the Collège of Mathematics Journal, 27(1), 2- 23, 1996 ou par G.W.Stewart, « On the Early History of the Singular Value Decomposition_», SIAM Review, 35(4), 551-566, 1993.The same image was then processed by the so-called singular value decomposition method, as described for example in D. Kalman, "A Singularly Valuable Decomposition: The svd of a Matrix," The College of Mathematics Journal, 27 (1), 2. - 23, 1996 or by GWStewart, "On the Early History of the Singular Value Decomposition", SIAM Review, 35 (4), 551-566, 1993.
Le résultat obtenu est présenté respectivement en figure 10A, pour la partie d'auto fluorescence, et en figure 10B, pour la partie de fluorescence spécifique. On observe que cette dernière présente des défauts notables (par exemple des répartitions très « tranchées » qui ne correspondent pas à des réalités physiques) . De plus cette méthode ne traite pas uniquement des valeurs positives, et peut retourner des valeurs négatives, ce qui est mal adapté encore une fois aux données spectrales que nous manipulons.The result obtained is shown respectively in FIG. 10A, for the auto-fluorescence portion, and in FIG. 10B, for the specific fluorescence portion. It is observed that the latter has notable defects (for example very "sliced" distributions which do not correspond not to physical realities). Moreover, this method does not only deal with positive values, and can return negative values, which is not well adapted once again to the spectral data that we handle.
Par conséquent des méthodes de traitement telles que la simple soustraction de modèle ou la décomposition en valeurs singulières (DVS) ne sont pas adaptées à la séparation de spectres. Selon l'invention, on traite des signaux positifs et on ne trouve ensuite que des matrices positives, contrairement à la technique DVS qui peut aboutir à des matrices ayant des valeurs négatives, ce qui ne correspond pas à la réalité physique. Ce qui a été décrit ci-dessus met en œuvre une géométrie de mesure en réflexion, comme on le voit sur la figure 1 ; dans cette géométrie la source excitatrice est située du même côté que le détecteur par rapport à l'objet diffusant. On peut également mettre en œuvre une géométrie en transmission dans laquelle le détecteur est situé en face d'une autre face de l'objet diffusant, par exemple l'objet est disposé entre la source d'excitation et le détecteur.Therefore processing methods such as simple model subtraction or singular value decomposition (DVS) are not suitable for spectral separation. According to the invention, positive signals are processed and only positive matrices are then found, unlike the DVS technique which can result in matrices having negative values, which does not correspond to physical reality. What has been described above implements a measurement geometry in reflection, as seen in Figure 1; in this geometry, the exciter source is located on the same side as the detector with respect to the diffusing object. It is also possible to implement a transmission geometry in which the detector is situated opposite another face of the scattering object, for example the object is disposed between the excitation source and the detector.
On a précédemment décrit l'acquisition et le traitement selon une ligne de Nxd détecteurs ixd, pas forcément alignée sur la ligne Laser. On va à présent décrire comment l'invention peut être mise en œuvre :The acquisition and processing has previously been described along a line of N xd detectors i xd , not necessarily aligned with the Laser line. We will now describe how the invention can be implemented:
- en déplaçant la ligne de détecteurs selon un axe Yd, de préférence perpendiculaire à l'axe Xd formé par les Nxd détecteurs ixd. Ainsi, chaque détecteur aura 2 coordonnées (ixd, iyd) selon les axes Xd et Yd respectivement, avec 1 < ixd < Nxd et 1 < iyd < Nyd. Dans ce cas, la ligne Laser reste de préférence fixe. Dans le cas préféré, chaque détecteur est aligné selon l'axe Xd et on se déplace selon l'axe Yd afin d'avoir une mesure pour l'ensemble des (ixd, iyd) coordonnées de détecteurs,by moving the detector line along an axis Yd, preferably perpendicular to the axis Xd formed by the N xd detectors i xd . Thus, each detector will have 2 coordinates (i xd , i yd ) along the axes Xd and Yd respectively, with 1 <i xd <N xd and 1 <i yd <N yd . In this case, the Laser line is preferably fixed. In the preferred case, each detector is aligned along the axis Xd and one moves along the axis Yd in order to have a measurement for all the (ixd, iyd) coordinates of detectors,
-et/ou en déplaçant la ligne Laser selon un axe Ys de préférence perpendiculaire à l'axe Xs de cette ligne. Dans ce cas, la ligne de détecteurs reste préférentiellement fixe. Les coordonnées d'une source élémentaire sont alors ixs et iys . Dans le cas préféré, la source est linéaire selon un axe Xs et on la déplace selon l'axe Ys. Dans ce cas, ixs reste constant et seul iys évolue. Selon un mode préféré de l'invention, on déplace soit la source en ligne, soit le détecteur.and / or by moving the laser line along an axis Ys preferably perpendicular to the axis Xs of this line. In this case, the detector line remains preferentially fixed. The coordinates of an elementary source are then i xs and i ys . In the preferred case, the source is linear along an axis Xs and is moved along the axis Ys. In this case, ixs remains constant and only iys evolves. According to a preferred embodiment of the invention, either the on-line source or the detector is moved.
Si on déplace seulement la source selon l'axe Ys, les coordonnées (ixs, iyd) ne sont pas utiles. Seules les coordonnées (ixd, iys,iλ) sont utiles de telle sorte que X (et A) peuvent être considérés comme des tableaux à (seulement) trois dimensions .If we only move the source along the Ys axis, the coordinates (ixs, iyd) are not useful. Only the coordinates (ixd, iys, iλ) are useful so that X (and A) can be considered as (only) three-dimensional arrays.
Si on déplace seulement le détecteur seules les coordonnées (ixd, iyd, iλ..sont utiles. Et X (et A) peuvent être considérés comme des tableaux 3D.If we only move the detector only the coordinates (ixd, iyd, iλ..are useful, and X (and A) can be considered as 3D arrays.
Dans le premier mode de réalisation décrit ci-dessus, on ne déplace ni la source, ni le détecteur. Seules les coordonnées (ixd, iλ sont alors utiles. X (et A) pouvaient dans ce cas être considérés comme des tableaux 2D. Maintenant, on déplace la source et/ou le détecteur. Le dispositif peut alors encore être celui de la figure 1, par exemple. Des déplacements peuvent être obtenus par des moyens de déplacement du détecteur 8 de la figure 1 (par exemple par des platines de translation) et/ou de la position du faisceau laser de cette même figure (par exemple encore par des platines de translation) . Ces moyens de déplacement sont par exemple commandés par les moyens de traitement informatique 24.In the first embodiment described above, neither the source nor the detector is moved. Only the coordinates (ixd, iλ are then useful, X (and A) could in this case be considered as 2D arrays. Now we move the source and / or the detector. The device may then again be that of FIG. 1, for example. Displacements can be obtained by displacement means of the detector 8 of Figure 1 (for example by translational plates) and / or the position of the laser beam of the same figure (for example still by translation plates). These displacement means are for example controlled by the computer processing means 24.
Les repères Xd, Yd et Xs, Ys peuvent être respectivement associés respectivement à un plan de référence, pouvant être le plan de travail sur lequel l'objet à analyser est disposé, ou le plan de déplacement de la source, ou le plan de déplacement du détecteur .The marks Xd, Yd and Xs, Ys can respectively be respectively associated with a reference plane, which can be the work plane on which the object to be analyzed is arranged, or the source displacement plane, or the displacement plane. of the detector.
On peut traiter une image ou un tableau de données obtenu dans chaque configuration indépendamment des images ou des tableaux obtenus dans d'autres configurations, une configuration désignant une acquisition avec le détecteur et la ligne Laser dans une position déterminée. On peut utiliser, alors, pour chaque image obtenue ou chaque tableau obtenu, un traitement comme précédemment décrit. Mais l'acquisition de fluorescence avec un déplacement de la ligne de détection et/ou de la position de la source offre de nouvelles possibilités qui vont à présent être décrites. On profite alors du fait que chaque source de fluorescence n'est pas purement ponctuelle mais présente une certaine extension spatiale. Aussi, plutôt que de traiter chaque acquisition indépendamment l'une de l'autre, il apparaît utile de faire un traitement d'une série d'acquisitions. Le traitement portera alors sur la factorisation d'un tableau X comportant l'ensemble des données mesurées au cours de cette série d' acquisitions .An image or table of data obtained in each configuration can be processed independently of the images or tables obtained in other configurations, a configuration designating an acquisition with the detector and the laser line in a determined position. One can use, then, for each image obtained or each table obtained, a treatment as previously described. But the acquisition of fluorescence with a displacement of the detection line and / or the position of the source offers new possibilities that will now be described. We then take advantage of the fact that each source of fluorescence is not purely punctual but has a certain spatial extension. Also, rather than treating each acquisition independently of each other, it seems useful to make a treatment of a series of acquisitions. The treatment will then relate to the factorization of a table X including all the data measured during this series of acquisitions.
Dans le cas où la ligne Laser est fixe et que les Nxd détecteurs sont déplacés, entre deux acquisitions successives, selon un axe Yd, on a :In the case where the laser line is fixed and the Nxd detectors are moved, between two successive acquisitions, along an axis Yd, we have:
X ≈A*SX ≈A * S
où X est un tableau de dimensions (ixd, iyd, iχ) , et où ixd et iyd sont les coordonnées d'un détecteur élémentaire selon les axes Xd et Yd.where X is an array of dimensions (i xd , i yd , iχ), and where i xd and i yd are the coordinates of an elementary detector along the Xd and Yd axes.
Dans le cas où la ligne Laser est déplacée entre deux acquisitions successives et que les Nxd détecteurs sont fixes :In the case where the Laser line is moved between two successive acquisitions and the N xd detectors are fixed:
X ≈A*SX ≈A * S
Où X est un tableau de dimensions (ixs/ iyS, iλ) , et où ixS et iyS sont les coordonnées d'une source élémentaire selon les axes Xs et Ys. Si la ligne Laser et les détecteurs sont simultanément déplacés entre deux acquisitions successives, on a :Where X is an array of dimensions (i x s / i yS , iλ), and where i xS and i yS are the coordinates of an elementary source along the Xs and Ys axes. If the Laser line and the detectors are simultaneously moved between two successive acquisitions, we have:
X ≈A*SX ≈A * S
X étant alors un tableau de dimensions (ixd, iydf ixsf iys r iλ) . Chacun des trois cas précédents peut être écrit sous la formeX being then an array of dimensions (i xd , iydf ixsf iys r iλ). Each of the three previous cases can be written in the form
X ≈A*SX ≈A * S
X étant un tableau de dimensions (q, iλ) , avec q = (ixci, iyd) lorsque les détecteurs sont déplacés et que la ligne laser est fixe, q = (ixs, iγs) lorsque les détecteurs sont fixes et que la ligne laser est déplacée, q = (ixd, iyd, ixs, iys) lorsque les détecteurs et la ligne Laser sont déplacés.X being an array of dimensions (q, iλ), with q = (i xc i, iyd) when the detectors are moved and the laser line is fixed, q = (i xs , i γs ) when the detectors are fixed and that the laser line is moved, q = (i xd , i yd , i xs , i ys ) when the detectors and the laser line are moved.
q peut être qualifié de super indice. On aura alors :q can be called a super index. We will then have:
Λ q,ιλ ~ Λq,pJ p,iλ Λ q, ιλ ~ Λ q, p J p, iλ
A et S sont des tableaux multidimensionnels dont tous les éléments sont positifs. De même que précédemment décrit, A et S sont initialisés puis déterminés selon un algorithme de factorisation en matrices non négatives. Le terme matrice non négative peut être remplacé par « tableau » car A peut avoir une dimension supérieure à 2.A and S are multidimensional arrays of which all elements are positive. As previously described, A and S are initialized then determined according to a factorization algorithm in non-negative matrices. The term non-negative matrix can be replaced by "array" because A can have a dimension greater than 2.
S est dite matrice des spectres et sp, (^ 0) représente la iλ eme valeur du spectre de la peme source de fluorescence. Elle est de taille P * Nλ, le nombre de lignes P représentant le nombre de sources de fluorescence (incluant l' autofluorescence) , le nombre de colonnes Nλ représentant le nombre de données du spectre de chaque source. Autrement dit, chaque ligne de S correspond au spectre d'émission d'une source fluorescente, ce spectre étant discrétisé selon Nλ canaux .S is said matrix spectra and s p, (^ 0) λ represents the i th value of the spectrum of the p th source of fluorescence. It is of size P * Nλ, the number of lines P representing the number of fluorescence sources (including autofluorescence), the number of columns Nλ representing the number of data of the spectrum of each source. In other words, each line of S corresponds to the emission spectrum of a source fluorescent, this spectrum being discretized according to Nλ channels.
L'algorithme débute par une initialisation du tableau A et de la matrice S aux dimensions voulues, et en respectant les contraintes de positivité. Le tableau A est initialisé de façon aléatoire, tandis que les lignes de S sont initialisées par des spectres de référence, représentant les sources recherchées. Ces spectres sont déterminés de façon empirique ou selon des valeurs tabulées.The algorithm starts with an initialization of the array A and the matrix S to the desired dimensions, and respecting the constraints of positivity. Table A is initialized randomly, while the S lines are initialized by reference spectra representing the searched sources. These spectra are determined empirically or according to tabulated values.
L'algorithme découle d'une minimisation d'une fonction de coût ou d'objectif QFMN.The algorithm stems from a minimization of a function of cost or objective Q FMN .
Dans le cas où cette fonction est la distance euclidienne entre X et le produit tensoriel A * S, et en se plaçant dans la configuration dans laquelle la ligne Laser est fixe et les détecteurs sont déplacés selon Xd et Yd, les lois de mise à jour s'écrivent :In the case where this function is the Euclidean distance between X and the tensor product A * S, and placing itself in the configuration in which the laser line is fixed and the detectors are moved according to Xd and Yd, the updating laws write:
Avantageusement, on peut considérer des contraintes spatiales supplémentaires, comme par exemple le lissage des coefficients de la matrice A. La fonction à minimiser devient alors : +WΛ ιιxd,ιyd,p IAdvantageously, it is possible to consider additional spatial constraints, such as, for example, the smoothing of the coefficients of the matrix A. The function to be minimized then becomes: + WΛ ι ιxd, ιyd, p I
FMNFMN
Q représentant alors la fonction d'objectif ou de coût précédemment décrite, pouvant par 5 exemple être la distance euclidienne entre X et le produit tensoriel A * S. α2 est un réel positif.Q then representing the objective or cost function previously described, for example being the Euclidean distance between X and the tensor product A * S. α 2 is a positive real.
De la même façon, on peut mettre en œuvre un algorithme permettant un lissage de chaque spectre de S. La fonction à minimiser est alors : In the same way, one can implement an algorithm allowing a smoothing of each spectrum of S. The function to be minimized is then:
α,3 est un réel positif.α, 3 is a positive real.
On peut également imposer à S uneWe can also impose on S
15 contrainte sur la distance de chaque spectre du tableau S et chaque spectre initial correspondant, c'est-à- dire chaque spectre du tableau initial S°.15 constraint on the distance of each spectrum of the array S and each corresponding initial spectrum, that is to say each spectrum of the initial array S °.
La fonction à minimiser est alors : The function to be minimized is then:
0,4 est un réel positif0.4 is a positive real
Autrement dit, la fonction à minimiser Q™N In other words, the function to minimize Q ™ N
25 combine une distance entre X et AS (QFMN )f e-|- une deuxième distance entre le tableau S résultant de l'itération courante, et le tableau S° établi lors de l'initialisation, ou tableau S° initial, cette deuxième distance pouvant être pondérée par un réel positif ou strictement positif α4.25 combines a distance between X and AS (Q FMN ) fe - | - a second distance between the table S resulting from the current iteration, and the table S ° established during the initialization, or table S ° initial, this second distance that can be weighted by a real positive or strictly positive α 4 .
Selon la précédente équation, les lois de mise à jour _ A'(ι)X + a4Sn s ' écrivent : S •< ((!ι++!ι)> = S c ((0 Λ Λ -r QC4J 0 According to the previous equation, the update laws _A ' (ι) X + a 4 S n write: S • <( ( ! Ι + + ! Ι ) > = S c ( ( 0 Λ Λ -r Q C 4 J 0
A'AS(ι)+aΛS(ι) A'AS (ι) + a Λ S (ι)
De façon similaire, on peut imposer à A une contrainte sur la distance de chaque colonne du tableau A et chaque colonne initiale correspondante, c'est-à- dire chaque colonne du tableau initial A° .Similarly, one can impose on A a constraint on the distance of each column of Table A and each corresponding initial column, that is to say each column of the initial table A °.
La fonction à minimiser est alors : The function to be minimized is then:
α4' est un réel positif ou strictement positif.α 4 'is a real positive or strictly positive.
Autrement dit, la fonction à minimiser Q™N combine une distance entre X et AS ^QFMN )f e-(- une deuxième distance entre le tableau A résultant de l'itération courante, et le tableau A° établi lors de l'initialisation, ou tableau A° initial, cette deuxième distance pouvant être pondérée par un réel positif ou strictement positif α4' .In other words, the function to be minimized Q ™ N combines a distance between X and AS ^ Q FMN ) fe - (- a second distance between the table A resulting from the current iteration, and the table A ° established during the initialization , or initial array A °, this second distance being able to be weighted by a real positive or strictly positive α 4 ' .
Selon la précédente équation, les lois de mise à jour s'écrivent :According to the previous equation, the updating laws are written:
A(ι)SS' +aA,A(ι) On peut également minimiser une fonction QFMN ^ combinant les différentes contraintes explicitées ci-dessus .A (ι) SS '+ a A , A (ι) It is also possible to minimize a function FMN ^ combining the various constraints explained above.
On obtient alors : QζMN =QFMN +Cc1C1 ,We obtain then: Qζ MN = Q FMN + Cc 1 C 1 ,
Où αx est un réel positif ou strictement positif, avec 1 ≤ i ≤ 4, i pouvant également correspondre à 1 ' indice 4 ' , αx pouvant également correspondre à l'indice α4..Where α x is a positive or strictly positive real, with 1 ≤ i ≤ 4, i can also correspond to the index 4 ', α x also being able to correspond to the index α 4.
Selon un aspect de l'invention on introduit au moins un marqueur dans un milieu diffusant, de telle sorte que le milieu diffusant contienne p sources de fluorescence, 1 ' autofluorescence du milieu pouvant être considérée comme une source de fluorescence. On cherche à localiser ce ou ce (s) marqueur (s) fluorescent (s) dans ce milieu diffusant.According to one aspect of the invention, at least one marker is introduced into a diffusing medium, so that the diffusing medium contains p fluorescence sources, the autofluorescence of the medium being able to be considered as a source of fluorescence. We seek to locate this or these marker (s) fluorescent (s) in this scattering medium.
Dans un tel procédé on réalise donc au moins une acquisition de fluorescence en excitant le milieu par une source lumineuse laser S de coordonnées (ixS, iys) r le faisceau de cette source laser pouvant par exemple être focalisé sous la forme d'une ligne.In such a method, at least one fluorescence acquisition is thus achieved by exciting the medium by a laser light source S with coordinates (i xS , i y s), the beam of this laser source being able to be focused, for example, in the form of a line.
On détecte la fluorescence par un détecteur D, pouvant comporter une pluralité de détecteurs (iXcu iYd) ayant une capacité de dispersion spectrale, ces détecteurs pouvant être par exemple alignés le long d'un axe Xd et ainsi former une ligne de Nxd détecteurs élémentaires .The fluorescence is detected by a detector D, which may comprise a plurality of detectors (i Xc ui Yd ) having a spectral dispersion capacity, these detectors being for example aligned along an axis Xd and thus forming a line of N xd elementary detectors.
On déplace la source et/ou la pluralité de détecteurs, par exemple en translation, les coordonnées de la source et de chaque détecteur étant respectivement notés (iXd, iyd) dans un repère (Xd, Yd) et (ixs, iys) dans un repère (X8, Ys) .The source and / or the plurality of detectors are displaced, for example in translation, the coordinates of the source and of each detector being respectively denoted (i X d, iyd) in a reference (X d , Y d ) and (i xs , i ys ) in a reference (X 8 , Y s ).
Une configuration de mesure, ou acquisition, est déterminée par une position de la 5 pluralité de détecteurs et une position de la source. A chaque configuration de mesure, le signal de fluorescence produit à l'intérieur du milieu diffusant est mesuré par chaque détecteur (xd, yd) placé en (ixd, iyd) • Un tel signal est alors séparé selon Nλ longueur 10 d'ondes, chaque détecteur (xd, yd) mesurant l'intensité à chaque longueur d'onde iλ.A measurement pattern, or acquisition, is determined by a position of the plurality of detectors and a position of the source. At each measurement configuration, the fluorescence signal produced inside the scattering medium is measured by each detector (xd, yd) placed in (ix d , iy d ). Such a signal is then separated according to Nλ length 10. waves, each detector (xd, yd) measuring the intensity at each wavelength iλ.
A chaque configuration de mesure, ou acquisition, l'intensité du signal mesuré à chaque longueur d'onde iλ est indiquée dans un tableau With each measurement configuration, or acquisition, the intensity of the signal measured at each wavelength iλ is indicated in a table
Le tableau X obtenu suite à des mesures dans chaque configuration, correspondant alors à une série d'acquisition, est ensuite traité par factorisation en produit de deux matrices non négativesTable X obtained following measurements in each configuration, then corresponding to a series of acquisitions, is then processed by factoring the product of two non-negative matrices.
20 A et S, telles que :A and S, such as:
V A * C ixs,iys,ixd,iyd,,//l ~ ^xs,iys,ixd,iy,p p,iλV A * C ixs, iys, ixd, iyd ,, // l ^ xs, iys, ixd, iy, pp, iλ
On peut donc déterminer une image de la répartition des intensités des différentes sources de 25 fluorescence (marqueurs ou autofluorescence) . Comme déjà expliqué ci-dessus, on peut éteindre une des sources et effectuer le calcul A. S qui donne la répartition des autres sources.It is therefore possible to determine an image of the distribution of the intensities of the different sources of fluorescence (markers or autofluorescence). As already explained above, one can turn off one of the sources and perform the calculation A. S which gives the distribution of the other sources.
Bien que, dans les exemples donnés dans laAlthough, in the examples given in the
30 description la fonction objectif soit basée sur le calcul de la distance euclidienne entre le tableau de données X et le produit tensoriel A * S, d'autres types de fonctions objectifs peuvent être mis en œuvre dans le cadre de l'invention, en particulier une fonction objectif basée sur le calcul de la divergence, notamment la divergence de Kullback Leibler. Lee et Seung ont déterminé pour cette fonction des lois de mise à jour, qui assurent la décroissance de la fonction objectif dans le cas d'une matrice X en deux dimensions .30 description the objective function is based on the calculation of the Euclidean distance between the array of X data and the tensor product A * S, other types of objective functions can be implemented within the scope of the invention, in particular an objective function based on the calculation of the divergence, including the Kullback Leibler divergence. Lee and Seung have determined for this function updating laws, which ensure the decay of the objective function in the case of a matrix X in two dimensions.
On obtient alorsWe then obtain

Claims

REVENDICATIONS
1. Procédé de localisation d'au moins un marqueur fluorescent dans un milieu diffusant comprenant un tel marqueur, dans lequel : a) on réalise au moins une acquisition (X) de fluorescence par une excitation du milieu, chaque acquisition comportant d'une part une ou plusieurs composantes de fluorescence due à un ou plusieurs marqueurs, d'autre part une composante d' autofluorescence due à une partie du milieu autre que les marqueurs, les données mesurées lors de la ou des acquisitions étant stockées dans un tableau multidimensionnel X, l'acquisition étant réalisée par un capteur d'image produisant une image donnant la répartition spectrale du rayonnement de fluorescence, b) on traite les données dudit tableau X par factorisation de ce tableau en un produit de, seulement, deux tableaux multidimensionnels non négatifs A et S, c) on détermine une représentation graphique de la répartition des intensités d'une ou plusieurs composantes de fluorescence, à partir des données contenues dans les tableaux A et S .A method of locating at least one fluorescent marker in a scattering medium comprising such a marker, wherein: a) at least one fluorescence acquisition (X) is carried out by excitation of the medium, each acquisition comprising, on the one hand, one or more fluorescence components due to one or more markers, on the other hand an autofluorescence component due to a part of the medium other than the markers, the data measured during the acquisition or acquisitions being stored in a multidimensional array X, the acquisition being carried out by an image sensor producing an image giving the spectral distribution of the fluorescence radiation, b) the data of said Table X are processed by factorizing this table into a product of, only, two non-negative multidimensional arrays A and S, c) a graphical representation of the intensity distribution of one or more fluorescence components is determined from the given data. are contained in Tables A and S.
2. Procédé selon la revendication 1 dans lequel, lors de l'étape b) , on détermine A et S par minimisation d'une fonction de coût. 2. Method according to claim 1 wherein, in step b), A and S are determined by minimizing a cost function.
3. Procédé selon la revendication 2 dans lequel, la fonction de coût est, ou comporte, laThe method of claim 2 wherein the cost function is, or includes, the
distance W"x—AS I"I2entre l'image X et le produit A. S.distance W "x-AS I" I 2 between the image X and the product AS
4. Procédé selon l'une des revendications4. Method according to one of the claims
1 à 3, dans lequel, lors de l'étape b) , on détermine A et S par un procédé itératif comprenant, à chaque itération, la minimisation d'une fonction de coût, cette fonction de coût comprenant : - une distance entre le tableau X et le produit des tableaux A et S,1 to 3, in which, during step b), A and S are determined by an iterative method comprising, at each iteration, the minimization of a cost function, this cost function comprising: a distance between the Table X and the product of Tables A and S,
- au moins une distance entre un tableau (A ,S) et un tableau initial (A°, S°)at least one distance between an array (A, S) and an initial array (A °, S °)
5. Procédé selon l'une des revendications5. Method according to one of the claims
1 à 4, dans lequel, lors de l'étape b) , au moins une ligne du tableau S est initialisée par un spectre de référence de la source de fluorescence correspondante.1 to 4, wherein, in step b), at least one line of the array S is initialized by a reference spectrum of the corresponding fluorescence source.
6. Procédé selon l'une des revendications 1 à 5, dans lequel l'étape b) est réalisée par k itérations, des tableaux Ai+i et Si+i, obtenus lors de l'itération d'ordre 1+1 étant déterminées à partir des tableaux A1 et Si obtenus lors de l'itération d'ordre 1.6. Method according to one of claims 1 to 5, wherein step b) is performed by k iterations, tables A i + i and Si + i, obtained during the iteration of order 1 + 1 being determined from the tables A 1 and Si obtained during the iteration of order 1.
7. Procédé selon la revendication 6, dans lequel le nombre d'itération est déterminé en fonction des fluctuations des tableaux A et S, ou de façon automatique, en fonction de fluctuations de la fonction de coût au cours de 2 ou plusieurs itérations successives . 7. The method of claim 6, wherein the iteration number is determined according to the fluctuations of the tables A and S, or automatically, according to fluctuations of the cost function during 2 or more successive iterations.
8. Procédé selon l'une des revendications 1 à 7, dans lequel, lors de l'étape c) , on détermine la position d'une des sources en éliminant les contributions des autres sources dans le tableau S puis en effectuant le produit de A avec le tableau S ainsi modifié .8. Method according to one of claims 1 to 7, wherein, in step c), the position of one of the sources is determined by eliminating the contributions of the other sources in the table S and then carrying out the product of A with the table S thus modified.
9. Procédé selon l'une des revendications 1 à 8, dans lequel le rayonnement d'excitation a un spectre dans l'infra rouge.9. Method according to one of claims 1 to 8, wherein the excitation radiation has a spectrum in the infrared.
10. Procédé selon l'une des revendications 1 à 9, dans lequel la fluorescence est détectée à des longueurs d'onde supérieures à 600 nm.10. Method according to one of claims 1 to 9, wherein the fluorescence is detected at wavelengths greater than 600 nm.
11. Procédé selon l'une des revendications 1 à 10, dans lequel l'image est réalisée à l'aide d'un détecteur comportant au moins une ligne de détecteurs élémentaires, et on déplace cette ligne de détecteurs, une acquisition (X) de fluorescence étant réalisée pour chaque position de la ligne de détecteurs.11. Method according to one of claims 1 to 10, wherein the image is made using a detector comprising at least one line of elementary detectors, and this line of detectors is moved, an acquisition (X) fluorescence being performed for each position of the line of detectors.
12. Procédé selon l'une des revendications 1 à 11, dans lequel l'excitation est réalisée dans une zone, dite zone d'excitation, la lumière d'excitation diffusant ensuite dans une zone du milieu différente de la zone d'excitation.12. Method according to one of claims 1 to 11, wherein the excitation is carried out in a zone, said excitation zone, the excitation light then diffusing in a zone of the medium different from the excitation zone.
13. Procédé selon la revendication 12, ladite zone d'excitation étant une ligne d'excitation. 13. The method of claim 12, said excitation zone being an excitation line.
14. Procédé selon la revendication 13, dans lequel on déplace la ligne d'excitation, une acquisition de fluorescence étant réalisée pour chaque position de la ligne d'excitation.14. The method of claim 13, wherein the excitation line is moved, a fluorescence acquisition being performed for each position of the excitation line.
15. Dispositif de localisation d'au moins un marqueur fluorescent dans un milieu diffusant, comportant : a) des moyens (2, 4) pour produire un faisceau d'excitation de la fluorescence, b) un capteur d'image (6, 8) pour réaliser au moins une acquisition de fluorescence de points dudit milieu, cette acquisition comportant les composantes de fluorescence dues aux différentes sources présentes dans le milieu, y compris l' autofluorescence, et pour produire une image donnant la répartition spectrale des rayonnements de fluorescence ; c) des moyens (24, 27, 28) pour traiter les données d'acquisition par factorisation en deux tableaux non négatifs A et S, d) des moyens (24, 27, 28) pour déterminer une représentation graphique de la répartition des intensités des différentes sources de fluorescence.15. A device for locating at least one fluorescent marker in a scattering medium, comprising: a) means (2, 4) for producing a fluorescence excitation beam, b) an image sensor (6, 8). ) to perform at least one fluorescence acquisition of points of said medium, this acquisition comprising the fluorescence components due to the various sources present in the medium, including the autofluorescence, and to produce an image giving the spectral distribution of the fluorescence radiation; c) means (24, 27, 28) for processing the factorization acquisition data into two non-negative tables A and S, d) means (24, 27, 28) for determining a graphical representation of the intensity distribution. different sources of fluorescence.
16. Dispositif selon la revendication 15, comportant en outre des moyens pour modifier la position de la ligne d'excitation. 16. Device according to claim 15, further comprising means for modifying the position of the excitation line.
17. Dispositif selon la revendication 15 ou 16, au moins une partie des moyens pour réaliser une acquisition de fluorescence de points dudit milieu peuvent être disposés selon une ligne, dite ligne de détection, le dispositif comportant en outre des moyens pour modifier la position de ladite ligne de détection. 17. Device according to claim 15 or 16, at least part of the means for achieving a fluorescence acquisition of points of said medium may be arranged along a line, called a detection line, the device further comprising means for modifying the position of said detection line.
EP10707297A 2009-03-11 2010-03-10 Fluorescence image processing by non-negative matrix factorisation Ceased EP2405800A1 (en)

Applications Claiming Priority (2)

Application Number Priority Date Filing Date Title
FR0951505A FR2942950B1 (en) 2009-03-11 2009-03-11 TREATMENT OF A FLUORESCENCE IMAGE BY FACTORIZATION IN NON-NEGATIVE MATERIALS
PCT/EP2010/053008 WO2010103026A1 (en) 2009-03-11 2010-03-10 Fluorescence image processing by non-negative matrix factorisation

Publications (1)

Publication Number Publication Date
EP2405800A1 true EP2405800A1 (en) 2012-01-18

Family

ID=40996512

Family Applications (1)

Application Number Title Priority Date Filing Date
EP10707297A Ceased EP2405800A1 (en) 2009-03-11 2010-03-10 Fluorescence image processing by non-negative matrix factorisation

Country Status (4)

Country Link
US (1) US20120032094A1 (en)
EP (1) EP2405800A1 (en)
FR (1) FR2942950B1 (en)
WO (1) WO2010103026A1 (en)

Families Citing this family (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
FR2968921B1 (en) * 2010-12-15 2013-01-11 Commissariat Energie Atomique METHOD FOR LOCATING AN OPTICAL MARKER IN A DIFFUSING MEDIUM
CN108181478B (en) * 2017-12-19 2021-01-05 西北工业大学 Fluorescent collecting and analyzing method for array type micro-fluidic chip

Family Cites Families (7)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US7321791B2 (en) 2003-09-23 2008-01-22 Cambridge Research And Instrumentation, Inc. Spectral imaging of deep tissue
US20080200780A1 (en) * 2006-05-11 2008-08-21 Schenkman Kenneth A Optical measurement of cellular energetics
US10335038B2 (en) * 2006-08-24 2019-07-02 Xenogen Corporation Spectral unmixing for in-vivo imaging
WO2008132522A1 (en) * 2007-04-25 2008-11-06 Ruder Boscovic Institute Method for real time tumour visualisation and demarcation by means of photodynamic diagnosis
US7692160B2 (en) * 2007-05-31 2010-04-06 General Electric Company Method and system of optical imaging for target detection in a scattering medium
WO2009005748A1 (en) * 2007-06-29 2009-01-08 The Trustees Of Columbia University In The City Ofnew York Optical imaging or spectroscopy systems and methods
US8135187B2 (en) * 2008-03-26 2012-03-13 General Electric Company Method and apparatus for removing tissue autofluorescence

Non-Patent Citations (2)

* Cited by examiner, † Cited by third party
Title
None *
See also references of WO2010103026A1 *

Also Published As

Publication number Publication date
FR2942950A1 (en) 2010-09-17
US20120032094A1 (en) 2012-02-09
FR2942950B1 (en) 2012-09-28
WO2010103026A1 (en) 2010-09-16

Similar Documents

Publication Publication Date Title
US11730370B2 (en) Spectral unmixing for in-vivo imaging
EP2465416B1 (en) Method for locating an optical marker in a diffusing medium
US9080977B2 (en) Apparatus and methods for fluorescence guided surgery
EP2146752B1 (en) Fluorescent light tomography
Zacharakis et al. Fluorescent protein tomography scanner for small animal imaging
US20070274580A1 (en) Method and system for tomographic imaging using fluorescent proteins
EP2191774A2 (en) Systems and methods for in-vivo optical imaging and measurement
EP2359745A1 (en) Method and device for multi-spectral photonic imaging
Yoshitake et al. Direct comparison between confocal and multiphoton microscopy for rapid histopathological evaluation of unfixed human breast tissue
JP7482894B2 (en) Imaging system for detection of intraoperative contrast agents in tissue - Patents.com
CN101115986A (en) Raman spectral analysis of sub-surface tissues and fluids
US20080269617A1 (en) Absorption and Scattering Map Reconstruction For Optical Fluorescence Tomography
EP2186469A1 (en) Method and device for the localisation of fluorophores or absorbers in surrounding medium
Gavgiotaki et al. Third Harmonic Generation microscopy distinguishes malignant cell grade in human breast tissue biopsies
EP2302362A1 (en) Device and method for spatial reconstruction of a fluorescence cartography
Gao et al. Design and characterization of a time-domain optical tomography platform for mesoscopic lifetime imaging
WO2008025006A2 (en) Spectral unmixing for in-vivo imaging
EP2405800A1 (en) Fluorescence image processing by non-negative matrix factorisation
Pisanello et al. Analytical and empirical measurement of fiber photometry signal volume in brain tissue
EP2659274A1 (en) Luminescent composition as biomarker in a bird&#39;s egg, corresponding device and method
WO2015037055A1 (en) Fluorescent image acquisition device
JP5239472B2 (en) Fluorescence imaging device
Xu et al. Improved sensitivity by applying spectral unmixing prior to fluorescent tomography
Colas Modeling and estimation of human skin optical properties using spatially resolved autofluorescence and diffuse reflectance spectroscopy
Luthman et al. Wide-Field fHSI with a Linescan SRDA

Legal Events

Date Code Title Description
PUAI Public reference made under article 153(3) epc to a published international application that has entered the european phase

Free format text: ORIGINAL CODE: 0009012

17P Request for examination filed

Effective date: 20110919

AK Designated contracting states

Kind code of ref document: A1

Designated state(s): AT BE BG CH CY CZ DE DK EE ES FI FR GB GR HR HU IE IS IT LI LT LU LV MC MK MT NL NO PL PT RO SE SI SK SM TR

DAX Request for extension of the european patent (deleted)
17Q First examination report despatched

Effective date: 20160705

STAA Information on the status of an ep patent application or granted ep patent

Free format text: STATUS: EXAMINATION IS IN PROGRESS

REG Reference to a national code

Ref country code: DE

Ref legal event code: R003

STAA Information on the status of an ep patent application or granted ep patent

Free format text: STATUS: THE APPLICATION HAS BEEN REFUSED

18R Application refused

Effective date: 20190904