EP3903236A1 - Procédé de génération d'un exemple adversaire pour un modèle d'apprentissage automatique, procédé de robustification, dispositif de génération et programme produit ordinateur associés - Google Patents

Procédé de génération d'un exemple adversaire pour un modèle d'apprentissage automatique, procédé de robustification, dispositif de génération et programme produit ordinateur associés

Info

Publication number
EP3903236A1
EP3903236A1 EP19828796.3A EP19828796A EP3903236A1 EP 3903236 A1 EP3903236 A1 EP 3903236A1 EP 19828796 A EP19828796 A EP 19828796A EP 3903236 A1 EP3903236 A1 EP 3903236A1
Authority
EP
European Patent Office
Prior art keywords
input data
machine learning
modified
initial
learning model
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Pending
Application number
EP19828796.3A
Other languages
German (de)
English (en)
Inventor
Boussad ADDAD
Jérôme KODJABACHIAN
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Thales SA
Original Assignee
Thales SA
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Thales SA filed Critical Thales SA
Publication of EP3903236A1 publication Critical patent/EP3903236A1/fr
Pending legal-status Critical Current

Links

Classifications

    • G—PHYSICS
    • G06—COMPUTING OR CALCULATING; COUNTING
    • G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N3/00—Computing arrangements based on biological models
    • G06N3/02—Neural networks
    • G06N3/08—Learning methods
    • G—PHYSICS
    • G06—COMPUTING OR CALCULATING; COUNTING
    • G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N3/00—Computing arrangements based on biological models
    • G06N3/02—Neural networks
    • G06N3/08—Learning methods
    • G06N3/09—Supervised learning
    • G—PHYSICS
    • G06—COMPUTING OR CALCULATING; COUNTING
    • G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N3/00—Computing arrangements based on biological models
    • G06N3/02—Neural networks
    • G06N3/08—Learning methods
    • G06N3/094—Adversarial learning

Definitions

  • the present invention relates to a method for generating an adversary example for a machine learning model.
  • the present invention also relates to a method for robustification of the machine learning model, an associated generation device and a computer program product.
  • the invention relates to the field of artificial intelligence and more particularly machine learning models which are based on statistical approaches in order to improve the performance of the model in solving tasks without being explicitly programmed for each. of these tasks.
  • Machine learning has two phases.
  • the first phase consists in defining a model from data present in a database, called observations. Estimating the model involves performing a practical task, such as translating a speech, estimating a probability density, recognizing the presence of an object in an image or classifying a digital file, for example. This so-called learning phase is generally carried out before the practical use of the model.
  • the second phase corresponds to the use of the model: the model being defined, new data outside the database can then be submitted to the model in order to obtain the result corresponding to the desired task.
  • An adversary example is an input data item for which the associated result is different from the result associated with another neighboring input data item.
  • the adversary example is therefore a particular problematic case for the machine learning model. Indeed, a slight variation in the input data should lead to a similar prediction if the model was sufficiently robust. For example, changing the brightness of an image should not change the objects identified on the image or adding a few words to a file should not change whether it contains a virus or no.
  • these adversary examples are not entirely satisfactory, in particular in the field of cyber security.
  • the object of the present invention is to propose a method making it possible to further improve the relevance of the adversary examples of the machine learning model.
  • the subject of the invention is a method of generating at least one adversary example for a machine learning model, the machine learning model being associated with a database, the machine learning model associating a prediction of at least one input data, each input data comprising at least one digital component, the generation method comprising, for at least one initial input data chosen from the input data from the database data, the following steps:
  • the generation process comprises one or more of the following characteristics, taken alone or in any technically possible combination:
  • each input data item is associated with a digital file comprising a series of characters, the generation method comprising a step of converting the series of characters into the digital component or components of the input data item;
  • the method further comprises before the generation steps, a step of defining a domain constraint to the variation function, so that each component of the modified input data belongs to a predetermined associated definition domain;
  • the method further comprises, before the generation steps, a step of defining a threshold constraint on the variation function, so that the difference between each component of the modified input data and the corresponding component of the initial input data is less than a predetermined associated threshold;
  • the generation of the adversary example is carried out by a gradient-based optimization algorithm.
  • the subject of the invention is also a method of robustification of the machine learning model, comprising the steps of the tekl generation method defined above, the robustification method further comprising the following steps:
  • the robustification method comprises a second iteration of all the steps of the robustification method as defined above from the enriched database.
  • the invention also relates to a device for generating at least one adversary example for a machine learning model, the machine learning model being associated with a database, the machine learning model associating with at least an input data a prediction, each input data comprising at least one digital component, the electronic generation device being, for at least one initial input data chosen from the input data coming from the database, specific to :
  • the invention also relates to a computer program product comprising software instructions which, when executed by a computer, implement a generation process as defined above.
  • FIG. 1 is a schematic representation of an electronic assembly comprising an electronic generation device according to the invention.
  • FIG. 2 is a flowchart of a robustification method according to the invention.
  • the electronic assembly 10 comprises at least one database 12, an electronic modeling device 14, an electronic generation device 16 and an electronic robustification device 18.
  • the database 12 is able to store a plurality of data.
  • Each piece of data is for example a digital file, an image, a video, a sound, etc.
  • the modeling device 14 is suitable for executing a machine learning model.
  • the modeling device 14 is suitable for applying the machine learning model to at least one input data item X in order to obtain an associated prediction Y.
  • the machine learning model is, for example, a neural network well known to those skilled in the art.
  • the associated prediction Y is for example a text describing at least one object present on the image.
  • the prediction Y is for example a translation into another language of the text of the file, a classification of the content of the file or an anti-virus analysis of the file.
  • Each input data X is a vector or an array comprising at least one component Xi. At least one of the components Xi is numeric. Advantageously, all the components Xi of the input data X are digital.
  • the modeling device 14 is in the form of an independent computer further comprising at least one processor and a memory.
  • the modeling device 14 is at least partially in the form of a programmable logic circuit of FPGA type (from English "Field-Programmable Gate Array") and / or software stored in the computer's memory and executable by the computer's processor.
  • the modeling device 14 is implemented by another computer.
  • the modeling device 14 is at least partially in the form of software stored in a memory of such a computer and executable by a processor thereof.
  • the generation device 16 is capable of generating at least one adversary example EA for the machine learning model.
  • the generation device 16 comprises a first acquisition module 20, a first processing module 22 and a first output module 24.
  • the first acquisition module 20 makes it possible to acquire all of the external data from the generation device 16 necessary for the operation thereof.
  • the first acquisition module 20 is suitable for receiving input data X from the database 12.
  • the first processing module 22 is able to process the data acquired by the acquisition module 20 using the modeling device 14 in order to implement a method 200 of generating the at least one adversary example EA for the machine learning model.
  • the first output module 24 is able to transmit all of the data processed by the first processing module 22 to the robustification device 18.
  • the generation device 16 is in the form of an independent computer further comprising at least one processor and a memory.
  • the aforementioned modules are at least partially in the form of programmable logic circuits of FPGA type (from the English “Field-Programmable Gate Array”) and / or software stored in the memory of the computer and executable by the processor of it.
  • the generation device 16 is implemented by another computer.
  • the aforementioned modules are at least partially in the form of software stored in a memory of such a computer and executable by a processor thereof.
  • the robustification device 18 is suitable for implementing the robustification of the machine learning model.
  • Robustness of the model means an optimization of the model by which the model is made more robust and less sensitive to the effects of variability in the data and of the model's input parameters.
  • the robustification device 18 comprises a second acquisition module 26, a second processing module 28 and a second output module 30.
  • the second acquisition module 26 makes it possible to acquire all of the external data from the robustification device 18 necessary for the operation thereof.
  • the second acquisition module 26 is capable of receiving at least one adversary example EA from the generation device 16.
  • the second processing module 28 is able to process the data acquired by the second acquisition module 26 in order to implement a method 300 for learning the machine learning model from the database 12.
  • the second output module 30 is able to transmit all of the data processed by the second processing module 28, and in particular to transmit the robust machine learning model, to the modeling device 14.
  • the robustification device 18 is in the form of an independent computer further comprising at least one processor and a memory.
  • the aforementioned modules are at least partially in the form of programmable logic circuits of FPGA type (from the English “Field-Programmable Gate Array”) and / or software stored in the memory of the computer and executable by the processor of it.
  • modeling devices 14, generation 16 and robustification 18 are alternatively in the form of a single computer.
  • the robustification device 18 is implemented by another computer.
  • the aforementioned modules are at least partially in the form of software stored in a memory of such a computer and executable by a processor thereof.
  • a robustification method 100 will now be explained with reference to FIG. 2 presenting a flow diagram of its steps.
  • the robustification method 100 includes the generation method 200 followed by the learning method 300.
  • an optional initial conversion step 210 at least one data item included in the database 12 is converted into an input data item X comprising at least one digital component Xi.
  • each file is transformed into a digital matrix indicating for each character its place in the fragment of text analyzed.
  • the rest of the robustification method 100 is described for an initial input data X chosen from the input data X from the database 12. Those skilled in the art will understand that the robustification method 100 is applicable to n ' any input data X from database 12.
  • the generation device 16 defines a variation function F of the initial input data X defining a plurality of modified input data X ’from the initial input data X:
  • the function F makes it possible to obtain a plurality of modified input data X ’in the vicinity of the initial input data X by slightly varying the latter.
  • the generation method 200 comprises a step 230 of defining a direction constraint to the variation function F so that the difference between at least component Xi 'of each modified input data X' and the component Xi corresponding to it of the initial input data X is of predetermined sign Si.
  • the predetermined sign Si is positive or negative.
  • the direction constraint at the variation function F is defined so that the difference between each component Xi 'of each modified input data X' and the component Xi corresponding to it of the initial input data X is of sign predetermined If.
  • the direction constraint is defined so that the difference between each component Xi 'of the modified input data X' and the component Xi corresponding to it of the initial input data X is of sign If positive:
  • Corresponding component is understood to mean the same component of the modified input data item X 'as that of the initial input data item X.
  • component corresponding to it means the component having the same index .
  • the direction constraint Cd is particularly advantageous when the input data X comes from a digital file and represents a number of elements contained in this file. Indeed, removing data from the file could break the file structure and make this file corrupt. Thus, with the direction constraint, only adding content is possible in the file, which guarantees the integrity of the file.
  • the direction constraint Cd is defined so that the difference between each component Xi ’of the modified input data X’ and the component Xi corresponding to it of the initial input data X is negative.
  • the method 200 comprises a step 240 of defining a domain constraint to the variation function F, so that each component Xi 'of the modified input data item X' belongs to a domain of associated predetermined definition.
  • each component Xi is for example a numerical interval comprised between a minimum value ai and a maximum value b ⁇ :
  • the definition domain is a discrete set of numerical values.
  • the definition domain corresponds to a physical limitation of the input data such as a necessarily positive light intensity, to a structural limitation such as a maximum file size or a predetermined preference limitation.
  • the method 200 comprises a step 250 of defining a threshold constraint on the variation function F, so that the absolute value of the difference between each component Xi 'of the modified input data X 'and the component Xi corresponding to it of the initial input data X is less than a predetermined associated threshold Ai:
  • the threshold Ai is of value less than 5% of the value of the digital component Xi.
  • variations in light intensity limited to 5% will generally be difficult to detect for the human eye.
  • the method 200 comprises a step 260 of generating a plurality of modified input data X ′ from the initial input data X by the function of variation F constrained by the direction constraint and advantageously the domain constraint and the threshold constraint.
  • the variation function is defined as follows:
  • G is for example equal to the tangent hyperbolic function, to the sine function or a function resulting from the sigmoid function.
  • the generation method 200 then comprises a step 270 of generating the adversary example EA corresponding to the modified input data X 'among the plurality of modified input data X' maximizing the probability P that a modified prediction Y ' obtained by applying the machine learning model to this modified input data X 'is different from an initial prediction Y obtained by applying the machine learning model to the initial input data X:
  • the adversary example EA is the modified input data X ’for which the probability P that the associated prediction Y’ is different from the initial prediction Y is maximum.
  • the generation of the adversary example EA is carried out by a gradient-based optimization algorithm.
  • the optimization algorithm is iterative by varying the variable r and proceeds by successive improvements following the gradient until the maximum probability is found.
  • the algorithm calculates the modified input data X 'as a function of the input data X.
  • the algorithm calculates the modified prediction Y' associated by means of the modeling device 14 , then the algorithm compares the modified prediction Y 'with the initial prediction Y.
  • the algorithm determines the gradient of variation of the probability that the modified prediction Y' is different from the initial prediction Y, causes the variable r to vary following the positive gradient and repeats the calculations until the maximum probability is reached.
  • the generation process 200 is followed by the learning process 300 which will now be explained with reference to FIG. 2, in order to allow the robustness of the machine learning model.
  • the learning method 300 comprises a first step 310 of adding the adversary example EA to the database 12 in order to obtain an enriched database 12.
  • the enriched database 12 thus includes all the data initially present as well as the adversary example EA added.
  • the robustification device 18 implements the learning of the machine learning model from the enriched database 12.
  • the learning of the machine learning model is carried out by learning from the data from the database 12, for example by means of an iterative algorithm by error correction well known to those skilled in the art. .
  • the machine learning model is readjusted according to the adversary example EA so that the modified prediction Y 'associated with the adversary example EA is no longer different from the initial prediction Y.
  • the machine learning model is readjusted so that the model detects the same objects on the image of the adversary example EA and the image of the initial input data.
  • the robustification module 18 transmits the adjusted machine learning model to the modeling module 14 which is thus updated with the improved version of the model.
  • the robustification method 100 advantageously comprises a second iteration of all the steps of the methods 200 and 300 from the enriched database 12.
  • the robustification method thus comprises the generation of at least one second adversary example EA different from that of the first iteration, the addition of this second adversary example EA to the enriched database 12 and the training of the model with this base. of data 12 further enriched.
  • the invention improves the robustness of the machine learning model. Indeed, the generation of an EA adversary example taking into account the direction constraint makes it possible to enrich the database 12 with more relevant examples.
  • the management constraint is particularly advantageous in the field of cybersecurity where the data are digital files.
  • the direction constraint makes it possible to avoid obtaining malformed files which would be useless for the machine learning model.
  • the method according to the invention thus makes it possible to make the machine learning model more robust in order to improve its operation and to prevent possible computer attacks against this model.

Landscapes

  • Engineering & Computer Science (AREA)
  • Theoretical Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • Data Mining & Analysis (AREA)
  • General Health & Medical Sciences (AREA)
  • Biomedical Technology (AREA)
  • Biophysics (AREA)
  • Computational Linguistics (AREA)
  • Life Sciences & Earth Sciences (AREA)
  • Evolutionary Computation (AREA)
  • Artificial Intelligence (AREA)
  • Molecular Biology (AREA)
  • Computing Systems (AREA)
  • General Engineering & Computer Science (AREA)
  • General Physics & Mathematics (AREA)
  • Mathematical Physics (AREA)
  • Software Systems (AREA)
  • Health & Medical Sciences (AREA)
  • Machine Translation (AREA)

Abstract

L'invention concerne un procédé de génération d'au moins un exemple adversaire pour un modèle d'apprentissage automatique. Le procédé de génération comprend les étapes suivantes: - définition d'une fonction de variation d'une donnée d'entrée initiale définissant une pluralité de données d'entrée modifiées; - définition d'une contrainte de direction à la fonction de variation de sorte que la différence entre au moins une composante de chaque donnée d'entrée modifiée et la composante lui correspondant de la donnée d'entrée initiale soit de signe prédéterminé; et - génération d'une pluralité de données d'entrée modifiées; - génération de l'exemple adversaire maximisant la probabilité qu'une prédiction modifiée soit différente d'une prédiction initiale.

Description

Procédé de génération d’un exemple adversaire pour un modèle d’apprentissage automatique, procédé de robustification, dispositif de génération et programme produit ordinateur associés
La présente invention concerne un procédé de génération d’un exemple adversaire pour un modèle d’apprentissage automatique.
La présente invention concerne également un procédé de robustification du modèle d’apprentissage automatique, un dispositif de génération et un produit programme ordinateur associés.
En particulier, l’invention concerne le domaine de l’intelligence artificielle et plus particulièrement les modèles d’apprentissage automatique qui se basent sur des approches statistiques afin de permettre d’améliorer les performances du modèle à résoudre des tâches sans être explicitement programmés pour chacune de ces tâches.
L'apprentissage automatique comporte deux phases. La première phase consiste à définir un modèle à partir de données présentes dans une base de données, appelées observations. L'estimation du modèle consiste à effectuer une tâche pratique, telle que traduire un discours, estimer une densité de probabilité, reconnaître la présence d'un objet dans une image ou classer un fichier numérique, par exemple. Cette phase dite d'apprentissage est généralement réalisée préalablement à l'utilisation pratique du modèle. La seconde phase correspond à l’utilisation du modèle : le modèle étant défini, de nouvelles données hors de la base de données peuvent alors être soumises au modèle afin d'obtenir le résultat correspondant à la tâche souhaitée.
Il est connu de continuer l’apprentissage du modèle durant la deuxième phase, en prenant en compte un retour sur la qualité des tâches réalisées. Cet apprentissage continu est important pour corriger les défauts du modèle afin de rendre le modèle plus robuste et ainsi d’améliorer son fonctionnement et de prévenir les éventuelles attaques informatiques contre ce modèle.
En particulier, il est connu de déterminer des exemples adversaires du modèle d’apprentissage automatique. Un exemple adversaire est une donnée d’entrée pour lequel le résultat associé est différent du résultat associé à une autre donnée d’entrée voisine. L’exemple adversaire est donc un cas particulier problématique pour le modèle d’apprentissage automatique. En effet, une légère variation de la donnée d’entrée devrait aboutir à une prédiction semblable si le modèle était suffisamment robuste. Par exemple, le fait de modifier la luminosité d’une image ne doit pas modifier les objets identifiés sur l’image ou le fait d’ajouter quelques mots dans un fichier ne doit pas modifier le fait de savoir s’il contient un virus ou non. Toutefois, ces exemples adversaires ne donnent pas entière satisfaction, en particulier dans le domaine de la cyber-sécurité.
La présente invention a pour but de proposer un procédé permettant d’améliorer encore la pertinence des exemples adversaires du modèle d’apprentissage automatique.
À cet effet, l’invention a pour objet un procédé de génération d’au moins un exemple adversaire pour un modèle d’apprentissage automatique, le modèle d’apprentissage automatique étant associé à une base de données, le modèle d’apprentissage automatique associant une prédiction à au moins une donnée d’entrée, chaque donnée d’entrée comprenant au moins une composante numérique, le procédé de génération comprenant, pour au moins une donnée d’entrée initiale choisie parmi les données d’entrée issues de la base de données, les étapes suivantes :
- définition d’une fonction de variation de la donnée d’entrée initiale définissant une pluralité de données d’entrée modifiées à partir de la donnée d’entrée initiale;
- définition d’une contrainte de direction à la fonction de variation de sorte que la différence entre au moins une composante de chaque donnée d’entrée modifiée et la composante lui correspondant de la donnée d’entrée initiale soit de signe prédéterminé ; et
- génération d’une pluralité de données d’entrée modifiées à partir de la donnée d’entrée initiale par la fonction de variation contrainte ;
- génération de l’exemple adversaire correspondant à la donnée d’entrée modifiée parmi la pluralité de données d’entrée modifiées maximisant la probabilité qu’une prédiction modifiée obtenue par l’application du modèle d’apprentissage automatique à cette donnée d’entrée modifiée soit différente d’une prédiction initiale obtenue par l’application du modèle d’apprentissage automatique à la donnée d’entrée initiale.
Suivant d’autres aspects avantageux de l’invention, le procédé de génération comprend une ou plusieurs des caractéristiques suivantes, prise(s) isolément ou suivant toutes les combinaisons techniquement possibles :
- chaque donnée d’entrée est associée à un fichier numérique comprenant une suite de caractères, le procédé de génération comprenant une étape de conversion de la suite de caractères en la ou les composantes numériques de la donnée d’entrée ;
- le procédé comprend en outre avant les étapes de génération, une étape de définition d’une contrainte de domaine à la fonction de variation, de sorte que chaque composante de la donnée d’entrée modifiée appartienne à un domaine de définition associé prédéterminé ;
- le procédé comprend comprenant en outre avant les étapes de génération, une étape de définition d’une contrainte de seuil à la fonction de variation, de sorte que la différence entre chaque composante de la donnée d’entrée modifiée et la composante lui correspondant de la donnée d’entrée initiale soit inférieure à un seuil associé prédéterminé ;
- la contrainte de direction à la fonction de variation est définie de sorte que la différence entre chaque composante de chaque donnée d’entrée modifiée et la composante lui correspondant de la donnée d’entrée initiale soit de signe prédéterminé ; et
- la génération de l’exemple adversaire est réalisée par un algorithme d’optimisation à base de gradient.
L’invention a également pour objet un procédé de robustification du modèle d’apprentissage automatique, comprenant les étapes du procédé de génération tekl que définit ci-dessus, le procédé de robustification comprenant en outre les étapes suivantes :
- ajout de l’exemple adversaire à la base de données afin d’obtenir une base de données enrichie ; et
- apprentissage du modèle d’apprentissage automatique à partir de la base de données enrichie.
En complément avantageux, le procédé de robustification comprend une deuxième itération de l’ensemble des étapes du procédé de robustification tel que défini ci-dessus à partir de la base de données enrichie.
L’invention a également pour objet un dispositif de génération d’au moins un exemple adversaire pour un modèle d’apprentissage automatique, le modèle d’apprentissage automatique étant associé à une base de données, le modèle d’apprentissage automatique associant à au moins une donnée d’entrée une prédiction, chaque donnée d’entrée comprenant au moins une composante numérique, le dispositif électronique de génération étant, pour au moins une donnée d’entrée initiale choisie parmi les données d’entrée issue de la base de données, propre à :
- définir une fonction de variation de la donnée d’entrée initiale définissant une pluralité de données d’entrée modifiées à partir de la donnée d’entrée initiale;
- définir une contrainte de direction à la fonction de variation de sorte que la différence entre chaque composante de chaque donnée d’entrée modifiée et la composante lui correspondant de la donnée d’entrée initiale soit de signe constant ; et
- générer une pluralité de données d’entrée modifiées à partir de la donnée d’entrée initiale par la fonction de variation contrainte ;
- générer l’exemple adversaire correspondant à la donnée d’entrée modifiée parmi la pluralité de données d’entrée modifiées maximisant la probabilité qu’une prédiction modifiée obtenue par l’application du modèle d’apprentissage automatique à cette donnée d’entrée modifiée soit différente d’une prédiction initiale obtenue par l’application du modèle d’apprentissage automatique à la donnée d’entrée initiale.
L’invention a également pour objet un produit programme d'ordinateur comportant des instructions logicielles qui, lorsqu’elles sont exécutées par un ordinateur, mettent en oeuvre un procédé de génération tel que défini précédemment.
Ces caractéristiques et avantages de l’invention apparaîtront à la lecture de la description qui va suivre, donnée uniquement à titre d’exemple non limitatif, et faite en référence aux dessins annexés, sur lesquels :
- la figure 1 est une représentation schématique d’un ensemble électronique comprenant un dispositif électronique de génération selon l’invention ; et
- la figure 2 est un organigramme d’un procédé de robustification selon l’invention.
Un ensemble électronique 10 est représenté sur la figure 1. L’ensemble électronique 10 comprend au moins une base de données 12, un dispositif électronique de modélisation 14, un dispositif électronique de génération 16 et un dispositif électronique de robustification 18.
La base de données 12 est propre à stocker une pluralité de données. Chaque donnée est par exemple un fichier numérique, une image, une vidéo, un son, etc.
Le dispositif de modélisation 14 est propre à exécuter un modèle d’apprentissage automatique. En particulier le dispositif de modélisation 14 est propre à appliquer le modèle d’apprentissage automatique à au moins une donnée d’entrée X afin d’obtenir une prédiction Y associée.
Le modèle d’apprentissage automatique est par exemple un réseau de neurones bien connu de l’homme du métier.
A titre d’exemple, lorsque la donnée d’entrée X est issue d’une image, la prédiction Y associée est par exemple un texte décrivant au moins un objet présent sur l’image. Lorsque la donnée d’entrée X est issue d’un fichier numérique, la prédiction Y est par exemple une traduction dans une autre langue du texte du fichier, une classification du contenu du fichier ou une analyse anti-virus du fichier.
Chaque donnée d’entrée X est un vecteur ou un tableau comprenant au moins une composante Xi. Au moins l’une des composantes Xi est numérique. Avantageusement, toutes les composantes Xi de la donnée d’entrée X sont numériques.
Selon un exemple de réalisation, le dispositif de modélisation 14 se présente sous la forme d’un calculateur indépendant comprenant en outre au moins un processeur et une mémoire. Dans ce cas, le dispositif de modélisation 14 se présente au moins partiellement sous la forme d’un circuit logique programmable de type FPGA (de l’anglais « Field-Programmable Gâte Array ») et/ou d’un logiciel stocké dans la mémoire du calculateur et exécutable par le processeur de celui-ci.
Selon un autre exemple de réalisation, le dispositif de modélisation 14 est mis en oeuvre par un autre calculateur. Dans ce cas, le dispositif de modélisation 14 se présente au moins partiellement sous la forme d’un logiciel stocké dans une mémoire d’un tel calculateur et exécutable par un processeur de celui-ci.
Le dispositif de génération 16 est propre à générer au moins un exemple adversaire EA pour le modèle d’apprentissage automatique.
En référence à la figure 1 , le dispositif de génération 16 comprend un premier module d’acquisition 20, un premier module de traitement 22 et un premier module de sortie 24.
Le premier module d’acquisition 20 permet d’acquérir l’ensemble des données externes du dispositif de génération 16 nécessaires pour le fonctionnement de celui-ci. En particulier, le premier module d’acquisition 20 est propre à recevoir des données d’entrée X issues de la base de données 12.
Le premier module de traitement 22 est apte à traiter les données acquises par le module d’acquisition 20 à l’aide du dispositif de modélisation 14 afin de mettre en oeuvre un procédé 200 de génération de l’au moins un exemple adversaire EA pour le modèle d’apprentissage automatique.
Finalement, le premier module de sortie 24 est apte à transmettre l’ensemble des données traitées par le premier module de traitement 22 au dispositif de robustification 18.
Selon un exemple de réalisation, le dispositif de génération 16 se présente sous la forme d’un calculateur indépendant comprenant en outre au moins un processeur et une mémoire. Dans ce cas, les modules précités se présentent au moins partiellement sous la forme de circuits logiques programmables de type FPGA (de l’anglais « Field- Programmable Gâte Array ») et/ou de logiciels stockés dans la mémoire du calculateur et exécutables par le processeur de celui-ci.
Selon un autre exemple de réalisation, le dispositif de génération 16 est mis en oeuvre par un autre calculateur. Dans ce cas, les modules précités se présentent au moins partiellement sous la forme de logiciels stockés dans une mémoire d’un tel calculateur et exécutables par un processeur de celui-ci.
Le dispositif de robustification 18 est propre à mettre en oeuvre la robustification du modèle d’apprentissage automatique. Par robustification du modèle, on entend une optimisation du modèle par laquelle le modèle est rendu plus robuste et moins sensible aux effets de la variabilité dans les données et des paramètres d'entrée du modèle.
En référence à la figure 1 , le dispositif de robustification 18 comprend un deuxième module d’acquisition 26, un deuxième module de traitement 28 et un deuxième module de sortie 30.
Le deuxième module d’acquisition 26 permet d’acquérir l’ensemble des données externes du dispositif de robustification 18 nécessaires pour le fonctionnement de celui-ci. En particulier le deuxième module d’acquisition 26 est propre à recevoir l’au moins un exemple adversaire EA de la part du dispositif de génération 16.
Le deuxième module de traitement 28 est apte à traiter les données acquises par le deuxième module d’acquisition 26 afin de mettre en oeuvre un procédé 300 d’apprentissage du modèle d’apprentissage automatique à partir de la base de données 12.
Finalement, le deuxième module de sortie 30 est apte à transmettre l’ensemble des données traitées par le deuxième module de traitement 28, et en particulier à transmettre le modèle d’apprentissage automatique robustifié, au dispositif de modélisation 14.
Selon un exemple de réalisation, le dispositif de robustification 18 se présente sous la forme d’un calculateur indépendant comprenant en outre au moins un processeur et une mémoire. Dans ce cas, les modules précités se présentent au moins partiellement sous la forme de circuits logiques programmables de type FPGA (de l’anglais « Field- Programmable Gâte Array ») et/ou de logiciels stockés dans la mémoire du calculateur et exécutables par le processeur de celui-ci.
L’homme du métier comprendra que les dispositifs de modélisation 14, de génération 16 et de robustification 18 se présentent en variante sous la forme d’un calculateur unique.
Selon un autre exemple de réalisation, le dispositif de robustification 18 est mis en oeuvre par un autre calculateur. Dans ce cas, les modules précités se présentent au moins partiellement sous la forme de logiciels stockés dans une mémoire d’un tel calculateur et exécutables par un processeur de celui-ci.
Un procédé de robustification 100 sera désormais expliqué en référence à la figure 2 présentant un organigramme de ses étapes.
Le procédé de robustification 100 comprend le procédé de génération 200 suivi du procédé d’apprentissage 300. Lors d’une étape initiale optionnelle 210 de conversion, au moins donnée comprise dans la base de données 12 est convertie en une donnée d’entrée X comprenant au moins une composante numérique Xi.
Par exemple, si les données sont des fichiers numériques comprenant une suite de caractères, chaque fichier est transformé en une matrice numérique indiquant pour chaque caractère sa place dans le fragment de texte analysé.
La suite du procédé de robustification 100 est décrit pour une donnée d’entrée initiale X choisie parmi les données d’entrée X issues de la base de données 12. L’homme du métier comprendra que le procédé de robustification 100 est applicable à n’importe quelle donnée d’entrée X issue de la base de données 12.
Lors d’une étape 220, le dispositif de génération 16 définit une fonction de variation F de la donnée d’entrée initiale X définissant une pluralité de données d’entrée modifiées X’ à partir de la donnée d’entrée initiale X :
[Math 1 ]
X! = F(X)
La fonction F permet d’obtenir une pluralité de données d’entrées modifiées X’ dans le voisinage de la donnée d’entrée initiale X en faisant varier légèrement cette dernière.
Puis le procédé de génération 200 comprend une étape 230 de définition d’une contrainte de direction à la fonction de variation F de sorte que la différence entre au moins composante Xi’ de chaque donnée d’entrée modifiée X’ et la composante Xi lui correspondant de la donnée d’entrée initiale X soit de signe prédéterminé Si. Le signe prédéterminé Si est positif ou négatif.
Avantageusement, la contrainte de direction à la fonction de variation F est définie de sorte que la différence entre chaque composante Xi’ de chaque donnée d’entrée modifiée X’ et la composante Xi lui correspondant de la donnée d’entrée initiale X soit de signe prédéterminé Si.
Dans un mode de réalisation avantageux, la contrainte de direction est définie de telle sorte que la différence entre chaque composante Xi’ de la donnée d’entrée modifiée X’ et la composante Xi lui correspondant de la donnée d’entrée initiale X soit de signe Si positif :
[Math 2]
XV - Xi > 0
On entend par « composante lui correspondant», la même composante de la donnée d’entrée modifiée X’ que celle de la donnée d’entrée initiale X. Autrement dit, on entend par « composante lui correspondant », la composante ayant le même indice. La contrainte de direction Cd est particulièrement avantageuse lorsque la donnée d’entrée X est issue d’un fichier numérique et représente un nombre d’éléments contenus dans ce fichier. En effet, enlever des données au fichier risquerait de casser la structure du fichier et de rendre ce fichier corrompu. Ainsi, avec la contrainte de direction, seul de l’ajout de contenu est possible dans le fichier, ce qui permet de garantir l’intégrité du fichier.
En variante, la contrainte de direction Cd est définie de telle sorte que la différence entre chaque composante Xi’ de la donnée d’entrée modifiée X’ et la composante Xi lui correspondant de la donnée d’entrée initiale X soit négative.
Dans un mode de réalisation avantageux, le procédé 200 comprend une étape 240 de définition d’une contrainte de domaine à la fonction de variation F, de sorte que chaque composante Xi’ de la donnée d’entrée modifiée X’ appartienne à un domaine de définition associé prédéterminé.
Le domaine de définition de chaque composante Xi’ est par exemple un intervalle numérique compris entre une valeur minimale ai et une valeur maximale bί :
[Math 3]
ai < Xi' < bϊ
En variante le domaine de définition est un ensemble discret de valeurs numériques.
Par exemple, le domaine de définition correspond à une limitation physique de la donnée d’entrée telle qu’une intensité lumineuse nécessairement positive, à une limitation structurelle telle qu’une taille maximale de fichier ou une limitation de préférence prédéterminée.
Dans un mode de réalisation avantageux, le procédé 200 comprend une étape 250 de définition d’une contrainte de seuil à la fonction de variation F, de sorte que la valeur absolue de la différence entre chaque composante Xi’ de la donnée d’entrée modifiée X’ et la composante Xi lui correspondant de la donnée d’entrée initiale X soit inférieure à un seuil Ai associé prédéterminé :
[Math 4]
\Xi' - Xi \ < Dϊ
Avantageusement, pour chaque composante numérique Xi, le seuil Ai est de valeur inférieur à 5% de la valeur de la composante numérique Xi. Par exemple, dans le cas des images, des variations de l’intensité lumineuse limitées à 5% seront généralement difficilement détectables pour l’œil humain.
Puis, le procédé 200 comprend une étape de génération 260 d’une pluralité de données d’entrée modifiées X’ à partir de la donnée d’entrée initiale X par la fonction de variation F contrainte par la contrainte de direction et avantageusement la contrainte de domaine et la contrainte de seuil.
En particulier, lorsque la contrainte de direction positive, la contrainte de domaine et la contrainte de seuil s’applique, la fonction de variation est définie comme suit :
[Math 5]
,
si Xi + Dί < bί, alors
avec r une variable réelle et G une fonction bornée dans l’intervalle [-1 ,1]. La fonction G est par exemple égale à la fonction tangente hyperbolique, à la fonction sinus ou une fonction issue de la fonction sigmoïde.
Le procédé de génération 200 comprend ensuite une étape 270 de génération de l’exemple adversaire EA correspondant à la donnée d’entrée modifiée X’ parmi la pluralité de données d’entrée modifiées X’ maximisant la probabilité P qu’une prédiction modifiée Y’ obtenue par l’application du modèle d’apprentissage automatique à cette donnée d’entrée modifiée X’ soit différente d’une prédiction initiale Y obtenue par l’application du modèle d’apprentissage automatique à la donnée d’entrée initiale X :
[Math 6]
EA = Y'tel que P(Y' ¹ Y ) soit maximale
Ainsi, l’exemple adversaire EA est la donnée d’entrée modifiée X’ pour lequel la probabilité P que la prédiction Y’ associée soit différente de la prédiction initiale Y est maximale.
Avantageusement, la génération de l’exemple adversaire EA est réalisée par un algorithme d’optimisation à base de gradient. L’algorithme d’optimisation est itératif en faisant varier la variable r et procède par améliorations successives en suivant le gradient jusqu’à trouver la probabilité maximale. En particulier, pour une valeur r donnée, l’algorithme calcule la donnée d’entrée modifiée X’ en fonction de la donnée d’entrée X. Puis, l’algorithme calcule la prédiction modifiée Y’ associée au moyen du dispositif de modélisation 14, puis l’algorithme compare la prédiction modifiée Y’ avec la prédiction initiale Y. Puis, l’algorithme détermine le gradient de variation de la probabilité que la prédiction modifiée Y’ soit différente de la prédiction initiale Y, fait varier la variable r en suivant le gradient positif et réitère les calculs jusqu’à ce que le maximum de probabilité soit atteint.
Le procédé de génération 200 est suivi par le procédé d’apprentissage 300 qui sera désormais expliqué en référence à la figure 2, afin de permettre la robustification du modèle d’apprentissage automatique. Le procédé d’apprentissage 300 comprend une première étape 310 d’ajout de l’exemple adversaire EA à la base de données 12 afin d’obtenir une base de données 12 enrichie. La base de données 12 enrichie comprend ainsi toutes les données initialement présentes ainsi que l’exemple adversaire EA ajouté.
Puis, lors d’une étape 320, le dispositif de robustification 18 met en oeuvre l’apprentissage du modèle d’apprentissage automatique à partir de la base de données 12 enrichie.
En particulier, l’apprentissage du modèle d’apprentissage automatique est réalisé par apprentissage à partir des données issues de la base de données 12, par exemple au moyen d’un algorithme itératif par correction d’erreur bien connu de l’homme du métier.
Ainsi, le modèle d’apprentissage automatique se réajuste en fonction de l’exemple adversaire EA afin que la prédiction modifiée Y’ associée à l’exemple adversaire EA ne soit plus différente de la prédiction initiale Y. Ainsi, dans l’exemple de l’image, le modèle d’apprentissage automatique est réajusté afin que le modèle détecte les mêmes objets sur l’image de l’exemple adversaire EA et l’image de la donnée d’entrée initiale.
Puis, le module de robustification 18 transmet le modèle d’apprentissage automatique ajusté au module de modélisation 14 qui est ainsi mis à jour avec la version améliorée du modèle.
Le procédé de robustification 100 comprend avantageusement une deuxième itération de l’ensemble des étapes des procédés 200 et 300 à partir de la base de données 12 enrichie. Le procédé de robustification comprend ainsi la génération d’au moins un deuxième exemple adversaire EA différent de celui de la première itération, l’ajout de ce deuxième exemple adversaire EA à la base de données 12 enrichie et l’apprentissage du modèle avec cette base de données 12 encore enrichie.
On conçoit alors que la présente invention présente un certain nombre d’avantages.
Tout d’abord, l’invention permet d’améliorer la robustification du modèle d’apprentissage automatique. En effet, la génération d’un exemple adversaire EA prenant en compte la contrainte de direction permet d’enrichir la base de données 12 avec des exemples plus pertinents.
En particulier, la contrainte de direction est particulièrement avantageuse dans le domaine de la cyber-sécurité où les données sont des fichiers numériques. La contrainte de direction permet d’éviter d’obtenir des fichiers malformés qui seraient inutiles pour le modèle d’apprentissage automatique. Le procédé selon l’invention permet ainsi de rendre le modèle d’apprentissage automatique plus robuste afin d’améliorer son fonctionnement et de prévenir les éventuelles attaques informatiques contre ce modèle.
De plus, la prise en compte des contraintes de domaine et de seuil permettent d’améliorer encore la pertinence des exemples adversaires EA générés et ajoutés à la base de données 12.

Claims

REVENDICATIONS
1. Procédé de génération (200) d’au moins un exemple adversaire (EA) pour un modèle d’apprentissage automatique, le modèle d’apprentissage automatique étant associé à une base de données (12), le modèle d’apprentissage automatique associant une prédiction (Y) à au moins une donnée d’entrée (X), chaque donnée d’entrée (X) comprenant au moins une composante numérique (Xi), le procédé de génération comprenant, pour au moins une donnée d’entrée initiale (X) choisie parmi les données d’entrée (X) issues de la base de données (12), les étapes suivantes :
- définition (220) d’une fonction de variation (F) de la donnée d’entrée initiale (X) définissant une pluralité de données d’entrée modifiées (X’) à partir de la donnée d’entrée initiale (X);
- définition (230) d’une contrainte de direction à la fonction de variation (F) de sorte que la différence entre au moins une composante (Xi’) de chaque donnée d’entrée modifiée (X’) et la composante (Xi) lui correspondant de la donnée d’entrée initiale (X) soit de signe prédéterminé (Si) ; et
- génération (260) d’une pluralité de données d’entrée modifiées (Xi’) à partir de la donnée d’entrée initiale (X) par la fonction de variation (F) contrainte ;
- génération (270) de l’exemple adversaire (EA) correspondant à la donnée d’entrée modifiée (X’) parmi la pluralité de données d’entrée modifiées (X’) maximisant la probabilité (P) qu’une prédiction modifiée (Y’) obtenue par l’application du modèle d’apprentissage automatique à cette donnée d’entrée modifiée (X’) soit différente d’une prédiction initiale (Y) obtenue par l’application du modèle d’apprentissage automatique à la donnée d’entrée initiale (X).
2. Procédé de génération (200) selon la revendication 1 , dans lequel chaque donnée d’entrée (X) est associée à un fichier numérique comprenant une suite de caractères, le procédé de génération comprenant une étape de conversion (210) de la suite de caractères en la ou les composantes numériques (Xi) de la donnée d’entrée (X).
3. Procédé de génération (200) selon la revendication 1 ou 2, comprenant en outre avant les étapes de génération (260, 270), une étape de définition (240) d’une contrainte de domaine à la fonction de variation (F), de sorte que chaque composante (Xi’) de la donnée d’entrée modifiée (X’) appartienne à un domaine de définition associé prédéterminé.
4. Procédé de génération (200) selon l’une quelconque des revendications 1 à 3, comprenant en outre avant les étapes de génération (260, 270), une étape de définition (250) d’une contrainte de seuil à la fonction de variation (F), de sorte que la différence entre chaque composante (Xi’) de la donnée d’entrée modifiée (X’) et la composante (Xi) lui correspondant de la donnée d’entrée initiale (X’) soit inférieure à un seuil (D) associé prédéterminé.
5. Procédé de génération (200) selon l’une quelconque des revendications 1 à 4, dans lequel la contrainte de direction à la fonction de variation (F) est définie de sorte que la différence entre chaque composante (Xi’) de chaque donnée d’entrée modifiée (X’) et la composante (Xi) lui correspondant de la donnée d’entrée initiale (X) soit de signe prédéterminé (Si).
6. Procédé de génération (200) selon l’une quelconque des revendications 1 à 5, dans lequel la génération (270) de l’exemple adversaire (EA) est réalisée par un algorithme d’optimisation à base de gradient.
7. Procédé de robustification (100) comprenant les étapes du procédé de génération (200) selon l’une quelconque des revendications 1 à 6, le procédé de robustification (100) comprenant en outre les étapes suivantes :
- ajout (310) de l’exemple adversaire (EA) à la base de données (12) afin d’obtenir une base de données (12) enrichie ;
- apprentissage (320) du modèle d’apprentissage automatique à partir de la base de données (12) enrichie.
8. Procédé de robustification (100) selon la revendication 7, comprenant au moins une deuxième itération de l’ensemble des étapes du procédé de robustification (100) selon la revendication 7 à partir de la base de données (12) enrichie.
9. Dispositif électronique de génération (16) d’au moins un exemple adversaire (EA) pour un modèle d’apprentissage automatique, le modèle d’apprentissage automatique étant associé à une base de données (12), le modèle d’apprentissage automatique associant à au moins une donnée d’entrée (X) une prédiction (Y), chaque donnée d’entrée (X) comprenant au moins une composante numérique (Xi),
le dispositif électronique de génération (16) étant, pour au moins une donnée d’entrée initiale (X) choisie parmi les données d’entrée (X) issue de la base de données (12), propre à :
- définir une fonction de variation (F) de la donnée d’entrée initiale (X) définissant une pluralité de données d’entrée modifiées (X’) à partir de la donnée d’entrée initiale (X);
- définir une contrainte de direction à la fonction de variation (F) de sorte que la différence entre chaque composante (Xi’) de chaque donnée d’entrée modifiée (X’) et la composante (Xi) lui correspondant de la donnée d’entrée initiale (X) soit de signe constant ; et
- générer une pluralité de données d’entrée modifiées (X’) à partir de la donnée d’entrée initiale (X) par la fonction de variation (F) contrainte ;
- générer l’exemple adversaire (EA) correspondant à la donnée d’entrée modifiée (X’) parmi la pluralité de données d’entrée modifiées (X’) maximisant la probabilité (P) qu’une prédiction modifiée (Y’) obtenue par l’application du modèle d’apprentissage automatique à cette donnée d’entrée modifiée (X’) soit différente d’une prédiction initiale (Y) obtenue par l’application du modèle d’apprentissage automatique à la donnée d’entrée initiale (Y).
10. Produit programme d’ordinateur comportant des instructions logicielles qui, lorsqu’elles sont exécutées par un ordinateur, mettent en oeuvre un procédé de génération (200) selon l’une quelconque des revendications 1 à 6.
EP19828796.3A 2018-12-27 2019-12-27 Procédé de génération d'un exemple adversaire pour un modèle d'apprentissage automatique, procédé de robustification, dispositif de génération et programme produit ordinateur associés Pending EP3903236A1 (fr)

Applications Claiming Priority (2)

Application Number Priority Date Filing Date Title
FR1874213A FR3091390A1 (fr) 2018-12-27 2018-12-27 Procédé de génération d’un exemple adversaire pour un modèle d’apprentissage automatique, procédé de robustification, dispositif de génération et programme produit ordinateur associés
PCT/EP2019/087106 WO2020136264A1 (fr) 2018-12-27 2019-12-27 Procédé de génération d'un exemple adversaire pour un modèle d'apprentissage automatique, procédé de robustification, dispositif de génération et programme produit ordinateur associés

Publications (1)

Publication Number Publication Date
EP3903236A1 true EP3903236A1 (fr) 2021-11-03

Family

ID=67441207

Family Applications (1)

Application Number Title Priority Date Filing Date
EP19828796.3A Pending EP3903236A1 (fr) 2018-12-27 2019-12-27 Procédé de génération d'un exemple adversaire pour un modèle d'apprentissage automatique, procédé de robustification, dispositif de génération et programme produit ordinateur associés

Country Status (3)

Country Link
EP (1) EP3903236A1 (fr)
FR (1) FR3091390A1 (fr)
WO (1) WO2020136264A1 (fr)

Also Published As

Publication number Publication date
WO2020136264A1 (fr) 2020-07-02
FR3091390A1 (fr) 2020-07-03

Similar Documents

Publication Publication Date Title
EP3301617B1 (fr) Procédés d&#39;apprentissage sécurisé de paramètres d&#39;un réseau de neurones à convolution, et de classification sécurisée d&#39;une donnée d&#39;entrée
US10878318B2 (en) Adaptive artificial neural network selection techniques
WO2016102153A1 (fr) Representation semantique du contenu d&#39;une image
FR2994495A1 (fr) Procede et systeme pour detecter des evenements sonores dans un environnement donne
WO2023005386A1 (fr) Procédé et appareil d&#39;entraînement de modèle
CN110321562B (zh) 一种基于bert的短文本匹配方法及装置
EP3588301A1 (fr) Determination automatique et auto-optimisee des parametres d&#39;execution d&#39;une application logicielle sur une plateforme de traitement de l&#39;information
CN107133951A (zh) 图像篡改检测方法及装置
FR3123748A1 (fr) Apprentissage automatique sans annotation ameliore par regroupements adaptatifs en ensemble ouvert de classes
CN114332564A (zh) 车辆分类方法、设备及存储介质
EP3903236A1 (fr) Procédé de génération d&#39;un exemple adversaire pour un modèle d&#39;apprentissage automatique, procédé de robustification, dispositif de génération et programme produit ordinateur associés
EP3712775A1 (fr) Procédé et dispositif de détermination de la taille mémoire globale d&#39;une zone mémoire globale allouée aux données d&#39;un réseau de neurones compte tenu de sa topologie
US20230056131A1 (en) Server and method for classifying entities of a query
EP3729768B1 (fr) Procédé de construction automatique de scénarios d&#39;attaques informatiques, produit programme d&#39;ordinateur et système de construction associés
FR3076935A1 (fr) Procedes d&#39;apprentissage de parametres d&#39;un reseau de neurones a convolution, et de classification d&#39;une donnee d&#39;entree
FR3101715A1 (fr) Procédé et système multimodal d’identification d’objets
EP4078416B1 (fr) Procédé de contrôle d&#39;un système électronique par compteurs de performance bas niveaux et comprenant au moins un ensemble d&#39;applicatif(s) logiciels non maîtrisés s&#39;exécutant sur un processeur et un dispositif de contrôle
EP3038007B1 (fr) Procédé de mise en oeuvre d&#39;un algorithme de détermination de sûreté de fichiers informatiques, module de détermination, procédé de construction d&#39;une unité de contrôle et produit programme d&#39;ordinateur associés
Aruna et al. Byte Segmented Convolutional Neural Network for Network Traffic Classification
EP4432175A1 (fr) Procédé de paramétrage d&#39;une chaîne de traitement de données
WO2023180257A1 (fr) Procédé et dispositif d&#39;entraînement d&#39;une structure de neurones artificiels et programme d&#39;ordinateur associé
Othman et al. Insuring android software security with a machine learning approach for better malware detection
Iliadis Advancements in Machine Learning Techniques for Detecting Structured Query Language Injection Attacks–a Systematic Literature Review
WO2024003016A1 (fr) Procédé et dispositif d&#39;estimation de l&#39;authenticité d&#39;un contenu audio ou vidéo et programme d&#39;ordinateur associé
EP4538933A1 (fr) Procédé de compilation d&#39;un réseau de neurones artificiels entraîné

Legal Events

Date Code Title Description
STAA Information on the status of an ep patent application or granted ep patent

Free format text: STATUS: UNKNOWN

STAA Information on the status of an ep patent application or granted ep patent

Free format text: STATUS: THE INTERNATIONAL PUBLICATION HAS BEEN MADE

PUAI Public reference made under article 153(3) epc to a published international application that has entered the european phase

Free format text: ORIGINAL CODE: 0009012

STAA Information on the status of an ep patent application or granted ep patent

Free format text: STATUS: REQUEST FOR EXAMINATION WAS MADE

17P Request for examination filed

Effective date: 20210624

AK Designated contracting states

Kind code of ref document: A1

Designated state(s): AL AT BE BG CH CY CZ DE DK EE ES FI FR GB GR HR HU IE IS IT LI LT LU LV MC MK MT NL NO PL PT RO RS SE SI SK SM TR

DAV Request for validation of the european patent (deleted)
DAX Request for extension of the european patent (deleted)
P01 Opt-out of the competence of the unified patent court (upc) registered

Effective date: 20230516

STAA Information on the status of an ep patent application or granted ep patent

Free format text: STATUS: EXAMINATION IS IN PROGRESS

17Q First examination report despatched

Effective date: 20240820