EP3040910A1 - Procédé de classification d'un document à partir de son aspect visuel - Google Patents

Procédé de classification d'un document à partir de son aspect visuel Download PDF

Info

Publication number
EP3040910A1
EP3040910A1 EP15200541.9A EP15200541A EP3040910A1 EP 3040910 A1 EP3040910 A1 EP 3040910A1 EP 15200541 A EP15200541 A EP 15200541A EP 3040910 A1 EP3040910 A1 EP 3040910A1
Authority
EP
European Patent Office
Prior art keywords
interest
point
image
document
visual word
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
EP15200541.9A
Other languages
German (de)
English (en)
Other versions
EP3040910B1 (fr
Inventor
Jérôme BERGER
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Sagemcom Documents SAS
Original Assignee
Sagemcom Documents SAS
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Sagemcom Documents SAS filed Critical Sagemcom Documents SAS
Publication of EP3040910A1 publication Critical patent/EP3040910A1/fr
Application granted granted Critical
Publication of EP3040910B1 publication Critical patent/EP3040910B1/fr
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V10/00Arrangements for image or video recognition or understanding
    • G06V10/40Extraction of image or video features
    • G06V10/46Descriptors for shape, contour or point-related descriptors, e.g. scale invariant feature transform [SIFT] or bags of words [BoW]; Salient regional features
    • G06V10/462Salient features, e.g. scale invariant feature transforms [SIFT]
    • G06V10/464Salient features, e.g. scale invariant feature transforms [SIFT] using a plurality of salient features, e.g. bag-of-words [BoW] representations
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V10/00Arrangements for image or video recognition or understanding
    • G06V10/70Arrangements for image or video recognition or understanding using pattern recognition or machine learning
    • G06V10/768Arrangements for image or video recognition or understanding using pattern recognition or machine learning using context analysis, e.g. recognition aided by known co-occurring patterns

Definitions

  • the present invention relates to a method and a device for classifying a document from its visual aspect.
  • Orthogonal sparse bigrams consider all pairs of words spaced by less than a predetermined number of words.
  • Orthogonal sparse bigrams like sparse binary hash polynomials, are only used to structure text words only.
  • the present invention aims to solve the disadvantages of the prior art by proposing a method and a device for classifying a document from its visual appearance on scanned documents in the form of an image and which does not require when text is used for the classification of the document, character recognition prior to filing the document.
  • the present invention applies equally to documents comprising text as to documents which contain only images or photos.
  • the present invention makes it possible to use hash polynomials, such as sparse binary polynomials, without it being necessary to carry out a character recognition prior to the classification of the document.
  • a hash polynomial is a bigram.
  • the context further comprises a spacing which specifies the number of intermediate words present between the anchor point and the second visual word.
  • orthogonal sparse bigrams With such hash polynomials called orthogonal sparse bigrams, the computational complexity of classifying a document is reduced.
  • each vector representative of the shape of the image is determined from a circular neighborhood around each point of interest.
  • the circular neighborhood comprises two circles, the circle having the smallest radius having four zones and the spacing between the circles comprising eight zones, the twelve zones having a substantially identical surface.
  • the computational cost is reduced compared to an analysis taking into account all the pixels of the neighborhood independently without grouping them into zones.
  • the coordinates of each vector representative of the shape of the image are obtained from a gradient vector of the point of interest and the average of the gradient vectors in each zone of the circular neighborhood of the point of interest.
  • the extraction of the points of interest is carried out by calculating for each pixel partial second derivatives, by calculating the determinant of the Hessian matrix and in that the points of interest correspond to the local maxima. determinants of the Hessian matrix.
  • the derivatives are calculated from integral images.
  • the invention also relates to computer programs stored on an information medium, said programs comprising instructions for putting implement the methods previously described, when they are loaded and executed by a computer system.
  • the Fig. 1 represents a document classification device according to the present invention.
  • the processor 100 is capable of executing instructions loaded into the volatile memory 103 from the non-volatile memory 102, an external memory (not shown), a storage medium, such as an SD card or other , or a communication network.
  • the processor 100 is capable of reading volatile memory 103 from the instructions and executing them.
  • These instructions form a computer program which causes the processor 100 to implement all or part of the method described in connection with the Fig. 2 .
  • All or part of the process described in relation to the Fig. 2 can be implemented in software by executing a set of instructions for a programmable machine, such as a DSP (Digital Signal Processor in English or Digital Signal Processing Unit in French) or a microcontroller or be implemented in hardware by a machine or a dedicated component, such as an FPGA (Field-Programmable Gate Array in English or Field Programmable Gate Array on the Ground in French) or an ASIC (application-specific integrated circuit in English or Specific Integrated Circuit to Application in French).
  • a programmable machine such as a DSP (Digital Signal Processor in English or Digital Signal Processing Unit in French) or a microcontroller or be implemented in hardware by a machine or a dedicated component, such as an FPGA (Field-Programmable Gate Array in English or Field Programmable Gate Array on the Ground in French) or an ASIC (application-specific integrated circuit in English or Specific Integrated Circuit to Application in French).
  • a programmable machine such as a DSP (Digital Signal Processor in English or
  • the Fig. 2 represents a document classification algorithm according to the present invention.
  • the present algorithm is executed by the processor 100 of the document classification device 10.
  • step E20 the processor 100 extracts points of interest in the digitized document consisting of a set of pixels to be processed.
  • a point of interest is a position in the image, usually represented by a pair of coordinates such as a line and a column.
  • the processor 100 identifies the points in the image consisting of pixels that are likely to be recognized in other documents to be processed. For example and in a nonlimiting manner, the processor 100 uses an operator of Harris and M Stephens entitled “A combined corner and edge detector” published in “Proceedings of the fourth" Alvey vision conference, 1998 pages 147 to 152 or a detector as described in the patent US6711293 "A method and apparatus for identifying an object in the field of an object in the image” or in a point of interest detector as described in the publication entitled “Distinctive image features from scale invariant keypoints” and published in the journal "Int. J. Comput. Vision t, 60, number 2, ISSN 0920 5691 pages 91 to 110 in November 2004 or a point of interest detector as described in the patent US 8165401 entitled “Robust interest point detector and descriptor”.
  • the processor 100 uses, for each pixel, the partial second derivatives D xx , D yy , D xy by filtering the original image I with the nuclei as for example described with reference to FIG. Fig. 3 .
  • Figs. 3 represent an example of cores used for calculating partial derivatives to extract points of interest from an image to be processed according to a particular embodiment of the present invention.
  • the Fig. 3a represents the kernels used to calculate the partial second derivative D xx for the pixel in the center of the kernel.
  • the values 1 and -2 represent the values of coefficients applied to the values of the pixels of the nucleus placed at the corresponding position.
  • the Fig. 3b represents the nuclei used to calculate the partial second derivative D yy for the pixel in the center of the nucleus.
  • the values 1 and -2 represent the values of coefficients applied to the values of the pixels of the nucleus placed at the corresponding position.
  • the values of these pixels are multiplied by the coefficient -2.
  • the Fig. 3c represents the nuclei used to calculate the partial second derivative D xy for the pixel in the center of the nucleus.
  • the values 1 and -1 represent the values of coefficients applied to the values of the pixels of the nucleus placed at the corresponding position.
  • the processor 100 calculates, prior to the step E20, an integral image of the entire document and uses this integral image to calculate the sum of the pixels of each area 301, 302, 303, 311, 312, 313, 321, 322, 323 and 324.
  • the integral image of an image is a representation in the form of a digital image that can quickly calculate sums of values in rectangular areas.
  • the points of interest correspond to the local maxima of the determinant of the Hessian matrix.
  • a local maximum is defined as a point such that the determinant of the Hessian matrix at this point is greater than the determinant of the Hessian matrix of each point of the neighborhood.
  • ( l m , c m ) are the coordinates of a local maximum if det (H approx ( l m , c m ))> det (H approx ( l , c )) for any point ( l , c ) of the neighborhood such that l m -S ⁇ l ⁇ l m + S , c m -S ⁇ c ⁇ c m + S and ( l , c ) ⁇ ( l m , c m ).
  • the processor 100 then retains only the points of interest whose determinant of the Hessian matrix is greater than a predetermined threshold, H min .
  • H min H min M 2 in which H min is equal for example to 4 and M is the maximum value that can be taken by a pixel of the image, for example, 1, 255 or 65535.
  • the processor 100 retains only the N points of interest whose determinant of the Hessian matrix is the largest.
  • N is between 100 and 1000.
  • the processor 100 makes a description of the points of interest.
  • the processor 100 associates a descriptor with each point of interest.
  • the descriptor is a vector of characteristics representative of the visual aspect of the point.
  • the descriptor is subsequently called the characteristic vector.
  • a characteristic vector is a set of measurements made in the vicinity of a point of interest. Each point of interest has a unique characteristic vector, but the same characteristic vector can describe several points of interest if the measurements of their neighborhoods are identical.
  • a characteristic vector may also be representative of no observed points of interest. For example, the position of a node in the adaptive neural gas method described later is a feature vector that is initialized from a measured but evolving point of interest.
  • a characteristic vector is represented by a list of numerical values comprising for example 24 values.
  • the descriptor is for example constructed so that points of similar aspects have similar descriptors, even if the conditions of brightness, contrast, orientation or size change.
  • the processor uses for this the method as described in the patent US6711293 "Method and apparatus for identifying an invariant scale in an image and the use of an object in an image” or in the publication entitled “Distinctive image features from scale invariant keypoints” and published in the journal "Int. J. Comput. Vision, "t. 60, No. 2, ISSN 0920 5691, pages 91 to 110 in November 2004 or in the patent US 8165401 entitled "Robust interest point detector and descriptor".
  • the processor 100 calculates, for each point of interest, a coordinate gradient vector D x and D y corresponding to the horizontal and vertical partial derivatives from the nuclei as represented in FIG. Fig. 4 .
  • Figs. 4 represent an example of cores used for calculating partial derivatives to describe the points of interest of an image to be processed according to a particular embodiment of the present invention.
  • the Fig. 4a represents the nuclei used to calculate the partial derivative D x for the pixel in the center of the nucleus.
  • the values 1 and -1 represent the values of coefficients applied to the values of the pixels of the nucleus placed at the corresponding position.
  • the values of these pixels are multiplied by the coefficient -1.
  • the Fig. 4b represents the nuclei used to calculate the partial derivative D y for the pixel in the center of the nucleus.
  • the values 1 and -1 represent the values of coefficients applied to the values of the pixels of the nucleus placed at the corresponding position.
  • the calculated gradients the processor 100 cuts a circular neighborhood around each point of interest aligned with the gradient vector of the point of interest.
  • FIG. 5 An example of a circular neighborhood is given in Fig. 5 .
  • the Fig. 5a represents an example of a circular neighborhood used for the description of each point of interest.
  • the Fig. 5a represents a circular neighborhood consisting of twelve zones denoted 1 to 12. The center of the neighborhood is placed on the point of interest.
  • the radius of the circle noted 51 is four pixels and the radius of the circle noted 50 is seven pixels.
  • the processor 100 calculates the average of the gradient vector and projects it into the local coordinate system thereof.
  • D x r D there r ⁇ is the gradient vector of the point of interest
  • D ⁇ x ⁇ D ⁇ there ⁇ ⁇ is the average of the gradients vectors of the pixels of the zone i of the circular neighborhood of the point of interest
  • D x ⁇ ⁇ , D there ⁇ ⁇ ⁇ the projected vector is defined by:
  • the circular neighborhood could include a different number of circles and a different number of areas.
  • the circular neighborhood consists of the single circle 51, the circle 51 being divided into four zones of identical sizes and shapes (here the zones 0, 1, 2 and 3).
  • a number greater than one of circles centered on the point of interest is used, the radii of each circle and the number of areas being chosen so that the areas have an identical surface area.
  • a third circle having twelve zones is added to the circles 50 and 51, the third circle having a radius twice the radius of the circle 50.
  • the circle 50 has six zones. In the case, the radius of the circle 50 is equal to the radius of the circle 51 multiplied by 5 / 2 .
  • the Fig. 5b represents an image portion in the vicinity of a point of interest to which the circular neighborhood is superimposed.
  • the Fig. 6 show two examples which show that the characteristic vector is representative of the patterns present in the vicinity of the point of interest.
  • the characteristic vector F r is insensitive to orientation, brightness and contrast after normalization to a vector F. Normalization consists in dividing a vector by its length, that is to divide each coordinate of the vector by the square root of the sum of the squares of the vector coordinates.
  • the orientation of the circular neighborhood corresponds to the orientation of the vector F.
  • the processor 100 classifies the points of interest, that is to say that it associates with each point of interest, an identifier so that the points of interest that have vectors Similar features are associated with the same identifier and the points of interest that have very different feature vectors are associated with distinct identifiers.
  • the processor 100 can use a coalescence method (" k- means" in English).
  • the processor 100 uses an adaptive neural gas ("ANG") method as described in the patent FR 2 984 541 .
  • the processor 100 is a list of nodes, each node consisting of an identifier called "visual word", a position in the feature space and an age. The processor 100 then selects the identifier of the node whose position is closest to the characteristic vector F sought.
  • ANG adaptive neural gas
  • a visual word is an abstract identifier that represents a set of characteristic vectors close to each other. Each characteristic vector is represented by a single visual word and therefore each point of interest is an instance of a single visual word. Each visual word can be present several times in the image if it represents the characteristic vectors of several distinct points of interest. A visual word is usually represented by an integer.
  • a node is a structure used by the adaptive neural gas method to associate additional information with a visual word. When using the adaptive neural gas method, there is exactly one node per visual word. There may be no nodes if another method of classification is used.
  • a node consists of a visual word (integer), a position (characteristic vector) and an age (positive integer).
  • the processor 100 determines a visual word for each extracted point of interest, the visual word is determined from the characteristic vector so that close characteristic vectors are associated with the same visual word,
  • the processor 100 classifies each characteristic vector F.
  • the processor 100 searches for the node whose position is closest to F. If the distance between F and the position of the nearest node is greater than D, F corresponds to an unknown visual word. It should be noted here that this case can not occur if learning is done on the fly. Indeed, if F is too far from the positions of the nodes that existed before learning, then the processor 100 creates a new visual word and adds a new node whose position is equal to F. If the distance between F and the position of the node the nearest is less than D, F is a representation of the visual word of the nearest node.
  • each hash polynomial comprises at least one visual word that serves as anchor point of the hash polynomial and a context consisting of at least one second visual word representative of a position in a sorted list of visual words.
  • the processor 100 determines, for each point of interest, an orthogonal sparse bigram.
  • An orthogonal sparse bigram consists of three elements. A first word that serves as anchor to the bigram, a second word that specifies the context of the bigram and a distance that specifies the number of intermediate words present between the anchor point and the context.
  • an orthogonal sparse bigram consists of two elements. A first word that serves as anchor to the bigram and a second word that specifies the context of the bigram.
  • the processor 100 determines for each visual word present in the document and obtained in the previous step, a number NB of orthogonal sparse bigrams. For example, NB is equal to 6.
  • the processor 100 determines, for each visual word present in the document and obtained in the preceding step, the orthogonal sparse bigrams that have a spacing less than a predetermined threshold ⁇ , for example equal to 5% of the width of the processed image.
  • the Fig. 7 is an example of an image with three visual words.
  • the image of the Fig. 7 has three visual words denoted w 0 , w 1 , and w 2 .
  • the processor constructs six orthogonal sparse bigrams ( w 0 , w 1 , 0), ( w 0 , w 2 , 1), ( w 1 , w 2 , 0), ( w 1 , w 0 , 1), ( w 2 , w 1 , 0) and ( w 2 , w 1 , 1).
  • the processor 100 classifies the document from a score determined from the hash polynomials.
  • the processor 100 uses the classification method, known as the Winnow method, as described in the publication by C. Siefkes, F Assis, S Chhabra and WS Yerazunis entitled “Combining winnow and orthogonal sparse bigrams for incremental spam filtering ".
  • the Winnow method is a non-probabilistic statistical method which consists in determining a list of weights w cp ( w 0 , w 1 , s ) for each class cp and each orthogonal sparse bigram ( w 0 , w 1 , s ) and to calculate a score ⁇ cp ( D c ) for the document D c and for the class cp based on the average weight of the orthogonal sparse bigrams present in the document D c .
  • Winnow method applied here to orthogonal sparse bigrams, is applicable to any type of hash polynomial. Indeed, the computation of a score by the Winnow method does not use any specificity of orthogonal sparse bigrams compared to the hash polynomials, but only takes into account their presence or absence in the document.
  • the processor 100 then considers that the document belongs to the class cp if its score is greater than a predetermined threshold ⁇ , for example equal to one.
  • Classification requires prior or on-the-fly learning to learn the weights of orthogonal sparse bigrams for each class.
  • the weights are initialized to the value 1, then updated each time the classification, detected by a human, is wrong. If a document D c belongs to a class cp and its score is lower than the predetermined threshold ⁇ , the weights of the orthogonal sparse bigrams of the document D c are multiplied by a promotion factor ⁇ greater than unity. If a document D c does not belong to a class cp and its score is greater than the predetermined threshold ⁇ , the weights of the orthogonal sparse bigrams of the document D c are multiplied by a retrograde factor ⁇ less than unity.
  • the processor 100 instead of using a predetermined threshold ⁇ , uses two predetermined thresholds ⁇ - and ⁇ + , and considers that the scores between these two thresholds were an error regardless of the class expected.
  • is equal to 1.23
  • is equal to 0.83
  • ⁇ - is equal to 0.95
  • ⁇ + is equal to 1.05.
  • the present invention is described in an example where the document to be classified is a grayscale document.
  • the present invention also finds application in an example where the document to be classified is a document in color.
  • the method is applied independently on each component of the color image and by grouping the visual words of all components to generate orthogonal sparse bigrams and classify the document.
  • the present invention is described in an example in which orthogonal sparse bigrams are used. It is easy to transpose the present invention in the context of sparse binary chopping polynomials.
  • the processor 100 uses the sorted list of neighboring visual words to construct sparse binary hash polynomials.
  • a sparse binary hash polynomial consists of two elements.
  • the processor 100 determines twelve sparse bit hash polynomials: ( w 0 , _, _), ( w 0 , w 1 , _), ( w 0 , _ , w 2 ), (w 0 , w 1 , w 2 ), ( w 1 , _, _), ( w 1 , _, _), ( w 1 , _, w 0 ), ( w 1 , w 2 , w 0 ), ( w 2 , _, _) , ( w 2 , w 1 , _), ( w 2 , _, w 0 ) and ( w 2 , w 1 , w 0 ).

Landscapes

  • Engineering & Computer Science (AREA)
  • Theoretical Computer Science (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Multimedia (AREA)
  • Computing Systems (AREA)
  • Artificial Intelligence (AREA)
  • Health & Medical Sciences (AREA)
  • Databases & Information Systems (AREA)
  • Evolutionary Computation (AREA)
  • General Health & Medical Sciences (AREA)
  • Medical Informatics (AREA)
  • Software Systems (AREA)
  • Image Analysis (AREA)
  • Information Retrieval, Db Structures And Fs Structures Therefor (AREA)

Abstract

L'invention concerne un procédé de classification d'un document à partir de son aspect visuel, le document étant sous la forme d'une image constituée de pixels, caractérisé en ce que le procédé comporte les étapes de : - extraction (E20) de points d'intérêt dans l'image, - description (E21) de chaque point d'intérêt extrait à l'aide d'un vecteur représentatif de la forme de l'image dans un voisinage du point d'intérêt, - détermination (E22) d'un mot visuel pour chaque point d'intérêt extrait, le mot visuel étant déterminé à partir du vecteur caractéristique de telle sorte que des vecteurs caractéristiques proches sont associés au même mot visuel, - détermination (E24) d'un ou plusieurs polynômes de hachage pour chaque point d'intérêt, chaque polynôme de hachage comportant au moins un mot visuel qui sert de point d'ancrage du polynôme de hachage et un contexte constitué d'au moins un second mot visuel représentatif d'une position dans une liste triée de mots visuels, - classification (E25) du document à partir d'un score déterminé à partir des polynômes de hachage.

Description

  • La présente invention concerne un procédé et un dispositif de classification d'un document à partir de son aspect visuel.
  • Historiquement, les méthodes de classification de documents par leur contenu reposent souvent sur des principes de sacs de mots.
  • Le principe du sac de mots présente l'avantage d'être conceptuellement simple et raisonnablement peu coûteux à implémenter tout en donnant des résultats exploitables.
  • Cependant, ce principe présente un inconvénient majeur car il ne prend pas en compte les relations spatiales entre les mots. Le principe du sac de mots ne fait pas la différence entre un ensemble de mots groupés dans un coin d'un document et les mêmes mots répartis dans le document.
  • Ces mots, situés dans un coin d'un document peuvent représenter un logo ou une marque alors que lorsqu'ils sont répartis dans le document, ils ne sont pas représentatifs de la marque ou du logo. Leur présence dans le document n'est que fortuite. Une classification de document basée sur ce principe est alors soumise à de multiples erreurs dans le classement de documents.
  • D'autres méthodes de classification de documents reposent sur une étape préalable de reconnaissance de caractères suivie de l'utilisation d'une méthode connue de reconnaissance de documents texte. Ces méthodes présentent l'inconvénient de nécessiter une étape préalable coûteuse de reconnaissance de caractères, et présentent en outre l'inconvénient de s'appliquer uniquement aux documents composés principalement de texte.
  • La publication de C. Siefkes, F Assis, S Chhabra et W.S Yerazunis intitulée « Combining winnow and orthogonal sparse bigrams for incremental spam filtering » publiée dans « Proceedings of ECML/PKDD, LNCS, Springer Verlag, 2004 », pages 410 à 420 propose deux méthodes de classification de documents texte. La première méthode utilise les polynômes de hachage binaires clairsemés, en anglais « Sparse Binary Polynomial Hashing », qui considèrent toutes les combinaisons de NN mots ou moins et préservant l'ordre du texte original. La seconde méthode utilise les bigrammes clairsemés orthogonaux, en anglais « Orthogonal Sparse Bigram ».
  • L'utilisation d'un sac de polynômes de hachage binaires clairsemés améliore la classification mais augmente sensiblement le coût de traitement.
  • L'utilisation d'un sac de bigrammes clairsemés orthogonaux donne des résultats comparables à la première méthode pour la classification de documents texte avec un coût bien moindre.
  • Les bigrammes clairsemés orthogonaux considèrent toutes les paires de mots espacés de moins d'un nombre prédéterminé de mots.
  • Les bigrammes clairsemés orthogonaux, comme les polynômes de hachage binaires clairsemés, ne sont utilisés que pour structurer des mots de texte seulement.
  • La présente invention a pour but de résoudre les inconvénients de l'art antérieur en proposant un procédé et un dispositif de classification d'un document à partir de son aspect visuel sur des documents numérisés sous la forme d'une image et qui ne nécessite pas, lorsque du texte est utilisé pour la classification du document, de reconnaissance de caractère préalablement au classement du document. En outre, la présente invention s'applique aussi bien aux documents comportant du texte qu'aux documents qui ne comportent que des images ou des photos.
  • A cette fin, selon un premier aspect, l'invention propose un procédé de classification d'un document à partir de son aspect visuel, le document étant sous la forme d'une image constituée de pixels, caractérisé en ce que le procédé comporte les étapes de :
    • extraction de points d'intérêt dans l'image,
    • description de chaque point d'intérêt extrait à l'aide d'un vecteur représentatif de la forme de l'image dans un voisinage du point d'intérêt,
    • détermination d'un mot visuel pour chaque point d'intérêt extrait, le mot visuel étant déterminé à partir du vecteur caractéristique de telle sorte que des vecteurs caractéristique proches sont associés au même mot visuel,
    • détermination d'un ou plusieurs polynômes de hachage pour chaque point d'intérêt, chaque polynôme de hachage comportant au moins un mot visuel qui sert de point d'ancrage du polynôme de hachage et un contexte constitué d'au moins un second mot visuel représentatif d'une position dans une liste triée de mots visuels,
    • classification du document à partir d'un score déterminé à partir des polynômes de hachage.
  • La présente invention concerne aussi un dispositif de classification d'un document à partir de son aspect visuel, le document étant sous la forme d'une image constituée de pixels, caractérisé en ce que le dispositif comporte :
    • des moyens d'extraction de points d'intérêt dans l'image,
    • des moyens de description de chaque point d'intérêt extrait à l'aide d'un vecteur représentatif de la forme de l'image dans un voisinage du point d'intérêt,
    • des moyens de détermination d'un mot visuel pour chaque point d'intérêt extrait, le mot visuel étant déterminé à partir du vecteur caractéristique de telle sorte que des vecteurs caractéristiques proches sont associés au même mot visuel,
    • des moyens de détermination d'un ou plusieurs polynômes de hachage pour chaque point d'intérêt, chaque polynôme de hachage comportant au moins un mot visuel qui sert de point d'ancrage du polynôme de hachage et un contexte constitué d'au moins un second mot visuel représentatif d'une position dans une liste triée de mots visuels,
    • des moyens de classification du document à partir d'un score déterminé à partir des polynômes de hachage.
  • Ainsi, il est possible de classer un document à partir de son aspect visuel sans qu'il soit nécessaire d'effectuer une reconnaissance de caractère préalablement au classement du document.
  • La présente invention permet d'utiliser des polynômes de hachage, tels que des polynômes binaires clairsemés sans qu'il ne soit nécessaire d'effectuer une reconnaissance de caractères préalablement au classement du document.
  • Selon un mode particulier de l'invention, un polynôme de hachage est un bigramme.
  • Selon un mode particulier de l'invention, le contexte comporte en outre un écartement qui précise le nombre de mots intermédiaires présents entre le point d'ancrage et le second mot visuel.
  • Avec de tels polynômes de hachage appelés bigrammes clairsemés orthogonaux, la complexité, en terme calculatoire, d'un classement d'un document est réduite.
  • Selon un mode particulier de l'invention, chaque vecteur représentatif de la forme de l'image est déterminé à partir d'un voisinage circulaire autour de chaque point d'intérêt.
  • Ainsi, l'utilisation d'un voisinage circulaire permet d'obtenir une meilleure anisotropie.
  • Selon un mode particulier de l'invention, le voisinage circulaire comporte deux cercles, le cercle ayant le plus petit rayon comportant quatre zones et l'espacement entre les cercles comportant huit zones, les douze zones ayant une surface sensiblement identique.
  • Ainsi, le coût calculatoire est réduit par rapport à une analyse tenant compte de tous les pixels du voisinage indépendamment sans les regrouper en zones.
  • Selon un mode particulier de l'invention, les coordonnées de chaque vecteur représentatif de la forme de l'image sont obtenues à partir d'un vecteur gradient du point d'intérêt et de la moyenne des vecteurs gradients dans chaque zone du voisinage circulaire du point d'intérêt.
  • Ainsi, la forme de l'image au voisinage du point est bien représentée.
  • Selon un mode particulier de l'invention, l'extraction des points d'intérêt est effectuée en calculant pour chaque pixel des dérivées secondes partielles, en calculant le déterminant de la matrice hessienne et en ce que les points d'intérêt correspondent aux maxima locaux des déterminants de la matrice hessienne.
  • Ainsi, le coût calculatoire est réduit.
  • Selon un mode particulier de l'invention, les dérivées sont calculées à partir d'images intégrales.
  • Ainsi, le coût calculatoire est réduit.
  • L'invention concerne aussi les programmes d'ordinateur stockés sur un support d'informations, lesdits programmes comportant des instructions permettant de mettre en oeuvre les procédés précédemment décrits, lorsqu'ils sont chargés et exécutés par un système informatique.
  • Les caractéristiques de l'invention mentionnées ci-dessus, ainsi que d'autres, apparaîtront plus clairement à la lecture de la description suivante d'un exemple de réalisation, ladite description étant faite en relation avec les dessins joints, parmi lesquels :
    • la Fig. 1 représente un dispositif de classification de documents selon la présente invention ;
    • la Fig. 2 représente un algorithme de classification de documents selon la présente invention ;
    • les Figs. 3 représentent un exemple de noyaux utilisés pour le calcul de dérivées partielles pour extraire les points d'intérêt d'images à traiter selon un mode particulier de réalisation de la présente invention ;
    • les Figs. 4 représentent un exemple de noyaux utilisés pour le calcul de dérivées partielles pour décrire les points d'intérêt de l'image à traiter selon un mode particulier de réalisation de la présente invention ;
    • la Fig. 5a représente un exemple de voisinage circulaire utilisé pour la description de chaque point d'intérêt ;
    • la fig. 5b représente une portion d'image dans le voisinage d'un point d'intérêt à laquelle le voisinage circulaire est superposé ;
    • la Fig. 6 est un exemple qui montre que le vecteur caractéristique est représentatif des motifs présents au voisinage du point d'intérêt ;
    • la Fig. 7 est un exemple d'image comprenant trois mots visuels.
  • La Fig. 1 représente un dispositif de classification de documents selon la présente invention.
  • Le dispositif de classification de documents 10 comprend :
    • un processeur, micro-processeur, ou microcontrôleur 100 ;
    • une mémoire volatile 103 ;
    • une mémoire non volatile 102 ;
    • éventuellement, un lecteur 104 de medium de stockage, tel qu'un lecteur de carte SD (Secure Digital Card en anglais ou Carte Numérique Sécurisée en français) ou un disque dur pour mémoriser les documents traités par la présente invention ;
    • une interface 105 avec un réseau de communication, comme par exemple un réseau local ou Internet par laquelle les documents traités par le dispositif de classification de documents 10 sont reçus et transférés à des moyens de stockage.
    • un bus de communication reliant le processeur 100 à la mémoire ROM 103, à la mémoire RAM 103, au lecteur de médium de stockage 104 et à l'interface 105.
  • Le processeur 100 est capable d'exécuter des instructions chargées dans la mémoire volatile 103 à partir de la mémoire non volatile 102, d'une mémoire externe (non représentée), d'un support de stockage, tel qu'une carte SD ou autre, ou d'un réseau de communication. Lorsque le dispositif de classification de documents 10 est mis sous tension, le processeur 100 est capable de lire de la mémoire volatile 103 des instructions et de les exécuter. Ces instructions forment un programme d'ordinateur qui cause la mise en oeuvre, par le processeur 100, de tout ou partie du procédé décrit en relation avec la Fig. 2.
  • Tout ou partie du procédé décrit en relation avec la Fig. 2 peut être implémenté sous forme logicielle par exécution d'un ensemble d'instructions par une machine programmable, telle qu'un DSP (Digital Signal Processor en anglais ou Unité de Traitement de Signal Numérique en français) ou un microcontrôleur ou être implémenté sous forme matérielle par une machine ou un composant dédié, tel qu'un FPGA (Field-Programmable Gate Array en anglais ou Matrice de Portes Programmable sur le Terrain en français) ou un ASIC (Application-Specific Integrated Circuit en anglais ou Circuit Intégré Spécifique à une Application en français).
  • La Fig. 2 représente un algorithme de classification de documents selon la présente invention.
  • Plus précisément, le présent algorithme est exécuté par le processeur 100 du dispositif de classification de documents 10.
  • A l'étape E20, le processeur 100 extrait des points d'intérêt dans le document numérisé constitué d'un ensemble de pixels à traiter.
  • Un point d'intérêt est une position dans l'image, représentée généralement par une paire de coordonnées telles qu'une ligne et une colonne.
  • Pour cela, le processeur 100 identifie les points dans l'image constituée de pixels qui sont susceptibles d'être reconnus dans d'autres documents à traiter. Par exemple et de manière non limitative, le processeur 100 utilise un opérateur de Harris et M Stephens intitulé « A combined corner and edge detector » publié dans «proceedings of the fourth Alvey vision conference », 1998 pages 147 à 152 ou un détecteur tel que décrit dans le brevet US6711293 « Method and apparatus for identifying scale invariant features in an image and use of same for locating an object in an image » ou dans un détecteur de points d'intérêt tel que décrit dans la publication intitulée « Distinctive image features from scale invariant keypoints » et publiée dans la revue « Int. J. Comput. Vision t, 60, numéro 2, ISSN 0920 5691 pages 91 à 110 en novembre 2004 ou un détecteur de points d'intérêt tel que décrit dans le brevet US 8165401 intitulé « Robust interest point detector and descriptor ».
  • Préférentiellement, le processeur 100 utilise, pour chaque pixel les dérivées secondes partielles Dxx, Dyy , Dxy en filtrant l'image originale I avec les noyaux tels que par exemple décrits en référence à la Fig. 3.
  • Les Figs. 3 représentent un exemple de noyaux utilisés pour le calcul de dérivées partielles pour extraire les points d'intérêt d'une image à traiter selon un mode particulier de réalisation de la présente invention.
  • La Fig. 3a représente les noyaux utilisés pour calculer la dérivée seconde partielle Dxx pour le pixel au centre du noyau.
  • Les valeurs 1 et -2 représentent les valeurs de coefficients appliqués aux valeurs des pixels du noyau placés à la position correspondante.
  • Pour l'ensemble des pixels compris dans la zone notée 301, les valeurs de ces pixels sont multipliées par le coefficient 1.
  • Pour l'ensemble des pixels compris dans la zone notée 302, les valeurs de ces pixels sont multipliées par le coefficient 1.
  • Pour l'ensemble des pixels compris dans la zone notée 303, les valeurs de ces pixels sont multipliées par le coefficient -2.
  • La Fig. 3b représente les noyaux utilisés pour calculer la dérivée seconde partielle Dyy pour le pixel au centre du noyau.
  • Les valeurs 1 et -2 représentent les valeurs de coefficients appliqués aux valeurs des pixels du noyau placés à la position correspondante.
  • Pour l'ensemble des pixels compris dans la zone notée 311, les valeurs de ces pixels sont multipliées par le coefficient 1.
  • Pour l'ensemble des pixels compris dans la zone notée 312, les valeurs de ces pixels sont multipliées par le coefficient -2.
  • Pour l'ensemble des pixels compris dans la zone notée 313, les valeurs de ces pixels sont multipliées par le coefficient 1.
  • La Fig. 3c représente les noyaux utilisés pour calculer la dérivée seconde partielle Dxy pour le pixel au centre du noyau.
  • Les valeurs 1 et -1 représentent les valeurs de coefficients appliqués aux valeurs des pixels du noyau placés à la position correspondante.
  • Pour l'ensemble des pixels compris dans la zone notée 321, les valeurs de ces pixels sont multipliées par le coefficient 1.
  • Pour l'ensemble des pixels compris dans la zone notée 322, les valeurs de ces pixels sont multipliées par le coefficient -1.
  • Pour l'ensemble des pixels compris dans la zone notée 323, les valeurs de ces pixels sont multipliées par le coefficient -1.
  • Pour l'ensemble des pixels compris dans la zone notée 324, les valeurs de ces pixels sont multipliées par le coefficient 1.
  • Selon un mode particulier de réalisation, au lieu de traiter chaque pixel des zones 301, 302, 303, 311, 312, 313, 321, 322, 323 et 324, le processeur 100 calcule, préalablement à l'étape E20, une image intégrale du document entier et utilise cette image intégrale pour calculer la somme des pixels de chaque zone 301, 302, 303, 311, 312, 313, 321, 322, 323 et 324.
  • Ceci permet d'accélérer le calcul de la somme des valeurs des pixels dans une zone rectangulaire d'une image.
  • L'image intégrale d'une image est une représentation sous la forme d'une image numérique qui permet de calculer rapidement des sommes de valeurs dans des zones rectangulaires.
  • C'est une représentation sous la forme d'une image, de même taille que l'image d'origine, qui en chacun de ses points contient la somme des pixels situés au-dessus et à gauche de ce point. Grâce à cette représentation sous forme de table de correspondance, la somme des valeurs dans une zone rectangulaire peut être calculée en seulement 4 accès à l'image intégrale et en temps constant quelle que soit la taille de la zone.
  • Cette somme peut se calculer par récurrence, par: s x y = s x , y - 1 + i x y
    Figure imgb0001
    ii x y = ii x - 1 , y + s x y
    Figure imgb0002

    où i(x,y) est un pixel de coordonnées x,y de l'image I, ii(x,y) est le pixel correspondant dans l'image intégrale, s(x,y) est la somme cumulée de la ligne x jusqu'à la colonne y.
  • Le processeur 100 calcule ensuite, pour chaque pixel, le déterminant de la matrice hessienne Happrox selon la formule suivante :
    • Det(Happrox )= DxxDyy-(wDxy) 2w est une constante. Par exemple et de manière à éviter des calculs en virgule flottante, w=29/32.
  • Les points d'intérêt correspondent aux maxima locaux du déterminant de la matrice hessienne. Un maximum local est défini comme un point tel que le déterminant de la matrice hessienne en ce point est supérieur au déterminant de la matrice hessienne de chaque point du voisinage.
  • (lm ,cm ) sont les coordonnées d'un maximum local si det(Happrox(lm , cm ))>det(Happrox(l, c)) pour tout point (l,c) du voisinage tel que lm-S≤l≤lm +S, cm -S≤c≤cm +S et (l, c)(lm , cm ).
  • Par exemple, S=7.
  • Le processeur 100 ne conserve ensuite que les points d'intérêt dont le déterminant de la matrice hessienne est supérieur à un seuil prédéterminé, Hmin . Par exemple Hmin = H minM 2 dans lequel H min est égal par exemple à 4 et M est la valeur maximale pouvant être prise par un pixel de l'image, par exemple, 1, 255 ou 65535.
  • Avantageusement, si le nombre de points d'intérêt dont le déterminant de la matrice hessienne est supérieur au seuil Hmin est plus grand qu'une valeur prédéterminée N, alors le processeur 100 ne conserve que les N points d'intérêts dont le déterminant de la matrice hessienne est le plus grand. Par exemple, N est compris entre 100 et 1000.
  • A l'étape suivante E21, le processeur 100 effectue une description des points d'intérêt. Pour cela, le processeur 100 associe un descripteur à chaque point d'intérêt. Par exemple, le descripteur est un vecteur de caractéristiques représentatives de l'aspect visuel du point. Le descripteur est appelé par la suite vecteur caractéristique.
  • De manière générale, un vecteur caractéristique est un ensemble de mesures effectuées au voisinage d'un point d'intérêt. Chaque point d'intérêt a un unique vecteur caractéristique, mais un même vecteur caractéristique peut décrire plusieurs points d'intérêt si les mesures de leurs voisinages sont identiques. Un vecteur caractéristique peut aussi n'être représentatif d'aucun point d'intérêt observé. Par exemple, la position d'un noeud dans la méthode de gaz neuronal adaptatif décrite ultérieurement est un vecteur caractéristique qui est initialisé à partir d'un point d'intérêt mesuré mais qui évolue. Un vecteur caractéristique est représenté par une liste de valeurs numériques comportant par exemple 24 valeurs.
  • Le descripteur est par exemple construit de manière à ce que des points d'aspects similaires aient des descripteurs proches, même si les conditions de luminosité, de contraste, d'orientation ou de taille changent. Par exemple et de manière non limitative, le processeur utilise pour cela la méthode telle que décrite dans le brevet US6711293 « Method and apparatus for identifying scale invariant features in an image and use of same for locating an object in an image » ou dans la publication intitulée « Distinctive image features from scale invariant keypoints » et publiée dans la revue « Int. J. Comput. Vision », t. 60, numéro 2, ISSN 0920 5691, pages 91 à 110 en novembre 2004 ou dans le brevet US 8165401 intitulé « Robust interest point detector and descriptor ».
  • Préférentiellement, le processeur 100 calcule, pour chaque point d'intérêt, un vecteur gradient de coordonnées Dx et Dy correspondant aux dérivées partielles horizontales et verticales à partir des noyaux tels que représentés en Fig. 4.
  • Les Figs. 4 représentent un exemple de noyaux utilisés pour le calcul de dérivées partielles pour décrire les points d'intérêt d'une image à traiter selon un mode particulier de réalisation de la présente invention.
  • La Fig. 4a représente les noyaux utilisés pour calculer la dérivée partielle Dx pour le pixel au centre du noyau.
  • Les valeurs 1 et -1 représentent les valeurs de coefficients appliqués aux valeurs des pixels du noyau placés à la position correspondante.
  • Pour l'ensemble des pixels compris dans la zone notée 401, les valeurs de ces pixels sont multipliées par le coefficient 1.
  • Pour l'ensemble des pixels compris dans la zone notée 402, les valeurs de ces pixels sont multipliées par le coefficient -1.
  • La Fig. 4b représente les noyaux utilisés pour calculer la dérivée partielle Dy pour le pixel au centre du noyau.
  • Les valeurs 1 et -1 représentent les valeurs de coefficients appliqués aux valeurs des pixels du noyau placés à la position correspondante.
  • Pour l'ensemble des pixels compris dans la zone notée 411, les valeurs de ces pixels sont multipliées par le coefficient -1.
  • Pour l'ensemble des pixels compris dans la zone notée 412, les valeurs de ces pixels sont multipliées par le coefficient 1.
  • Les vecteurs gradients calculés, le processeur 100 découpe un voisinage circulaire autour de chaque point d'intérêt aligné sur le vecteur gradient du point d'intérêt.
  • Un exemple de voisinage circulaire est donné en Fig. 5.
  • La Fig. 5a représente un exemple de voisinage circulaire utilisé pour la description de chaque point d'intérêt.
  • La Fig. 5a représente un voisinage circulaire constitué de douze zones notées 1 à 12. Le centre du voisinage est placé sur le point d'intérêt.
  • Le rayon du cercle noté 51 est de quatre pixels et le rayon du cercle noté 50 est de sept pixels.
  • D'autres valeurs de rayons peuvent être utilisées, préférentiellement les valeurs des rayons des cercles 50 et 51 ont un rapport égal à 3 .
    Figure imgb0003
  • Pour chaque zone du voisinage circulaire, le processeur 100 calcule la moyenne du vecteur gradient et projette celle-ci dans le repère local de celle-ci. D x r D y r
    Figure imgb0004
    est le vecteur gradient du point d'intérêt, D x ι D y ι
    Figure imgb0005
    est la moyenne des vecteurs gradients des pixels de la zone i du voisinage circulaire du point d'intérêt, D x ι ˜ , D y ι ˜
    Figure imgb0006
    le vecteur projeté est défini par : D x ι ˜ = D x ι D x r + D y ι D y r
    Figure imgb0007
    D y ι ˜ = D x ι D y r - D y ι D x r
    Figure imgb0008
  • Le processeur 100 construit ensuite un vecteur caractéristique Fr pour chaque point d'intérêt en concaténant les 12 vecteurs projetés : F r = D x 0 ˜ , D y 0 ˜ , D x 1 ˜ , D y 1 ˜ , , D x 11 ˜ , D y 11 ˜
    Figure imgb0009
  • Dans d'autres modes de réalisation le voisinage circulaire pourrait comprendre un nombre différent de cercles et un nombre différent de zones.
  • Dans un mode de réalisation, le voisinage circulaire est constitué du seul cercle 51, le cercle 51 étant divisé en quatre zones de tailles et formes identiques (ici les zones 0, 1, 2 et 3).
  • Dans d'autres modes de réalisation, un nombre supérieur à un de cercles centrés sur le point d'intérêt sont utilisés, les rayons de chaque cercle et le nombre de zones étant choisi de telle sorte que les zones aient toute une surface identique.
  • Dans un mode de réalisation, un troisième cercle comportant douze zones est ajouté aux cercles 50 et 51, le troisième cercle ayant un rayon deux fois supérieur au rayon du cercle 50.
  • Dans un mode de réalisation, le cercle 50 comporte six zones. Dans le cas, le rayon du cercle 50 est égal au rayon du cercle 51 multiplié par 5 / 2 .
    Figure imgb0010
  • La Fig. 5b représente une portion d'image dans le voisinage d'un point d'intérêt à laquelle le voisinage circulaire est superposé.
  • Les Fig. 6 montrent deux exemples qui montrent que le vecteur caractéristique est représentatif des motifs présents au voisinage du point d'intérêt.
  • Il est à remarquer ici que le vecteur caractéristique Fr est insensible à l'orientation, à la luminosité et au contraste après normalisation en un vecteur F. La normalisation consiste à diviser un vecteur par sa longueur, c'est-à-dire diviser chaque coordonnée du vecteur par la racine carrée de la somme des carrés des coordonnées du vecteur.
  • L'orientation du voisinage circulaire correspond à l'orientation du vecteur F.
  • A l'étape suivante E22, le processeur 100 classifie les points d'intérêt, c'est-à-dire qu'il associe à chaque point d'intérêt, un identifiant de telle sorte que les points d'intérêt qui ont des vecteurs caractéristiques similaires sont associés au même identifiant et que les points d'intérêt qui ont des vecteurs caractéristiques très différents sont associés à des identifiants distincts.
  • Par exemple, le processeur 100 peut utiliser une méthode de coalescence (« k-means » en anglais).
  • Préférentiellement, le processeur 100 utilise une méthode de gaz neuronal adaptatif (« Adaptive Neural Gas » ou « ANG » en anglais) tel que décrit dans le brevet FR 2 984 541 . Pour cela, le processeur 100 constitue une liste de noeuds, chaque noeud étant constitué d'un identifiant appelé « mot visuel », d'une position dans l'espace des caractéristiques et d'un âge. Le processeur 100 sélectionne ensuite l'identifiant du noeud dont la position est la plus proche du vecteur caractéristique F recherché.
  • Un mot visuel est un identifiant abstrait qui représente un ensemble de vecteurs caractéristiques proches les uns des autres. Chaque vecteur caractéristique est représenté par un unique mot visuel et par conséquent chaque point d'intérêt est une instance d'un unique mot visuel. Chaque mot visuel peut être présent plusieurs fois dans l'image s'il représente les vecteurs caractéristiques de plusieurs points d'intérêt distincts. Un mot visuel est généralement représenté par un nombre entier.
  • Un noeud est une structure utilisée par la méthode de gaz neuronal adaptatif pour associer des informations supplémentaires à un mot visuel. Quand on utilise la méthode de gaz neuronal adaptatif, il y a exactement un noeud par mot visuel. Il peut ne pas y avoir de noeuds si on utilise une autre méthode de classification. Un noeud est constitué d'un mot visuel (nombre entier), d'une position (vecteur caractéristique) et d'un âge (entier positif).
  • Le processeur 100 détermine un mot visuel pour chaque point d'intérêt extrait, le mot visuel est déterminé à partir du vecteur caractéristique de telle sorte que des vecteurs caractéristique proches sont associés au même mot visuel,
  • La classification s'effectue à partir des paramètres suivants :
    • ε0, ε1 qui décrivent le taux d'adaptation, 0< ε1< ε0<1, par exemple ε0=0,01 et ε1=0,0001,
    • D qui représente la distance minimale au-delà de laquelle un nouveau noeud est ajouté, D>0, par exemple D=0,2,
    • A qui représente l'âge maximal au-delà duquel un noeud est supprimé, A>0, par exemple A=10000.
  • Un apprentissage effectué préalablement ou à la volée, est effectué. Une liste de noeud vide est initialisée et à chaque échantillon d'apprentissage x(t) , le processeur 100 effectue les opérations suivantes :
    • Le processeur 100 trie la liste des noeuds par ordre croissant de distance avec le nouvel échantillon,
    • Si la liste est vide ou si la distance du nouvel échantillon avec le premier noeud de la liste est supérieure à D, le processeur 100 insère un nouveau noeud au début de la liste triée,
    • Le processeur 100 initialise la position du nouveau noeud à l 0 t = x t ,
      Figure imgb0011
    • Le processeur 100 initialise l'âge du nouveau noeud à a 0 t = 0 ,
      Figure imgb0012
    • Le processeur 100 associe un identifiant unique, égal par exemple au nombre total de noeuds créés jusqu'alors, y compris les noeuds qui ont été supprimés, cet identifiant est le mot visuel associé au noeud,
    • Si la liste n'est pas vide, le processeur 100 réinitialise l'âge du premier noeud de la liste à 0,
    • Le processeur 100 met à jour les positions de tous les noeuds en utilisant la formule suivante : λ t = { 1 si N t = 1 N t - 1 ln ε 0 - ln ε 1 sinon
      Figure imgb0013
      N(t) est le nombre de noeuds dans la liste,
    • Pour chaque i E [0, N (t)[, le processeur 100 remplace la position du noeud i par l i t + 1 = l i t + ε 0 e - i λ t x t l i t ,
      Figure imgb0014
    • Le processeur 100 incrémente l'âge de tous les noeuds de la liste,
    • Le processeur 100 supprime les noeuds dont l'âge est supérieur à A.
  • Le processeur 100 classifie chaque vecteur caractéristique F. Le processeur 100 cherche le noeud dont la position est la plus proche de F. Si la distance entre F et la position du noeud le plus proche est supérieure à D, F correspond à un mot visuel inconnu. Il est à remarquer ici que ce cas ne peut pas se produire si l'apprentissage est effectué à la volée. En effet si F est trop éloigné des positions des noeuds qui existaient avant l'apprentissage, alors le processeur 100 crée un nouveau mot visuel et ajoute un nouveau noeud dont la position est égale à F. Si la distance entre F et la position du noeud le plus proche est inférieure à D, F est une représentation du mot visuel du noeud le plus proche.
  • A l'étape suivante E24, le processeur 100 détermine un ou plusieurs polynômes de hachage pour chaque point d'intérêt, chaque polynôme de hachage comporte au moins un mot visuel qui sert de point d'ancrage du polynôme de hachage et un contexte constitué d'au moins un second mot visuel représentatif d'une position dans une liste triée de mots visuels.
  • Préférentiellement, le processeur 100 détermine, pour chaque point d'intérêt, un bigramme clairsemé orthogonal.
  • Un bigramme clairsemé orthogonal est constitué de trois éléments. Un premier mot qui sert de point d'ancrage au bigramme, un second mot qui précise le contexte du bigramme et un écartement qui précise le nombre de mots intermédiaires présents entre le point d'ancrage et le contexte.
  • En variante, un bigramme clairsemé orthogonal est constitué de deux éléments. Un premier mot qui sert de point d'ancrage au bigramme et un second mot qui précise le contexte du bigramme.
  • Le processeur 100 détermine pour chaque mot visuel présent dans le document et obtenu à l'étape précédente, un nombre NB de bigrammes clairsemés orthogonaux. Par exemple, NB est égal à 6.
  • En variante, le processeur 100 détermine pour chaque mot visuel présent dans le document et obtenu à l'étape précédente, les bigrammes clairsemés orthogonaux qui ont un écartement inférieur à un seuil prédéterminé Δ, par exemple égal à 5% de la largeur de l'image traitée.
  • Pour chaque mot visuel wa , le processeur 100 :
    • trie la liste des autres mots visuels précédemment déterminée par ordre de distance spatiale croissante par rapport à la position du mot visuel wa dans l'image,
    • prend les NB premiers mots visuels de la liste triée et pour chaque mot visuel sélectionné wc , le processeur construit un bigramme clairsemé orthogonal avec wa comme point d'ancrage, wc comme contexte et l'ordre de wc dans la liste triée comme écartement entre wa et wc .
  • La Fig. 7 est un exemple d'image comprenant trois mots visuels.
  • L'image de la Fig. 7 comporte trois mots visuels notés w0 , w1 , et w2 . Le processeur construit six bigrammes clairsemés orthogonaux (w0 , w1 , 0), (w0 , w2 , 1), (w1 , w2 , 0), (w1 , w0 , 1), (w2 , w1 , 0) et (w2 , w1 , 1).
  • A l'étape suivante E25, le processeur 100 classifie le document à partir d'un score déterminé à partir des polynômes de hachage.
  • Par exemple, et de manière non limitative, le processeur 100 utilise la méthode de classification, dite méthode Winnow, telle que décrite dans la publication de C. Siefkes, F Assis, S Chhabra et W.S Yerazunis intitulée « Combining winnow and orthogonal sparse bigrams for incremental spam filtering ».
  • La méthode Winnow est une méthode statistique non probabiliste qui consiste à déterminer une liste de poids wcp (w0 , w1 , s) pour chaque classe cp et chaque bigramme clairsemé orthogonal (w0 , w1 , s) et à calculer un score Ωcp (Dc ) pour le document Dc et pour la classe cp basé sur la moyenne des poids des bigrammes clairsemés orthogonaux présents dans le document Dc .
  • On note que la méthode Winnow, appliquée ici à des bigrammes clairsemés orthogonaux, est applicable à tout type de polynôme de hachage. En effet, le calcul d'un score par la méthode Winnow n'utilise aucune spécificité des bigrammes clairsemés orthogonaux par rapport aux polynômes de hachage, mais prend uniquement en compte leur présence ou leur absence dans le document.
  • Le processeur 100 considère alors que le document appartient à la classe cp si son score est supérieur à un seuil θ prédéterminé, par exemple égal à un.
  • La classification nécessite un apprentissage, effectué préalablement ou à la volée, qui consiste à apprendre les poids des bigrammes clairsemés orthogonaux pour chaque classe. Les poids sont initialisés à la valeur 1, puis mis à jour à chaque fois que la classification, détectée par un humain, se trompe. Si un document Dc appartient à une classe cp et que son score est inférieur au seuil prédéterminé θ, les poids des bigrammes clairsemés orthogonaux du document Dc sont multipliés par un facteur de promotion α supérieur à l'unité. Si un document Dc n'appartient pas à une classe cp et que son score est supérieur au seuil prédéterminé θ, les poids des bigrammes clairsemés orthogonaux du document Dc sont multipliés par un facteur de rétrogradation β inférieur à l'unité.
  • Dans un mode particulier de réalisation, au lieu d'utiliser un seuil prédéterminé θ, le processeur 100 utilise deux seuils prédéterminés θ- et θ+, et considère que les scores compris entre ces deux seuils étaient une erreur quelle que soit la classe attendue.
  • Par exemple, α est égal à 1,23, β est égal à 0,83, θ- est égal à 0,95 et θ+ est égal à 1,05.
  • Bien entendu, la présente invention n'est nullement limitée aux modes de réalisation décrits ici, mais englobe, bien au contraire, toute variante à la portée de l'homme du métier et particulièrement la combinaison de différents modes de réalisation de la présente invention.
  • La présente invention est décrite dans un exemple où le document à classifier est un document en niveaux de gris. La présente invention trouve aussi application dans un exemple où le document à classifier est un document en couleur.
  • Dans ce cas, le procédé est appliqué indépendamment sur chaque composante de l'image couleur et en regroupant les mots visuels de toutes les composantes pour générer des bigrammes clairsemés orthogonaux et classifier le document.
  • La présente invention est décrite dans un exemple dans lequel les bigrammes clairsemés orthogonaux sont utilisés. Il est aisé de transposer la présente invention dans le cadre des polynômes de hachage binaires clairsemés.
  • Le processeur 100 utilise la liste triée des mots visuels voisins pour construire des polynômes de hachage binaires clairsemés.
  • Un polynôme de hachage binaire clairsemé est constitué de deux éléments. Un mot qui sert de point d'ancrage et une séquence de positions dans la liste triée qui précise le contexte, chaque position dans la liste triée pouvant soit être vide ou contenir un mot visuel.
  • Dans le cas d'un document sous forme de pixels, pour chaque mot visuel, le processeur 100 construit 2NB polynômes de hachage binaires clairsemés de longueur NB qui ont le mot visuel comme point d'ancrage. Pour chaque mot visuel wa , le processeur 100 :
    • Trie la liste des autres mots visuels présents dans l'image par ordre de distance spatiale croissante par rapport à la position du mot visuel wa dans l'image,
    • Construit 2NB polynômes de hachage binaires clairsemés en considérant toutes les combinaisons possibles.
  • Ainsi, selon l'exemple de la Fig. 7, le processeur 100 détermine douze polynômes de hachage binaires clairsemés : (w 0, _, _), (w 0, w1 , _), (w 0, _, w2 ), (w0, w1 , w2 ), (w1 , _, _), (w1 , w2 , _), (w1 , _, w0 ), (w1 , w2 , w0 ), (w2 , _, _), (w2 , w1, _), (w2 , _, w0 ) et (w2 , w1 , w0 ).

Claims (7)

  1. Procédé de classification d'un document à partir de son aspect visuel, le document étant sous la forme d'une image constituée de pixels, le procédé comporte les étapes de :
    - extraction (E20) de points d'intérêt dans l'image,
    - description (E21) de chaque point d'intérêt extrait à l'aide d'un vecteur représentatif de la forme de l'image dans un voisinage du point d'intérêt,
    - détermination (E22) d'un mot visuel pour chaque point d'intérêt extrait, le mot visuel étant déterminé à partir du vecteur caractéristique de telle sorte que des vecteurs caractéristiques proches sont associés au même mot visuel,
    - détermination (E24) d'un ou plusieurs polynômes de hachage pour chaque point d'intérêt, chaque polynôme de hachage comportant au moins un mot visuel qui sert de point d'ancrage du polynôme de hachage et un contexte constitué d'au moins un second mot visuel représentatif d'une position dans une liste triée de mots visuels,
    - classification (E25) du document à partir d'un score déterminé à partir des polynômes de hachage, le score étant une moyenne de poids des polynômes de hachage présent dans le document ;
    caractérisé en ce que :
    - chaque vecteur représentatif de la forme de l'image est déterminé à partir d'un voisinage circulaire autour de chaque point d'intérêt, le voisinage circulaire comportant au moins un cercle, ledit cercle étant divisé en une pluralité de zones, chaque zone de chaque cercle ayant une surface identique, les coordonnées de chaque vecteur représentatif de la forme de l'image étant obtenues à partir d'un vecteur gradient du point d'intérêt et de la moyenne des vecteurs gradients dans chaque zone du voisinage circulaire du point d'intérêt.
  2. Procédé selon la revendication 1, caractérisé en ce qu'un polynôme de hachage est un bigramme.
  3. Procédé selon la revendication 1 ou 2, caractérisé en ce que le contexte comporte en outre un écartement qui précise le nombre de mots intermédiaires présents entre le point d'ancrage et le second mot visuel.
  4. Procédé selon la revendication 1, 2 ou 3, caractérisé en ce que le voisinage circulaire comporte deux cercles, le cercle ayant le plus petit rayon comportant quatre zones et l'espacement entre les cercles comportant huit zones, les douze zones ayant une surface identique.
  5. Procédé selon l'une quelconque des revendications précédentes, caractérisé en ce que l'extraction des points d'intérêt est effectuée en calculant pour chaque pixel des dérivées secondes partielles, en calculant le déterminant de la matrice hessienne et en ce que les points d'intérêt correspondent aux maxima locaux des déterminants de la matrice hessienne.
  6. Procédé selon la revendication 5, caractérisé en ce que les dérivées sont calculées à partir d'images intégrales.
  7. Dispositif de classification d'un document à partir de son aspect visuel, le document étant sous la forme d'une image constituée de pixels, le dispositif comporte :
    - des moyens d'extraction de points d'intérêt dans l'image,
    - des moyens de description de chaque point d'intérêt extrait à l'aide d'un vecteur représentatif de la forme de l'image dans un voisinage du point d'intérêt,
    - des moyens de détermination d'un mot visuel pour chaque point d'intérêt extrait, le mot visuel étant déterminé à partir du vecteur caractéristique de telle sorte que des vecteurs caractéristiques proches sont associés au même mot visuel,
    - des moyens de détermination d'un ou plusieurs polynômes de hachage pour chaque point d'intérêt, chaque polynôme de hachage comportant au moins un mot visuel qui sert de point d'ancrage du polynôme de hachage et un contexte constitué d'au moins un second mot visuel représentatif d'une position dans une liste triée de mots visuels,
    - des moyens de classification du document à partir d'un score déterminé à partir des polynômes de hachage, le score étant basé sur une moyenne de poids des polynômes de hachage présents dans le document ;
    caractérisé en ce que le dispositif comprend :
    des moyens de détermination de vecteurs représentatifs de la forme de l'image à partir d'un voisinage circulaire autour de chaque point d'intérêt, le voisinage circulaire comportant au moins un cercle, ledit cercle étant divisé en une pluralité de zones, chaque zone de chaque cercle ayant une surface identique, les coordonnées de chaque vecteur représentatif de la forme de l'image étant obtenues à partir d'un vecteur gradient du point d'intérêt et de la moyenne des vecteurs gradients dans chaque zone du voisinage circulaire du point d'intérêt.
EP15200541.9A 2014-12-18 2015-12-16 Procédé de classification d'un document à partir de son aspect visuel Active EP3040910B1 (fr)

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
FR1462813A FR3030835B1 (fr) 2014-12-18 2014-12-18 Procede de classification d'un document a partir de son aspect visuel

Publications (2)

Publication Number Publication Date
EP3040910A1 true EP3040910A1 (fr) 2016-07-06
EP3040910B1 EP3040910B1 (fr) 2021-04-14

Family

ID=52988196

Family Applications (1)

Application Number Title Priority Date Filing Date
EP15200541.9A Active EP3040910B1 (fr) 2014-12-18 2015-12-16 Procédé de classification d'un document à partir de son aspect visuel

Country Status (2)

Country Link
EP (1) EP3040910B1 (fr)
FR (1) FR3030835B1 (fr)

Citations (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US6711293B1 (en) 1999-03-08 2004-03-23 The University Of British Columbia Method and apparatus for identifying scale invariant features in an image and use of same for locating an object in an image
EP1850270A1 (fr) * 2006-04-28 2007-10-31 Toyota Motor Europe NV Détecteur robuste et descripteur de point d'intérêt
FR2984541A1 (fr) 2011-12-14 2013-06-21 Sagemcom Documents Sas Procede de gestion de la veille d'un appareil electronique

Patent Citations (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US6711293B1 (en) 1999-03-08 2004-03-23 The University Of British Columbia Method and apparatus for identifying scale invariant features in an image and use of same for locating an object in an image
EP1850270A1 (fr) * 2006-04-28 2007-10-31 Toyota Motor Europe NV Détecteur robuste et descripteur de point d'intérêt
US8165401B2 (en) 2006-04-28 2012-04-24 Toyota Motor Europe Nv Robust interest point detector and descriptor
FR2984541A1 (fr) 2011-12-14 2013-06-21 Sagemcom Documents Sas Procede de gestion de la veille d'un appareil electronique

Non-Patent Citations (12)

* Cited by examiner, † Cited by third party
Title
"Distinctive image features from scale invariant keypoints", INT. J. COMPUT. VISION, vol. 60, no. 2, November 2004 (2004-11-01), pages 91 - 110
"LECTURE NOTES IN COMPUTER SCIENCE", vol. 3202, 1 January 2004, SPRINGER BERLIN HEIDELBERG, Berlin, Heidelberg, ISBN: 978-3-54-045234-8, ISSN: 0302-9743, article CHRISTIAN SIEFKES ET AL: "Combining Winnow and Orthogonal Sparse Bigrams for Incremental Spam Filtering", pages: 410 - 421, XP055218108, DOI: 10.1007/978-3-540-30116-5_38 *
A PASTOR LÓPEZ-MONROY ET AL: "Bag-of-Visual-Ngrams for Histopathology Image Classification", PROC. OF SPIE, 1 January 2013 (2013-01-01), pages 1 - 12, XP055219048, Retrieved from the Internet <URL:https://ccc.inaoep.mx/~mmontesg/publicaciones/2013/BagOfVisualNgramsForHistopathologyImageClassification-SIPAIM13.pdf> [retrieved on 20151007] *
BELONGIE S ET AL: "Matching shapes", PROCEEDINGS OF THE EIGHT IEEE INTERNATIONAL CONFERENCE ON COMPUTER VISION. (ICCV). VANCOUVER, BRITISH COLUMBIA, CANADA, JULY 7 - 14, 2001; [INTERNATIONAL CONFERENCE ON COMPUTER VISION], LOS ALAMITOS, CA : IEEE COMP. SOC, US, vol. 1, 7 July 2001 (2001-07-07), pages 454 - 461, XP010554016, ISBN: 978-0-7695-1143-6 *
C. SIEFKES; F ASSIS; S CHHABRA; W.S YERAZUNIS: "Proceedings of ECML/PKDD, LNCS", 2004, SPRINGER VERLAG, article "Combining winnow and orthogonal sparse bigrams for incremental spam filtering » publiée dans", pages: 410 - 420
DALAL N ET AL: "Histograms of Oriented Gradients for Human Detection", PROCEEDINGS / 2005 IEEE COMPUTER SOCIETY CONFERENCE ON COMPUTER VISION AND PATTERN RECOGNITION, CVPR 2005 : [20 - 25 JUNE 2005, SAN DIEGO, CA], IEEE, PISCATAWAY, NJ, USA, vol. 1, 20 June 2005 (2005-06-20), pages 886 - 893, XP010817365, ISBN: 978-0-7695-2372-9, DOI: 10.1109/CVPR.2005.177 *
HARRIS; M STEPHENS: "A combined corner and edge détecter", PROCEEDINGS OF THE FOURTH ALVEY VISION CONFERENCE, 1998, pages 147 - 152
MIKOLAJCZYK K ET AL: "A performance evaluation of local descriptors", IEEE TRANSACTIONS ON PATTERN ANALYSIS AND MACHINE INTELLIGENCE, IEEE COMPUTER SOCIETY, USA, vol. 27, no. 10, 1 October 2005 (2005-10-01), pages 1615 - 1630, XP002384824, ISSN: 0162-8828, DOI: 10.1109/TPAMI.2005.188 *
PEDROSA GLAUCO V ET AL: "From Bag-of-Visual-Words to Bag-of-Visual-Phrases Using n-Grams", PROCEEDINGS - BRAZILIAN SYMPOSIUM ON COMPUTER GRAPHICS AND IMAGEPROCESSING, IEEE COMPUTER SOCIETY, LOS ALAMITOS, CA, US, 5 August 2013 (2013-08-05), pages 304 - 311, XP032524023, ISSN: 1530-1834, [retrieved on 20131105], DOI: 10.1109/SIBGRAPI.2013.49 *
SCOTT KRIG: "Interest Point Detector and Feature Descriptor Survey", COMPUTER VISION METRICS, 26 May 2014 (2014-05-26), XP055241490, Retrieved from the Internet <URL:http://link.springer.com/content/pdf/10.1007/978-1-4302-5930-5_6.pdf> [retrieved on 20160114] *
SIVIC J ET AL: "Discovering Objects and their Localization in Images", COMPUTER VISION, 2005. ICCV 2005. TENTH IEEE INTERNATIONAL CONFERENCE ON BEIJING, CHINA 17-20 OCT. 2005, PISCATAWAY, NJ, USA,IEEE, LOS ALAMITOS, CA, USA, vol. 1, 17 October 2005 (2005-10-17), pages 370 - 377, XP010854812, ISBN: 978-0-7695-2334-7, DOI: 10.1109/ICCV.2005.77 *
SZELISKI RICHARD S ET AL: "Object instance recognition using feature symbol triplets", 12 August 2008 (2008-08-12), pages 1 - 15, XP055219049, Retrieved from the Internet <URL:http://research.microsoft.com/pubs/69422/tr-2007-53.pdf> [retrieved on 20151007] *

Also Published As

Publication number Publication date
FR3030835A1 (fr) 2016-06-24
FR3030835B1 (fr) 2018-02-09
EP3040910B1 (fr) 2021-04-14

Similar Documents

Publication Publication Date Title
EP2695108B1 (fr) Procédé d&#39;extraction automatisée d&#39;un planogramme à partir d&#39;images de linéaire
Afzal et al. Cutting the error by half: Investigation of very deep cnn and advanced training strategies for document image classification
US7171042B2 (en) System and method for classification of images and videos
EP2798575B1 (fr) Procede d&#39;identification de microorganismes par spectrometrie de masse et normalisation de scores
US9990561B2 (en) Identifying consumer products in images
EP3637379B1 (fr) Procédé de détection de fraude documentaire
FR2974434A1 (fr) Prediction de la valeur esthetique d&#39;une image
CA3043090C (fr) Procede de reconnaissance de caracteres
EP3552146B1 (fr) Détection de nerfs dans une série d&#39;images échographiques
EP3570212A1 (fr) Procédé de reconnaissance de caractères
EP3633544B1 (fr) Procede d&#39;association d&#39;elements d&#39;interet visibles dans une video
Rodrigues et al. Evaluation of Transfer Learning Scenarios in Plankton Image Classification.
Liu et al. A high performance image-spam filtering system
Huang et al. Using a CNN ensemble for detecting pornographic and upskirt images
EP3040910B1 (fr) Procédé de classification d&#39;un document à partir de son aspect visuel
WO2015132531A1 (fr) Procede d&#39;analyse d&#39;echantillons sedimentaires avec reconnaissance automatique de nannofossiles
EP2491517B1 (fr) Méthode et système pour évaluer la classe d&#39;une donnée de test dans un espace de données de grande dimension
Nayan et al. Detection of objects from noisy images
Srinivas et al. Forged File Detection and Steganographic content Identification (FFDASCI) using Deep Learning Techniques.
Taskin et al. Earthquake-induced damage classification from postearthquake satellite image using spectral and spatial features with support vector selection and adaptation
EP3929809A1 (fr) Procédé de détection d&#39;au moins un trait biométrique visible sur une image d entrée au moyen d&#39;un réseau de neurones à convolution
FR3123748A1 (fr) Apprentissage automatique sans annotation ameliore par regroupements adaptatifs en ensemble ouvert de classes
Gupta et al. Identification of image spam by using low level & metadata features
FR3105529A1 (fr) Procédé de segmentation d’une image d’entrée représentant un document comportant des informations structurées
EP2546801B1 (fr) Procédé de détection et de correction de l&#39;orientation d&#39;un document présent dans une image numérique

Legal Events

Date Code Title Description
PUAI Public reference made under article 153(3) epc to a published international application that has entered the european phase

Free format text: ORIGINAL CODE: 0009012

AK Designated contracting states

Kind code of ref document: A1

Designated state(s): AL AT BE BG CH CY CZ DE DK EE ES FI FR GB GR HR HU IE IS IT LI LT LU LV MC MK MT NL NO PL PT RO RS SE SI SK SM TR

AX Request for extension of the european patent

Extension state: BA ME

STAA Information on the status of an ep patent application or granted ep patent

Free format text: STATUS: REQUEST FOR EXAMINATION WAS MADE

17P Request for examination filed

Effective date: 20170104

RBV Designated contracting states (corrected)

Designated state(s): AL AT BE BG CH CY CZ DE DK EE ES FI FR GB GR HR HU IE IS IT LI LT LU LV MC MK MT NL NO PL PT RO RS SE SI SK SM TR

GRAP Despatch of communication of intention to grant a patent

Free format text: ORIGINAL CODE: EPIDOSNIGR1

STAA Information on the status of an ep patent application or granted ep patent

Free format text: STATUS: GRANT OF PATENT IS INTENDED

INTG Intention to grant announced

Effective date: 20201208

GRAS Grant fee paid

Free format text: ORIGINAL CODE: EPIDOSNIGR3

GRAA (expected) grant

Free format text: ORIGINAL CODE: 0009210

STAA Information on the status of an ep patent application or granted ep patent

Free format text: STATUS: THE PATENT HAS BEEN GRANTED

AK Designated contracting states

Kind code of ref document: B1

Designated state(s): AL AT BE BG CH CY CZ DE DK EE ES FI FR GB GR HR HU IE IS IT LI LT LU LV MC MK MT NL NO PL PT RO RS SE SI SK SM TR

REG Reference to a national code

Ref country code: GB

Ref legal event code: FG4D

Free format text: NOT ENGLISH

REG Reference to a national code

Ref country code: CH

Ref legal event code: EP

REG Reference to a national code

Ref country code: DE

Ref legal event code: R096

Ref document number: 602015068038

Country of ref document: DE

REG Reference to a national code

Ref country code: IE

Ref legal event code: FG4D

Free format text: LANGUAGE OF EP DOCUMENT: FRENCH

REG Reference to a national code

Ref country code: AT

Ref legal event code: REF

Ref document number: 1383092

Country of ref document: AT

Kind code of ref document: T

Effective date: 20210515

REG Reference to a national code

Ref country code: LT

Ref legal event code: MG9D

REG Reference to a national code

Ref country code: AT

Ref legal event code: MK05

Ref document number: 1383092

Country of ref document: AT

Kind code of ref document: T

Effective date: 20210414

REG Reference to a national code

Ref country code: NL

Ref legal event code: MP

Effective date: 20210414

PG25 Lapsed in a contracting state [announced via postgrant information from national office to epo]

Ref country code: AT

Free format text: LAPSE BECAUSE OF FAILURE TO SUBMIT A TRANSLATION OF THE DESCRIPTION OR TO PAY THE FEE WITHIN THE PRESCRIBED TIME-LIMIT

Effective date: 20210414

Ref country code: BG

Free format text: LAPSE BECAUSE OF FAILURE TO SUBMIT A TRANSLATION OF THE DESCRIPTION OR TO PAY THE FEE WITHIN THE PRESCRIBED TIME-LIMIT

Effective date: 20210714

Ref country code: HR

Free format text: LAPSE BECAUSE OF FAILURE TO SUBMIT A TRANSLATION OF THE DESCRIPTION OR TO PAY THE FEE WITHIN THE PRESCRIBED TIME-LIMIT

Effective date: 20210414

Ref country code: FI

Free format text: LAPSE BECAUSE OF FAILURE TO SUBMIT A TRANSLATION OF THE DESCRIPTION OR TO PAY THE FEE WITHIN THE PRESCRIBED TIME-LIMIT

Effective date: 20210414

Ref country code: LT

Free format text: LAPSE BECAUSE OF FAILURE TO SUBMIT A TRANSLATION OF THE DESCRIPTION OR TO PAY THE FEE WITHIN THE PRESCRIBED TIME-LIMIT

Effective date: 20210414

Ref country code: NL

Free format text: LAPSE BECAUSE OF FAILURE TO SUBMIT A TRANSLATION OF THE DESCRIPTION OR TO PAY THE FEE WITHIN THE PRESCRIBED TIME-LIMIT

Effective date: 20210414

REG Reference to a national code

Ref country code: DE

Ref legal event code: R079

Ref document number: 602015068038

Country of ref document: DE

Free format text: PREVIOUS MAIN CLASS: G06K0009460000

Ipc: G06V0030180000

PG25 Lapsed in a contracting state [announced via postgrant information from national office to epo]

Ref country code: SE

Free format text: LAPSE BECAUSE OF FAILURE TO SUBMIT A TRANSLATION OF THE DESCRIPTION OR TO PAY THE FEE WITHIN THE PRESCRIBED TIME-LIMIT

Effective date: 20210414

Ref country code: RS

Free format text: LAPSE BECAUSE OF FAILURE TO SUBMIT A TRANSLATION OF THE DESCRIPTION OR TO PAY THE FEE WITHIN THE PRESCRIBED TIME-LIMIT

Effective date: 20210414

Ref country code: NO

Free format text: LAPSE BECAUSE OF FAILURE TO SUBMIT A TRANSLATION OF THE DESCRIPTION OR TO PAY THE FEE WITHIN THE PRESCRIBED TIME-LIMIT

Effective date: 20210714

Ref country code: PL

Free format text: LAPSE BECAUSE OF FAILURE TO SUBMIT A TRANSLATION OF THE DESCRIPTION OR TO PAY THE FEE WITHIN THE PRESCRIBED TIME-LIMIT

Effective date: 20210414

Ref country code: PT

Free format text: LAPSE BECAUSE OF FAILURE TO SUBMIT A TRANSLATION OF THE DESCRIPTION OR TO PAY THE FEE WITHIN THE PRESCRIBED TIME-LIMIT

Effective date: 20210816

Ref country code: ES

Free format text: LAPSE BECAUSE OF FAILURE TO SUBMIT A TRANSLATION OF THE DESCRIPTION OR TO PAY THE FEE WITHIN THE PRESCRIBED TIME-LIMIT

Effective date: 20210414

Ref country code: LV

Free format text: LAPSE BECAUSE OF FAILURE TO SUBMIT A TRANSLATION OF THE DESCRIPTION OR TO PAY THE FEE WITHIN THE PRESCRIBED TIME-LIMIT

Effective date: 20210414

Ref country code: IS

Free format text: LAPSE BECAUSE OF FAILURE TO SUBMIT A TRANSLATION OF THE DESCRIPTION OR TO PAY THE FEE WITHIN THE PRESCRIBED TIME-LIMIT

Effective date: 20210814

Ref country code: GR

Free format text: LAPSE BECAUSE OF FAILURE TO SUBMIT A TRANSLATION OF THE DESCRIPTION OR TO PAY THE FEE WITHIN THE PRESCRIBED TIME-LIMIT

Effective date: 20210715

REG Reference to a national code

Ref country code: DE

Ref legal event code: R097

Ref document number: 602015068038

Country of ref document: DE

PG25 Lapsed in a contracting state [announced via postgrant information from national office to epo]

Ref country code: RO

Free format text: LAPSE BECAUSE OF FAILURE TO SUBMIT A TRANSLATION OF THE DESCRIPTION OR TO PAY THE FEE WITHIN THE PRESCRIBED TIME-LIMIT

Effective date: 20210414

Ref country code: SK

Free format text: LAPSE BECAUSE OF FAILURE TO SUBMIT A TRANSLATION OF THE DESCRIPTION OR TO PAY THE FEE WITHIN THE PRESCRIBED TIME-LIMIT

Effective date: 20210414

Ref country code: SM

Free format text: LAPSE BECAUSE OF FAILURE TO SUBMIT A TRANSLATION OF THE DESCRIPTION OR TO PAY THE FEE WITHIN THE PRESCRIBED TIME-LIMIT

Effective date: 20210414

Ref country code: DK

Free format text: LAPSE BECAUSE OF FAILURE TO SUBMIT A TRANSLATION OF THE DESCRIPTION OR TO PAY THE FEE WITHIN THE PRESCRIBED TIME-LIMIT

Effective date: 20210414

Ref country code: CZ

Free format text: LAPSE BECAUSE OF FAILURE TO SUBMIT A TRANSLATION OF THE DESCRIPTION OR TO PAY THE FEE WITHIN THE PRESCRIBED TIME-LIMIT

Effective date: 20210414

Ref country code: EE

Free format text: LAPSE BECAUSE OF FAILURE TO SUBMIT A TRANSLATION OF THE DESCRIPTION OR TO PAY THE FEE WITHIN THE PRESCRIBED TIME-LIMIT

Effective date: 20210414

PLBE No opposition filed within time limit

Free format text: ORIGINAL CODE: 0009261

STAA Information on the status of an ep patent application or granted ep patent

Free format text: STATUS: NO OPPOSITION FILED WITHIN TIME LIMIT

26N No opposition filed

Effective date: 20220117

PG25 Lapsed in a contracting state [announced via postgrant information from national office to epo]

Ref country code: IS

Free format text: LAPSE BECAUSE OF FAILURE TO SUBMIT A TRANSLATION OF THE DESCRIPTION OR TO PAY THE FEE WITHIN THE PRESCRIBED TIME-LIMIT

Effective date: 20210814

Ref country code: AL

Free format text: LAPSE BECAUSE OF FAILURE TO SUBMIT A TRANSLATION OF THE DESCRIPTION OR TO PAY THE FEE WITHIN THE PRESCRIBED TIME-LIMIT

Effective date: 20210414

PG25 Lapsed in a contracting state [announced via postgrant information from national office to epo]

Ref country code: MC

Free format text: LAPSE BECAUSE OF FAILURE TO SUBMIT A TRANSLATION OF THE DESCRIPTION OR TO PAY THE FEE WITHIN THE PRESCRIBED TIME-LIMIT

Effective date: 20210414

Ref country code: IT

Free format text: LAPSE BECAUSE OF FAILURE TO SUBMIT A TRANSLATION OF THE DESCRIPTION OR TO PAY THE FEE WITHIN THE PRESCRIBED TIME-LIMIT

Effective date: 20210414

REG Reference to a national code

Ref country code: CH

Ref legal event code: PL

REG Reference to a national code

Ref country code: BE

Ref legal event code: MM

Effective date: 20211231

PG25 Lapsed in a contracting state [announced via postgrant information from national office to epo]

Ref country code: LU

Free format text: LAPSE BECAUSE OF NON-PAYMENT OF DUE FEES

Effective date: 20211216

Ref country code: IE

Free format text: LAPSE BECAUSE OF NON-PAYMENT OF DUE FEES

Effective date: 20211216

PG25 Lapsed in a contracting state [announced via postgrant information from national office to epo]

Ref country code: BE

Free format text: LAPSE BECAUSE OF NON-PAYMENT OF DUE FEES

Effective date: 20211231

PG25 Lapsed in a contracting state [announced via postgrant information from national office to epo]

Ref country code: LI

Free format text: LAPSE BECAUSE OF NON-PAYMENT OF DUE FEES

Effective date: 20211231

Ref country code: CH

Free format text: LAPSE BECAUSE OF NON-PAYMENT OF DUE FEES

Effective date: 20211231

PG25 Lapsed in a contracting state [announced via postgrant information from national office to epo]

Ref country code: HU

Free format text: LAPSE BECAUSE OF FAILURE TO SUBMIT A TRANSLATION OF THE DESCRIPTION OR TO PAY THE FEE WITHIN THE PRESCRIBED TIME-LIMIT; INVALID AB INITIO

Effective date: 20151216

PG25 Lapsed in a contracting state [announced via postgrant information from national office to epo]

Ref country code: CY

Free format text: LAPSE BECAUSE OF FAILURE TO SUBMIT A TRANSLATION OF THE DESCRIPTION OR TO PAY THE FEE WITHIN THE PRESCRIBED TIME-LIMIT

Effective date: 20210414

REG Reference to a national code

Ref country code: DE

Ref legal event code: R082

Ref document number: 602015068038

Country of ref document: DE

Representative=s name: PUSCHMANN BORCHERT KAISER KLETTNER PATENTANWAE, DE

PGFP Annual fee paid to national office [announced via postgrant information from national office to epo]

Ref country code: GB

Payment date: 20231121

Year of fee payment: 9

PGFP Annual fee paid to national office [announced via postgrant information from national office to epo]

Ref country code: FR

Payment date: 20231122

Year of fee payment: 9

Ref country code: DE

Payment date: 20231121

Year of fee payment: 9

PG25 Lapsed in a contracting state [announced via postgrant information from national office to epo]

Ref country code: MK

Free format text: LAPSE BECAUSE OF FAILURE TO SUBMIT A TRANSLATION OF THE DESCRIPTION OR TO PAY THE FEE WITHIN THE PRESCRIBED TIME-LIMIT

Effective date: 20210414