EP2618948B1 - Postal sorting process re-using information regarding treatment between sorting runs - Google Patents

Postal sorting process re-using information regarding treatment between sorting runs Download PDF

Info

Publication number
EP2618948B1
EP2618948B1 EP11735487.8A EP11735487A EP2618948B1 EP 2618948 B1 EP2618948 B1 EP 2618948B1 EP 11735487 A EP11735487 A EP 11735487A EP 2618948 B1 EP2618948 B1 EP 2618948B1
Authority
EP
European Patent Office
Prior art keywords
sorting
machine
processing information
user processing
graphical
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Not-in-force
Application number
EP11735487.8A
Other languages
German (de)
French (fr)
Other versions
EP2618948A1 (en
Inventor
Olivier Desprez
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Solystic SAS
Original Assignee
Solystic SAS
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Solystic SAS filed Critical Solystic SAS
Publication of EP2618948A1 publication Critical patent/EP2618948A1/en
Application granted granted Critical
Publication of EP2618948B1 publication Critical patent/EP2618948B1/en
Not-in-force legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • BPERFORMING OPERATIONS; TRANSPORTING
    • B07SEPARATING SOLIDS FROM SOLIDS; SORTING
    • B07CPOSTAL SORTING; SORTING INDIVIDUAL ARTICLES, OR BULK MATERIAL FIT TO BE SORTED PIECE-MEAL, e.g. BY PICKING
    • B07C3/00Sorting according to destination
    • B07C3/10Apparatus characterised by the means used for detection ofthe destination
    • B07C3/14Apparatus characterised by the means used for detection ofthe destination using light-responsive detecting means

Definitions

  • the invention relates to a postal sorting method in which mail items perform at least two sorting passes in a machine to be sorted into sorting outlets of the machine and user processing information is available in the machine at a time.
  • first sorting pass in relation to at least one mail piece (cf. DE-U-202 18 212 ).
  • All this user processing information which is related to the processing of homogeneous mail items in that they originate in particular from the same sender and have a very similar graphical appearance can therefore be used for the configuration or adjustment of the machine to contribute to the processing. optimization of its operation in the different sorting passes.
  • the object of the invention is therefore to make this user processing information, introduced by a machine operator or already previously recorded in a machine or produced in the first sorting pass by the data processing of the machine, available in the sorting passes. subsequently to exploit them in association with the mail items concerned.
  • the descriptor of these graphic signatures is preferably invariant to the rotation of the digital images of the mail items to allow indexing and search graphics signatures that are robust during successive sorting passes.
  • This descriptor can be based on local and global characteristics of the pixel images of mail items in multi-level of gray or in binary format according to a multi-scale partitioning, for example luminance statistics.
  • Such a descriptor is for example described in the patent document EP 1 519 796 . In this document, it is the image component of a unique virtual mail item identifier.
  • the criterion of resemblance For example, a graphic between two graphic signatures may be a normalized correlation coefficient.
  • the figure 3 now illustrates the sorting process for a second sorting pass of mail items P. It is assumed at this stage of the sorting process that mail items stored in a sort output receptacle 4 are recycled to the input of the same machine.
  • a mail item receptacle is brought to the input of the sorting machine and its identification number IdBac is recognized by the machine.
  • a segment or the entire database BD is then loaded in memory of the sorting machine so that a small dictionary of graphical classes is made available in memory of the machine.
  • step 34 the postal sorting process continues in step 34 by a conventional OCR recognition process without any particular setting. Then the mail sorting process continues in step 35 by transferring the mail item to a sorting outlet and returns to step 30 for a new mail item.

Landscapes

  • Sorting Of Articles (AREA)

Description

Domaine techniqueTechnical area

L'invention concerne un procédé de tri postal selon lequel des articles de courrier effectuent au moins deux passes de tri en machine pour être ordonnés dans des sorties de tri de la machine et des informations de traitement usager sont disponibles dans la machine lors d'une première passe de tri en relation avec au moins un certain article de courrier (cf. DE-U-202 18 212 ).The invention relates to a postal sorting method in which mail items perform at least two sorting passes in a machine to be sorted into sorting outlets of the machine and user processing information is available in the machine at a time. first sorting pass in relation to at least one mail piece (cf. DE-U-202 18 212 ).

Technique antérieurePrior art

Le contexte de l'invention est plus particulièrement celui du tri d'articles de courrier en nombre provenant d'un même expéditeur. A titre d'exemple, dans une situation de filante où un groupe d'articles de courrier homogènes provenant d'un même expéditeur sont entrés dans la machine de tri postal, l'opérateur machine peut être amené à cadrer préalablement la position du bloc d'adresse de destinataire (appelée « cadre usager » dans la terminologie postale) dans les images de ces articles de courrier à travers une interface graphique de telle sorte à forcer le traitement de reconnaissance d'adresse par OCR à travailler sur une zone de pixels prédéterminée dans les images des articles de courrier. Cette assistance de l'opérateur machine permet entre autres de réduire le taux d'échec de reconnaissance.The context of the invention is more particularly that of the sorting of bulk mail items from the same sender. For example, in a spinning situation where a group of homogeneous mail items from the same sender are entered in the postal sorting machine, the machine operator can be brought to previously frame the position of the block of mail. recipient address (called "user frame" in postal terminology) in images of these mail items through a graphical interface so as to force OCR address recognition processing to work on a predetermined pixel area in pictures of mail items. This assistance of the machine operator makes it possible, among other things, to reduce the rate of recognition failure.

L'opérateur machine peut également être amené à entrer d'autres informations de traitement usager utiles pour le traitement automatique des articles de courrier, par exemple la position spatiale dans l'image de la zone de pixels correspondant au bloc d'adresse de l'expéditeur. L'opérateur machine peut entrer aussi comme information de traitement usager, le fait que les articles de courrier ont une règle de suivi particulière pour éviter un retour à l'expéditeur, etc....The machine operator may also be required to enter other user processing information useful for the automatic processing of mail items, for example the spatial position in the image of the pixel area corresponding to the address block of the mailer. sender. The machine operator can also enter as user processing information, the fact that the mail items have a particular tracking rule to avoid a return to the sender, etc.

Des informations décrivant la structure physique des articles de courrier, à savoir s'il s'agit d'articles de courrier sous enveloppe en plastique, ou encore d'articles de courrier ouverts ou d'articles de courrier de type magazine, etc..., peuvent aussi être entrées dans la machine de tri postal par l'opérateur machine pour optimiser le fonctionnement des traitements de données et des traitements mécaniques.Information describing the physical structure of mail items, ie whether they are plastic envelope mail items, or open mail items or magazine type mail items, etc. ., can also be entered into the postal sorting machine by the machine operator to optimize the operation of data processing and mechanical processing.

Ces informations de traitement usager peuvent aussi être préalablement enregistrées dans un fichier en machine et donc récupérées automatiquement au lieu d'être introduites manuellement par l'opérateur machine.This user processing information can also be previously stored in a machine file and thus retrieved automatically instead of being entered manually by the machine operator.

D'autres informations de traitement usager portant sur des caractéristiques physiques des articles de courrier peuvent encore être produites par les périphériques de la machine pendant le tri des articles de courrier comme le poids, l'épaisseur où d'autres grandeurs physiques. Le cadre englobant la zone du bloc d'adresse de destinataire peut être aussi déterminé par les traitements eux-mêmes de la machine de tri après une phase de fiabilisation, c'est-à-dire quand cette information de position du bloc d'adresse est devenue fiable statistiquement, le niveau de confiance dans le résultat de la reconnaissance d'adresse par OCR pouvant être une mesure de cette fiabilité.Other user processing information relating to physical characteristics of the mail items may still be produced by the machine peripherals during the sorting of mail items such as weight, thickness or other physical quantities. The frame encompassing the area of the destination address block may also be determined by the processing of the sorting machine itself after a reliability step, i.e. when this position information of the address block has become statistically reliable, the level of confidence in the result of OCR address recognition may be a measure of this reliability.

Toutes ces informations de traitement usager qui sont liées au traitement d'articles de courrier homogènes en ce qu'ils proviennent notamment du même expéditeur et présentent une apparence graphique très similaire peuvent donc servir pour la configuration ou le réglage de la machine pour contribuer à l'optimisation de son fonctionnement dans les différentes passes de tri.All this user processing information which is related to the processing of homogeneous mail items in that they originate in particular from the same sender and have a very similar graphical appearance can therefore be used for the configuration or adjustment of the machine to contribute to the processing. optimization of its operation in the different sorting passes.

Exposé de l'inventionPresentation of the invention

L'invention part du constat que ces informations de traitement usager sont inutilisées après la première passe de tri des articles de courrier en raison du fait que les regroupements par lot d'articles de courrier homogènes, qui existent en première passe de tri, disparaissent après la première passe de tri.The invention is based on the observation that this user processing information is unused after the first sorting pass of the mail items because the batch groupings of mail items homogeneous, which exist in the first sorting pass, disappear after the first sorting pass.

Le but de l'invention est donc de rendre ces informations de traitement usager, introduites par un opérateur machine ou déjà préalablement enregistrées en machine ou encore produites en première passe de tri par les traitements de données de la machine, disponibles dans les passes de tri subséquentes pour les exploiter en association avec les articles de courrier concernés.The object of the invention is therefore to make this user processing information, introduced by a machine operator or already previously recorded in a machine or produced in the first sorting pass by the data processing of the machine, available in the sorting passes. subsequently to exploit them in association with the mail items concerned.

L'invention a donc pour objet un procédé de tri postal selon lequel des articles de courrier effectuent au moins deux passes de tri en machine pour être ordonnés dans des sorties de tri de la machine et des informations de traitement usager sont disponibles dans la machine lors d'une première passe de tri en relation avec au moins un certain article de courrier, caractérisé en ce qu'il comprend les étapes consistant à associer en mémoire ces informations de traitement usager à une signature graphique de l'article de courrier représentative d'une image de l'article de courrier et à recouvrer, lors de la seconde passe de tri en machine dudit certain article de courrier, lesdites informations de traitement usager qui lui sont associées à partir d'un appariement de signatures graphiques selon un certain critère de ressemblance.The invention therefore relates to a postal sorting method according to which mail items perform at least two sorting passes in a machine to be ordered in sorting outlets of the machine and user processing information is available in the machine when of a first sorting pass in relation to at least one mail item, characterized in that it comprises the steps of associating in memory these user processing information to a graphic signature of the representative mail item of an image of the mail article and to recover, during the second pass of sorting said mail item, said user processing information associated with it from a pairing of graphic signatures according to a certain criterion of resemblance.

Le descripteur de ces signatures graphiques est de préférence invariant à la rotation des images numériques des articles de courrier pour permettre une indexation et une recherche des signatures graphiques qui soient robustes au cours des passes de tri successives. Ce descripteur peut être basé sur des caractéristiques locales et globales des pixels des images d'articles de courrier en multi-niveaux de gris ou en format binaire selon un partitionnement multi-échelles, par exemple des statistiques de luminance. Un tel descripteur est par exemple décrit dans le document de brevet EP 1 519 796 . Dans ce document, il correspond à la composante image d'un identificateur virtuel unique d'article de courrier. Le critère de ressemblance graphique entre deux signatures graphiques peut par exemple être un coefficient de corrélation normalisé.The descriptor of these graphic signatures is preferably invariant to the rotation of the digital images of the mail items to allow indexing and search graphics signatures that are robust during successive sorting passes. This descriptor can be based on local and global characteristics of the pixel images of mail items in multi-level of gray or in binary format according to a multi-scale partitioning, for example luminance statistics. Such a descriptor is for example described in the patent document EP 1 519 796 . In this document, it is the image component of a unique virtual mail item identifier. The criterion of resemblance For example, a graphic between two graphic signatures may be a normalized correlation coefficient.

Selon l'invention, lors du recyclage en machine d'un ensemble d'articles de courrier pour une seconde passe de tri, on filtre des signatures graphiques associées à des informations de traitement usager pour créer dynamiquement un dictionnaire de classes de signatures graphiques et on détecte un appariement entre une classe graphique et une signature graphique d'un article de courrier calculée lors de la seconde passe de tri pour recouvrer les informations de traitement usager associées à cet article de courrier. Ceci permet d'obtenir une meilleure compacité de l'information en mémoire machine, une meilleure efficacité des recherches d'appariement des signatures graphiques et une réduction des échanges de données. En particulier, au moment du déchargement d'un réceptacle de sortie de tri à la fin de la première passe de tri où encore au moment du recyclage d'un réceptacle de sortie de tri au début de la seconde passe de tri, les signatures graphiques générées pour des articles de courrier stockés dans le réceptacle et liées à des informations de traitement usagers sont regroupées et classées selon ces informations de traitement usager pour créer dynamiquement un dictionnaire de classes de signatures graphiques dont le contexte est localisé au réceptacle de sortie de tri en question. Le procédé selon l'invention permet également de recouvrer des informations de traitement usager pour des articles de courrier traités en seconde passe de tri mais qui ne disposaient pas d'informations de traitement usager en première passe de tri. C'est le cas par exemple pour deux lots d'articles de courrier similaires dépilés en première passe de tri sur deux machines différentes alors que seuls les articles de courrier d'un premier des deux lots ont été associés à des informations de traitement usager. En seconde passe de tri, le procédé selon l'invention permet de recouvrer des informations de traitement usager pour les articles de courrier faisant partie du second lot d'articles de courrier.According to the invention, during the machine recycling of a set of mail items for a second sorting pass, graphical signatures associated with user processing information are filtered to dynamically create a dictionary of graphical signature classes and detects a pairing between a graphical class and a graphical signature of a mail item calculated during the second sorting pass to recover the user processing information associated with that mail item. This makes it possible to obtain a better compactness of the information in machine memory, a better efficiency of matching searches of graphic signatures and a reduction of data exchanges. In particular, at the time of unloading a sort output receptacle at the end of the first sorting pass or again at the time of recycling a sort output receptacle at the beginning of the second sorting pass, the graphic signatures generated for mail items stored in the receptacle and related to user processing information are grouped and classified according to this user processing information to dynamically create a dictionary of graphical signature classes whose context is located at the sort output output port. question. The method according to the invention also makes it possible to recover user processing information for mail items processed in the second sorting pass but which did not have user processing information in the first sorting pass. This is the case, for example, for two batches of similar mail items unstacked in the first sorting pass on two different machines, whereas only the mail items of a first of the two batches have been associated with user processing information. In the second sorting pass, the method according to the invention makes it possible to recover user processing information for the mail items forming part of the second batch of mail items.

Chaque classe graphique du dictionnaire est donc représentative d'une ou plusieurs signatures graphiques similaires. On peut disposer ainsi, pour chaque réceptacle recyclé en entrée d'une machine de tri postal dans une passe de tri subséquente, d'un petit contexte de classes graphiques qui peut être étendu ou réduit de manière à s'adapter aux seuls articles de courrier présents en entrée de cette machine. Selon l'invention, chaque classe graphique possède un descripteur qui peut être une valeur moyenne de descripteurs de plusieurs signatures graphiques similaires. Le seuil de similarité entre une signature graphique et une classe graphique pour l'appariement peut être réglé pour le cas échéant permettre un recouvrement d'informations de traitement usagers pour des articles de courrier provenant d'expéditeurs différents mais qui présentent une forte similarité graphique.Each graphic class of the dictionary is therefore representative of one or more similar graphic signatures. Thus, for each receptacle recycled at the entrance of a postal sorting machine in a subsequent sorting pass, it is possible to have a small context of graphic classes that can be extended or reduced so as to adapt to mail items only. present at the entrance of this machine. According to the invention, each graphical class has a descriptor which can be an average value of descriptors of several similar graphic signatures. The similarity threshold between a graphical signature and a graphical class for matching can be adjusted, if necessary, to allow recovery of user processing information for mail items from different senders which have a strong graphical similarity.

Le principe de création d'un dictionnaire dynamique de classes graphiques consiste à présenter à un dictionnaire de classes graphiques courant chaque nouvelle signature graphique d'article de courrier liée à des informations de traitement usager à recouvrer dans une passe de tri ultérieure. En cas d'appariement avec une classe graphique présente dans le dictionnaire, le descripteur de la classe graphique en question est mis à jour par consolidation avec le descripteur de la nouvelle signature graphique (la mise à jour consiste à calculer une valeur moyenne des descripteurs). Dans le cas contraire, une nouvelle classe graphique est créée dans le dictionnaire avec comme descripteur celui de la nouvelle signature graphique.The principle of creating a dynamic dictionary of graphical classes consists in presenting to a current graphic class dictionary each new graphic signature of mail article linked to user processing information to be recovered in a subsequent sorting pass. When paired with a graphical class present in the dictionary, the descriptor of the graphical class in question is updated by consolidation with the descriptor of the new graphic signature (the update consists in calculating an average value of the descriptors) . If not, a new graphical class is created in the dictionary with the descriptor as the new graphic signature.

Ce type de regroupement dynamique des signatures graphiques évite la gestion et l'échange de larges bases de données entre les machines de tri postal ou les sites de tri postal. Ces répertoires ou dictionnaires de classes de signatures graphiques peuvent faire partie d'une base de données organisée et segmentée par réceptacle de sortie de tri. Le regroupement dynamique des signatures graphiques permet également de disposer d'un contexte de recherche limité pour l'appariement de signatures graphiques.This type of dynamic grouping of graphic signatures avoids the management and exchange of large databases between postal sorting machines or postal sorting sites. These directories or dictionaries of graphic signature classes can be part of a database organized and segmented by sort output receptacle. Dynamic grouping of graphic signatures also provides a limited search context for matching graphical signatures.

L'invention peut s'appliquer à une architecture de tri postal exploitant des identificateurs virtuels uniques d'articles de courrier selon la technologie de la société « Solystic » dénommée « V-Id® » décrite dans le document de brevet EP 1 519 796 mentionné ci-dessus. Dans ce cas, les informations de traitement usager sont véhiculées à travers les passes de tri successives en liaison avec ces identificateurs virtuels d'article de courrier. Le recouvrement de ces informations de traitement usager permet de renforcer la robustesse de l'indexation et la recherche en mémoire des identificateurs virtuels uniques d'article de courrier.The invention can be applied to a postal sorting architecture exploiting unique virtual identifiers of mail items according to the technology of the company "Solystic" called "V-Id®" described in the patent document EP 1 519 796 mentioned above. In this case, the user processing information is conveyed through the successive sorting passes in connection with these virtual mail article identifiers. Recovering this user processing information strengthens the robustness of indexing and searching memory for unique virtual mail item identifiers.

Le procédé selon l'invention peut présenter les particularités suivantes :

  • Lesdites informations de traitement usager peuvent comprendre des informations de position spatiale du bloc d'adresse de destinataire. Comme indiqué plus haut, le recouvrement de ce type d'informations de traitement usager permet de renforcer la robustesse du traitement de reconnaissance par OCR des adresses de destinataire ou encore la robustesse du calcul des composantes d'un identificateur virtuel unique d'article de courrier.
  • Lesdites informations de traitement usager peuvent comprendre des informations de position spatiale du bloc d'adresse d'expéditeur.
  • Lesdites informations de traitement usager peuvent comprendre des informations indicatives d'une caractéristique physique commune à plusieurs articles de courrier. Le recouvrement de ces informations à travers les passes de tri successives peut contribuer par exemple à optimiser le remplissage des réceptacles de sortie de tri.
The process according to the invention may have the following particularities:
  • The user processing information may include spatial position information of the recipient address block. As indicated above, the recovery of this type of user processing information makes it possible to reinforce the robustness of the OCR recognition processing of the recipient addresses or the robustness of the computation of the components of a unique virtual item identifier of mail .
  • The user processing information may include spatial position information of the sender address block.
  • Said user processing information may include information indicative of a physical characteristic common to several mail items. The recovery of this information through the successive sorting passes can contribute, for example, to optimizing the filling of the sorting outlet receptacles.

Description sommaire des dessinsBrief description of the drawings

Un exemple de mise eu oeuvre du procédé selon l'invention est décrit ci-après en relation avec les dessins.

  • La figure 1 illustre de façon très schématique une machine de tri postal avec des sorties de tri munies de réceptacles pour le stockage d'articles de courrier triés.
  • La figure 2 illustre le déroulement du processus de tri lors d'une première passe de tri selon l'invention dans la machine de la figure 1.
  • La figure 3 illustre le déroulement du processus de tri lors d'une seconde passe de tri selon l'invention dans la machine de la figure 1.
An exemplary implementation of the method according to the invention is described below in connection with the drawings.
  • The figure 1 illustrates very schematically a postal sorting machine with sorting outlets provided with receptacles for storing sorted mail items.
  • The figure 2 illustrates the course of the sorting process during a first sorting pass according to the invention in the machine of the figure 1 .
  • The figure 3 illustrates the course of the sorting process during a second sorting pass according to the invention in the machine of the figure 1 .

Description des modes de réalisationDescription of the embodiments

Sur la figure 1, la machine de tri postal 1 comprend un convoyeur de tri 2 muni d'une pluralité de sorties de tri dont cinq seulement S1 à S5 sont représentées. La machine de tri 1 comprend aussi un système de contrôle/commande 3 (une unité de traitement de données incluant une mémoire) apte à effectuer un traitement de reconnaissance d'adresse par OCR pour commander les actionneurs du convoyeur de tri de façon à diriger chaque article de courrier vers une des sorties de tri qui correspond à l'adresse de destinataire reconnue sur l'article de courrier.On the figure 1 , the postal sorting machine 1 comprises a sorting conveyor 2 provided with a plurality of sorting outlets of which only five S1 to S5 are shown. The sorting machine 1 also comprises a control / command system 3 (a data processing unit including a memory) capable of performing OCR address recognition processing to control the actuators of the sorting conveyor so as to direct each mail item to one of the sorting outlets that corresponds to the recognized recipient address on the mail item.

La référence 4 désigne un réceptacle ou bac associé à une sortie de tri et dans lequel sont stockés et accumulés les articles de courrier dirigés vers cette sortie de tri.The reference 4 designates a receptacle or tray associated with a sorting outlet and in which are stored and accumulated mail items directed to this sorting outlet.

La machine de tri postal 1 peut faire partie d'un équipement de tri postal plus vaste pouvant inclure plusieurs machines de tri postal réparties dans différents sites de tri postal. Les systèmes de contrôle/commande 3 de ces machines de tri postal peuvent être reliés entre eux à travers un réseau de communication 5 pour permettre un échange ou un transfert de données.The postal sorting machine 1 may be part of a larger postal sorting equipment which may include several postal sorting machines located in different postal sorting sites. The control / command systems 3 of these postal sorting machines can be interconnected through a communication network 5 to enable exchange or transfer of data.

Dans le contexte de l'invention, les articles de courrier P peuvent être triés en plusieurs passes de tri de façon à être ordonnés par adresse de destination (par exemple pour la distribution par le facteur), notamment en au moins deux passes de tri, soit sur la même machine de tri postal soit sur deux ou plus machines différentes de tri postal au cours des passes de tri successives.In the context of the invention, the mail items P can be sorted into several sorting passes so as to be ordered by destination address (for example for distribution by the factor), in particular in at least two sorting passes, either on the same postal sorting machine or on two or more different postal sorting machines during the successive sorting passes.

En général, le tri sur la destination d'un article de courrier nécessite un premier passage de cet article de courrier en machine dans un centre de tri postal dit centre de tri « départ », suivi d'un second passage en machine de cet article de courrier dans un centre de tri dit centre de tri « arrivée ».In general, the sorting on the destination of a mail item requires a first pass of this mail item machine in a sorting center called sorting center "departure", followed by a second machine passage of this article mail in a sorting center called "arrival" sorting center.

L'invention s'applique donc à un tri postal selon lequel des articles de courrier P sont présentés en pile en entrée d'une machine de tri postal, sont triés selon un premier plan de tri (première passe de tri) de façon à être ordonnés dans des réceptacles de sortie de tri 4 de la machine de tri, puis ensuite les articles P triés et stockés dans chaque réceptacle de sortie de tri 4 sont recyclés en entrée de la machine de tri (ou d'une autre machine de tri) pour être de nouveau triés selon un second plan de tri (seconde passe de tri) de façon à être ordonnés de nouveau dans des réceptacles de sortie de tri 4, et ainsi de suite pour les passes de tri subséquentes jusqu'à obtenir un ordonnancement adapté à une distribution par le facteur.The invention therefore applies to a postal sorting according to which mail items P are presented in stack at the entrance of a postal sorting machine, are sorted according to a first sorting plane (first sorting pass) so as to be arranged in sorting output receptacles 4 of the sorting machine, and then sorted and stored items P in each sorting output receptacle 4 are recycled to the input of the sorting machine (or other sorting machine). to be sorted again according to a second sorting plane (second sorting pass) so as to be sorted again in sort output receptacles 4, and so on for the subsequent sorting passes until a suitable order is obtained to a distribution by the factor.

Dans le contexte de l'invention, des informations de traitement usager PF sont introduites en machine par exemple avant le passage en première passe de tri d'un lot d'articles de courrier homogènes (filante) provenant d'un même expéditeur. Dans l'exemple, on considérera que ces informations de traitement usager PF sont les coordonnées spatiales du bloc d'adresse de destinataire dans les images des articles de courrier P de la filante mais l'invention peut s'appliquer à d'autres types d'informations de traitement usager, qu'elles soient entrées en machine par un opérateur ou qu'elles soient encore produites en machine par un traitement de données.In the context of the invention, user processing information PF is entered into a machine, for example, before the first sorting pass of a batch of homogeneous (shoddy) mail items from the same sender. In the example, it will be considered that this user processing information PF is the spatial coordinates of the recipient address block in the images of the mailpieces P of the spinneret, but the invention can be applied to other types of mailpieces. user processing information, whether machine-entered by an operator or still generated by a data processing machine.

La figure 2 illustre maintenant un exemple de mise en oeuvre du processus de tri postal selon l'invention lors d'une première passe de tri des articles de courrier P. A l'étape 20, des informations de traitement usager PF sont introduites en machine par l'opérateur machine, par exemple à l'aide d'une interface homme/machine incluant un écran d'affichage 6 (voir la figure 1) et un organe de pointage 7 sur l'écran d'affichage selon une technique dite de « clipping » qui consiste à définir un cadre 8 autour du bloc d'adresse de destinataire dans une image type 9 d'un article de courrier de la filante.The figure 2 illustrates now an example of implementation of the postal sorting process according to the invention during a first sorting pass of mail items P. In step 20, user processing information PF is entered into a machine by the machine operator, for example using a man / machine interface including a display screen 6 (see FIG. figure 1 ) and a pointing member 7 on the display screen according to a technique called "clipping" which consists of defining a frame 8 around the recipient address block in a typical image 9 of a mail item of the runner.

A l'étape 21, un premier article de courrier P de la filante est dépilé et est déplacé dans le convoyeur de tri 2. L'image numérique d'une face de ce premier article de courrier P est saisie par une caméra ou analogue comme cela est bien connu et est stockée temporairement en mémoire du système 3.In step 21, a first mail piece P of the line is popped and is moved in the sorting conveyor 2. The digital image of a face of this first piece of mail P is captured by a camera or the like. this is well known and is temporarily stored in memory of the system 3.

A l'étape 22, si des informations de traitement usager sont associés à l'article de courrier P, une signature graphique ou profil d'image est alors dérivée de l'image numérique de l'article de courrier P. Cette signature graphique a un descripteur numérique calculé par exemple à partir des valeurs de luminance des pixels de l'image comme indiqué plus haut. On associe en mémoire l'enregistrement de cette signature graphique Sig avec les informations de traitement usager PF applicables pour cet article de courrier. L'association en mémoire peut être obtenue classiquement par un lien d'adresse logique entre l'enregistrement de la signature graphique et l'emplacement où sont enregistrées ces informations PF ou encore en renseignant un champ de l'enregistrement de la signature graphique avec les informations de traitement usager. A noter que les signatures graphiques peuvent être stockées dans une base de données comme représentée ici par la base de données BD interne au système 3 mais qui peut aussi être distante de la machine de tri postal 1. Sur la figure 2, la base de données BD est illustrée symboliquement sous la forme d'une table dont les lignes correspondent à des enregistrements de différentes signatures graphiques indiqués par Sig1, Sig2, etc.... Chaque signature graphique tel que Sig1 est associée à des informations de traitement usager, indiquées par PF pour la signature Sig1.In step 22, if user processing information is associated with the mail article P, a graphic signature or image profile is then derived from the digital image of the mail article P. This graphic signature has a numerical descriptor calculated for example from the luminance values of the pixels of the image as indicated above. The registration of this Sig graphic signature is associated in memory with the applicable PF processing information for this mail item. The association in memory can be obtained conventionally by a logical address link between the registration of the graphic signature and the location where these PF information are recorded or by filling a field of the registration of the graphic signature with the user processing information. Note that the graphic signatures can be stored in a database as represented here by the database BD internal to the system 3 but which can also be distant from the postal sorting machine 1. On the figure 2 , the database BD is illustrated symbolically in the form of a table whose lines correspond to records of different graphic signatures indicated by Sig1, Sig2, etc .... Each graphic signature such as Sig1 is associated with information of user treatment, indicated by PF for Sig1 signature.

A l'étape 23, le processus se poursuit par un traitement de reconnaissance par OCR d'adresse de destinataire qui est appliqué plus particulièrement dans la zone de l'image de l'article de courrier définie par ces informations de traitement usager PF. A noter que les étapes 22 et 23 pourraient être inversées sans sortir du cadre de l'invention.In step 23, the process continues with destination address OCR recognition processing which is applied more particularly in the image area of the mail item defined by this user processing information PF. Note that steps 22 and 23 could be reversed without departing from the scope of the invention.

On suppose qu'à ce stade du processus de tri, l'adresse de destinataire est reconnue de façon univoque par le traitement de reconnaissance par OCR et dans l'étape 23 l'article de courrier est donc dirigé à travers le convoyeur de tri 2 vers une sortie de tri, par exemple la sortie S1, correspondant à cette adresse reconnue pour être stocké dans un réceptacle de sortie de tri 4 correspondant. On suppose que dans le système 3, un identificateur logique IdBac est affecté à chaque réceptacle 4 de sortie de tri de la machine et donc cet identificateur IdBac peut être associé en mémoire à l'étape 22 dans la base de données BD à l'enregistrement de la signature Sig1 calculée pour l'article de courrier correspondant.It is assumed that at this stage of the sorting process, the recipient address is uniquely recognized by OCR recognition processing and in step 23 the mail item is thus directed through the sorting conveyor 2 to a sorting outlet, for example the output S1, corresponding to this address recognized to be stored in a corresponding sorting output receptacle 4. It is assumed that in the system 3, a logical identifier IdBac is assigned to each sort output receptacle 4 of the machine and therefore this identifier IdBac can be associated in memory at step 22 in the database BD to the recording. Sig1 signature calculated for the corresponding mail item.

Les étapes 21 à 23 sont répétées pour chaque article de courrier P subséquent. A la fin de ce processus de traitement en première passe de tri, on dispose en mémoire du système 3 d'un ensemble de signatures graphiques qui sont liées respectivement à des informations de traitement usager PF et à des identificateurs de réceptacle de sortie de tri. Dans ce processus de tri, d'autres informations de traitement usager peuvent être introduites manuellement ou produites automatiquement en première passe de tri pour d'autres filantes. A noter que le procédé selon l'invention peut aussi fonctionner sans identificateurs de réceptacle de sortie de tri, les identificateurs de bacs servant ici à limiter l'espace de recherche pour l'appariement de signatures graphiques en seconde passe de tri.Steps 21 to 23 are repeated for each subsequent mailpiece P. At the end of this process of processing in the first sorting pass, system 3 has in memory a set of graphic signatures which are respectively linked to user processing information PF and to sort output receptacle identifiers. In this sorting process, other user processing information may be entered manually or generated automatically in the first sorting pass for others. Note that the method according to the invention can also operate without sort output receptacle identifiers, the tray identifiers used here to limit the search space for the pairing of graphic signatures in the second sorting pass.

Quand un réceptacle de sortie de tri plein d'articles de courrier doit être évacué de la machine de tri pour être recyclé pour la seconde passe de tri des articles de courrier, à l'étape 24 on crée dynamiquement un dictionnaire de classes de signatures graphiques associé à ce réceptacle (ou un segment de la base de données BD qui peut être vu comme un répertoire ou dictionnaire local) dans lequel chaque classe graphique SigMoyen du dictionnaire est représentative des signatures graphiques associées aux articles de courrier stockés dans le réceptacle et qui font partie globalement de la même filante et dont le images sont graphiquement similaires. Comme indiqué plus haut, le descripteur de chaque classe graphique correspond à une valeur consolidée calculée à partir des descripteurs des signatures graphiques correspondantes, par exemple correspond à la valeur moyenne de ces descripteurs.When a sort output receptacle full of mail items is to be evacuated from the sorting machine to be recycled for the second sorting pass of mail items, in step 24 a dictionary of classes of graphic signatures is dynamically created associated with this receptacle (or a segment of the database BD which can be seen as a directory or local dictionary) in which each graphic class Sig Mean of the dictionary is representative of the graphic signatures associated with the mail items stored in the receptacle and which are generally part of the same line and whose images are graphically similar. As indicated above, the descriptor of each graphic class corresponds to a consolidated value calculated from the descriptors of the corresponding graphic signatures, for example corresponds to the average value of these descriptors.

La figure 3 illustre maintenant le processus de tri pour une seconde passe de tri des articles de courrier P. On suppose à ce stade du processus de tri, que des articles de courrier stockés dans un réceptacle 4 de sortie de tri sont recyclés en entrée de la même machine de tri postal 1. A l'étape 30, un réceptacle d'article de courrier est amené à l'entrée de la machine de tri et son numéro d'identification IdBac est reconnu par la machine. Un segment ou la totalité de la base de données BD est chargé alors en mémoire de la machine de tri de sorte qu'un petit dictionnaire de classes graphiques est rendu disponible en mémoire de la machine.The figure 3 now illustrates the sorting process for a second sorting pass of mail items P. It is assumed at this stage of the sorting process that mail items stored in a sort output receptacle 4 are recycled to the input of the same machine. In step 30, a mail item receptacle is brought to the input of the sorting machine and its identification number IdBac is recognized by the machine. A segment or the entire database BD is then loaded in memory of the sorting machine so that a small dictionary of graphical classes is made available in memory of the machine.

A l'étape 31, un premier article de courrier P recyclé en seconde passe de tri est donc dépilé et déplacé dans le convoyeur de tri 2 de la machine. Une image de la face de cet article de courrier est alors de nouveau formée et une signature graphique courante Sigcourant est de nouveau calculée sur la base de cette image. A l'étape 31, le dictionnaire dans la base de données BD est balayé pour détecter un appariement, sur la base d'un critère de ressemblance graphique basée par exemple sur un coefficient de corrélation normalisé, entre une des classes graphiques SigMoyen du dictionnaire et la signature courante Sigcourant. En cas de détection d'un appariement à l'étape 32, les informations de traitement usager PF associées à la classe graphique identifiée dans le dictionnaire sont récupérées par association en mémoire et le processus se poursuit à l'étape 33 par un nouveau traitement de reconnaissance par OCR d'adresse de destinataire qui est appliqué plus particulièrement dans la zone de l'image de l'article de courrier qui est définie par les informations de traitement usager PF.In step 31, a first article of mail P recycled in the second sorting pass is thus depilated and moved in the sorting conveyor 2 of the machine. An image of the face of this mail piece is then formed again and a current current Sig graphic signature is again computed on the basis of this image. In step 31, the dictionary in the database BD is scanned to detect a pairing, on the basis of a graphical similarity criterion based for example on a normalized correlation coefficient, between one of the graphical classes Sig Mean of the dictionary and the current Sig signature current . In case of detection of a pairing in step 32, the user processing information PF associated with the graphical class identified in the dictionary is retrieved by association in memory and the process continues in step 33 by a new processing of OCR recognition of recipient address which is applied more particularly in the area of the image of the mail item which is defined by the user processing information PF.

Ce nouveau traitement bénéficie donc de l'apport des informations de traitement usager PF introduites en première passe de tri. Ce recouvrement des informations de traitement usager en seconde passe de tri contribue par exemple à renforcer la robustesse de la reconnaissance d'adresse sur les articles de courrier.This new treatment therefore benefits from the input of user processing information PF introduced in the first sorting pass. This recovery of user processing information in the second sorting pass contributes, for example, to reinforcing the robustness of address recognition on mail items.

En cas d'absence de détection d'un appariement à l'étape 32, le processus de tri postal se poursuit à l'étape 34 par un processus de reconnaissance par OCR classique sans paramétrage particulier. Ensuite le processus de tri postal se poursuit à l'étape 35 par le transfert de l'article de courrier vers une sortie de tri et revient à l'étape 30 pour un nouvel article de courrier.In the absence of detection of a match in step 32, the postal sorting process continues in step 34 by a conventional OCR recognition process without any particular setting. Then the mail sorting process continues in step 35 by transferring the mail item to a sorting outlet and returns to step 30 for a new mail item.

Les étapes 31 à 35 sont répétées pour les articles de courrier subséquents à trier en seconde passe de tri sur la machine de tri.Steps 31 to 35 are repeated for the subsequent mail items to be sorted in the second sorting pass on the sorting machine.

Dans ce processus de tri postal, il faut comprendre qu'en général, les articles triés et stockés dans un réceptacle d'une sortie de tri provenant d'une machine sont recyclés en entrée d'une autre machine de tri postal. On peut avoir ainsi un grand nombre de réceptacles de sortie de tri répartis sur un grand nombre de machines de tri en seconde passe de tri. Dans ce contexte, il est avantageux de remonter au niveau de la mémoire machine de chaque système 3 pour une seconde passe de tri un contexte limité de classes graphiques de façon à accélérer la recherche d'appariement. C'est pour cela qu'un dictionnaire dynamique de classes graphiques associé à chaque réceptacle est construit à la fin de la première passe de tri ou au début d'une seconde passe de tri.In this postal sorting process, it should be understood that in general, items sorted and stored in a receptacle of a sorting outlet from a machine are recycled to the input of another postal sorting machine. There can thus be a large number of sort output receptacles distributed over a large number of sorting machines in the second sorting pass. In this context, it is advantageous to return to the level of the machine memory of each system 3 for a second sorting pass a limited context of graphical classes so as to accelerate the search for matching. For this reason, a dynamic dictionary of graphic classes associated with each receptacle is built at the end of the first sorting pass or at the beginning of a second sorting pass.

Le principe du recouvrement des informations de traitement usager entre les passes de tri selon l'invention s'applique aussi pour les passes de tri subséquentes à la seconde passe de tri.The principle of recovering the user processing information between the sorting passes according to the invention also applies to the sorting passes subsequent to the second sorting pass.

Claims (11)

  1. A postal sorting method in which mailpieces (P) are subjected to at least two sorting passes in a machine so as to be sequenced in sorting outlets (S1-S5) of the machine (1), and user processing information (PF) is available in the machine during a first sorting pass in relation to at least a certain mailpiece, said postal sorting method being characterized in that it includes a step consisting, in a memory, in associating said user processing information with a graphical signature of the mailpiece that is representative of an image of the mailpiece, and in recovering (32, 33), during the second machine sorting pass of said certain mailpiece, said user processing information that is associated with it on the basis of matching of graphical signatures using a certain resemblance criterion.
  2. A method according to claim 1, wherein, while a set of mailpieces are being recirculated into the machine for a second sorting pass, graphical signatures associated respectively with user processing information are filtered for the purpose of dynamically creating a dictionary of graphical classes, and wherein matching is detected between a graphical class and a graphical signature of a mailpiece as computed during the second sorting pass for the purpose of recovering the user processing information associated with said mailpiece.
  3. A method according to claim 2, wherein each graphical class has a descriptor that is a mean value of descriptors of a plurality of graphical signatures.
  4. A method according to claim 1, wherein said user processing information comprises information about the spatial position of the recipient address block.
  5. A method according to claim 1, wherein said user processing information comprises information about the spatial position of the sender address block.
  6. A method according to claim 1, wherein said user processing information comprises information indicative of a physical characteristic that is common to a plurality of mailpieces.
  7. A method according to claim 6, wherein said information indicates that a mailpiece has a plastics wrapper.
  8. A method according to claim 6, wherein said information indicates that a mailpiece is of the open type or of the magazine type.
  9. A method according to any preceding claim, wherein said user processing information is fed into the machine during the first sorting pass by a machine operator.
  10. A method according to any preceding claim, wherein said user processing information is pre-recorded in a memory in the machine.
  11. A method according to any preceding claim, wherein said user processing information is produced by data processing in the machine during the first sorting pass of the mailpieces.
EP11735487.8A 2010-09-23 2011-06-14 Postal sorting process re-using information regarding treatment between sorting runs Not-in-force EP2618948B1 (en)

Applications Claiming Priority (2)

Application Number Priority Date Filing Date Title
FR1057658A FR2965193B1 (en) 2010-09-23 2010-09-23 POSTAL SORTING METHOD WITH RECOVERY OF USER TREATMENT INFORMATION BETWEEN SORT PASSES
PCT/FR2011/051340 WO2012038626A1 (en) 2010-09-23 2011-06-14 Mail-sorting method with the retrieval of user processing information between sorting passes

Publications (2)

Publication Number Publication Date
EP2618948A1 EP2618948A1 (en) 2013-07-31
EP2618948B1 true EP2618948B1 (en) 2014-11-19

Family

ID=43798326

Family Applications (1)

Application Number Title Priority Date Filing Date
EP11735487.8A Not-in-force EP2618948B1 (en) 2010-09-23 2011-06-14 Postal sorting process re-using information regarding treatment between sorting runs

Country Status (10)

Country Link
US (1) US9144827B2 (en)
EP (1) EP2618948B1 (en)
JP (1) JP5944394B2 (en)
CN (1) CN103153489B (en)
CA (1) CA2811391C (en)
DK (1) DK2618948T3 (en)
ES (1) ES2526780T3 (en)
FR (1) FR2965193B1 (en)
PT (1) PT2618948E (en)
WO (1) WO2012038626A1 (en)

Family Cites Families (14)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
KR100286163B1 (en) * 1994-08-08 2001-04-16 가네꼬 히사시 Address recognition method, address recognition device and paper sheet automatic processing system
US6316741B1 (en) * 1999-06-04 2001-11-13 Lockheed Martin Corporation Object sortation for delivery sequencing
DE19947259C1 (en) * 1999-09-30 2000-09-28 Siemens Ag Sorting packages involves changing/emptying containers when full, storing packages in same sequence, entering package data in database and re-ordering during subsequent sorting runs
US6613998B2 (en) * 2001-03-23 2003-09-02 Opex Corporation Method and apparatus for processing outgoing bulk mail
FR2841673B1 (en) 2002-06-26 2004-12-03 Solystic TIMING OF POSTAL OBJECTS BY IMAGE SIGNATURE AND ASSOCIATED SORTING MACHINE
EP1389493A1 (en) * 2002-08-12 2004-02-18 MIT Management intelligenter Technologien GmbH Process and apparatus for automatic marking of address fields
JP2004171122A (en) * 2002-11-18 2004-06-17 Toshiba Corp Sheets processing system and sheets processing method
FR2881663B1 (en) * 2005-02-08 2007-03-16 Solystic Sa METHOD FOR PROCESSING POSTAL SHIPMENTS WITH OCR ATTRIBUTE OCCURENCE DETECTION
JP2007000698A (en) * 2005-06-21 2007-01-11 Toshiba Corp Address reader, apparatus for treatment of postal matter and address reading method
JP2007268466A (en) * 2006-03-31 2007-10-18 Toshiba Corp System and method of processing mail
EP1927407A1 (en) * 2006-11-28 2008-06-04 Intelmail Explorenet Pty Ltd. Object verification method and system
FR2916661B1 (en) 2007-05-30 2009-07-03 Solystic Sas METHOD FOR PROCESSING SHIPMENTS INCLUDING GRAPHIC CLASSIFICATION OF SIGNATURES ASSOCIATED WITH SHIPMENTS
FR2927827B1 (en) * 2008-02-26 2011-04-01 Solystic METHOD FOR SORTING POSTAL SHIPMENTS INCLUDING OPTIMIZED MANAGEMENT OF THE SPACE FOR EXPLORING SIGNATURES OF SHIPMENTS
US8085980B2 (en) * 2008-08-13 2011-12-27 Lockheed Martin Corporation Mail piece identification using bin independent attributes

Also Published As

Publication number Publication date
DK2618948T3 (en) 2014-12-15
CN103153489A (en) 2013-06-12
FR2965193A1 (en) 2012-03-30
CA2811391C (en) 2017-02-28
CN103153489B (en) 2014-11-05
JP2013542065A (en) 2013-11-21
ES2526780T3 (en) 2015-01-15
JP5944394B2 (en) 2016-07-05
FR2965193B1 (en) 2012-08-31
CA2811391A1 (en) 2012-03-29
WO2012038626A1 (en) 2012-03-29
PT2618948E (en) 2015-02-05
US20120173015A1 (en) 2012-07-05
US9144827B2 (en) 2015-09-29
EP2618948A1 (en) 2013-07-31

Similar Documents

Publication Publication Date Title
EP1866105B1 (en) Method for processing postal packets including managing digital impressions of the postal packets
EP1718423B1 (en) Method for sorting mail by means of a plurality of sorting passes
EP2155406B1 (en) Method of handling transmittals including a graphic classification of the signatures associated with the transmittals
EP1519796B2 (en) Identification tagging of postal objects by image signature and associated mail handling machine
EP2190594B1 (en) Method of processing postal packages with client codes associated with digital imprints
CA2914678C (en) Method for sorting postal objects at the sorting box with display of a virtual stack of object images
WO2009106778A1 (en) Method for sorting postal items including an optimised management of the exploration space of item signatures
EP2618948B1 (en) Postal sorting process re-using information regarding treatment between sorting runs
FR2933628A1 (en) METHOD FOR SORTING MULTIPLE OBJECTS WITH A DETECTION OF INFORMATION
FR2800303A1 (en) POSTAL SORTING METHOD INCLUDING RECOVERY OF CODES READING ERRORS APPLIED ON MAIL ITEMS
EP3903230B1 (en) Structural image matching by hashing descriptors of singularities of the gradient
FR2864664A1 (en) METHOD FOR PROCESSING POSTAL SHIPMENTS WITH ADDRESSING A DISTRIBUTION ERROR OVERCURRENT
FR2987763A1 (en) METHOD FOR MONITORING POSTAL SENDS FOR MEASURING ROUTE TIMES IN A MULTI-NETWORK POSTAL SORTING SYSTEM
FR2883494A1 (en) METHOD FOR PROCESSING POSTAL SHIPMENTS INCLUDING TANK CONTROL
EP3205412A1 (en) Method for sorting pre-sorted mail items
EP2133845A1 (en) Franking system enabling the handling of postage items with different destinations

Legal Events

Date Code Title Description
PUAI Public reference made under article 153(3) epc to a published international application that has entered the european phase

Free format text: ORIGINAL CODE: 0009012

17P Request for examination filed

Effective date: 20130423

AK Designated contracting states

Kind code of ref document: A1

Designated state(s): AL AT BE BG CH CY CZ DE DK EE ES FI FR GB GR HR HU IE IS IT LI LT LU LV MC MK MT NL NO PL PT RO RS SE SI SK SM TR

RAP1 Party data changed (applicant data changed or rights of an application transferred)

Owner name: SOLYSTIC

DAX Request for extension of the european patent (deleted)
GRAP Despatch of communication of intention to grant a patent

Free format text: ORIGINAL CODE: EPIDOSNIGR1

INTG Intention to grant announced

Effective date: 20140829

GRAS Grant fee paid

Free format text: ORIGINAL CODE: EPIDOSNIGR3

GRAA (expected) grant

Free format text: ORIGINAL CODE: 0009210

RIN1 Information on inventor provided before grant (corrected)

Inventor name: DESPREZ, OLIVIER

AK Designated contracting states

Kind code of ref document: B1

Designated state(s): AL AT BE BG CH CY CZ DE DK EE ES FI FR GB GR HR HU IE IS IT LI LT LU LV MC MK MT NL NO PL PT RO RS SE SI SK SM TR

REG Reference to a national code

Ref country code: GB

Ref legal event code: FG4D

Free format text: NOT ENGLISH

REG Reference to a national code

Ref country code: CH

Ref legal event code: EP

REG Reference to a national code

Ref country code: DK

Ref legal event code: T3

Effective date: 20141212

Ref country code: AT

Ref legal event code: REF

Ref document number: 696678

Country of ref document: AT

Kind code of ref document: T

Effective date: 20141215

Ref country code: CH

Ref legal event code: NV

Representative=s name: SPIERENBURG AND PARTNER AG, PATENT- UND MARKEN, CH

REG Reference to a national code

Ref country code: IE

Ref legal event code: FG4D

Free format text: LANGUAGE OF EP DOCUMENT: FRENCH

REG Reference to a national code

Ref country code: DE

Ref legal event code: R096

Ref document number: 602011011550

Country of ref document: DE

Effective date: 20141231

REG Reference to a national code

Ref country code: ES

Ref legal event code: FG2A

Ref document number: 2526780

Country of ref document: ES

Kind code of ref document: T3

Effective date: 20150115

REG Reference to a national code

Ref country code: SE

Ref legal event code: TRGR

REG Reference to a national code

Ref country code: NL

Ref legal event code: T3

REG Reference to a national code

Ref country code: PT

Ref legal event code: SC4A

Free format text: AVAILABILITY OF NATIONAL TRANSLATION

Effective date: 20150120

REG Reference to a national code

Ref country code: LT

Ref legal event code: MG4D

PG25 Lapsed in a contracting state [announced via postgrant information from national office to epo]

Ref country code: IS

Free format text: LAPSE BECAUSE OF FAILURE TO SUBMIT A TRANSLATION OF THE DESCRIPTION OR TO PAY THE FEE WITHIN THE PRESCRIBED TIME-LIMIT

Effective date: 20150319

Ref country code: LT

Free format text: LAPSE BECAUSE OF FAILURE TO SUBMIT A TRANSLATION OF THE DESCRIPTION OR TO PAY THE FEE WITHIN THE PRESCRIBED TIME-LIMIT

Effective date: 20141119

REG Reference to a national code

Ref country code: NO

Ref legal event code: T2

Effective date: 20141119

PG25 Lapsed in a contracting state [announced via postgrant information from national office to epo]

Ref country code: CY

Free format text: LAPSE BECAUSE OF FAILURE TO SUBMIT A TRANSLATION OF THE DESCRIPTION OR TO PAY THE FEE WITHIN THE PRESCRIBED TIME-LIMIT

Effective date: 20141119

Ref country code: GR

Free format text: LAPSE BECAUSE OF FAILURE TO SUBMIT A TRANSLATION OF THE DESCRIPTION OR TO PAY THE FEE WITHIN THE PRESCRIBED TIME-LIMIT

Effective date: 20150220

Ref country code: LV

Free format text: LAPSE BECAUSE OF FAILURE TO SUBMIT A TRANSLATION OF THE DESCRIPTION OR TO PAY THE FEE WITHIN THE PRESCRIBED TIME-LIMIT

Effective date: 20141119

Ref country code: PL

Free format text: LAPSE BECAUSE OF FAILURE TO SUBMIT A TRANSLATION OF THE DESCRIPTION OR TO PAY THE FEE WITHIN THE PRESCRIBED TIME-LIMIT

Effective date: 20141119

Ref country code: HR

Free format text: LAPSE BECAUSE OF FAILURE TO SUBMIT A TRANSLATION OF THE DESCRIPTION OR TO PAY THE FEE WITHIN THE PRESCRIBED TIME-LIMIT

Effective date: 20141119

Ref country code: RS

Free format text: LAPSE BECAUSE OF FAILURE TO SUBMIT A TRANSLATION OF THE DESCRIPTION OR TO PAY THE FEE WITHIN THE PRESCRIBED TIME-LIMIT

Effective date: 20141119

PG25 Lapsed in a contracting state [announced via postgrant information from national office to epo]

Ref country code: SK

Free format text: LAPSE BECAUSE OF FAILURE TO SUBMIT A TRANSLATION OF THE DESCRIPTION OR TO PAY THE FEE WITHIN THE PRESCRIBED TIME-LIMIT

Effective date: 20141119

Ref country code: RO

Free format text: LAPSE BECAUSE OF FAILURE TO SUBMIT A TRANSLATION OF THE DESCRIPTION OR TO PAY THE FEE WITHIN THE PRESCRIBED TIME-LIMIT

Effective date: 20141119

Ref country code: CZ

Free format text: LAPSE BECAUSE OF FAILURE TO SUBMIT A TRANSLATION OF THE DESCRIPTION OR TO PAY THE FEE WITHIN THE PRESCRIBED TIME-LIMIT

Effective date: 20141119

Ref country code: EE

Free format text: LAPSE BECAUSE OF FAILURE TO SUBMIT A TRANSLATION OF THE DESCRIPTION OR TO PAY THE FEE WITHIN THE PRESCRIBED TIME-LIMIT

Effective date: 20141119

REG Reference to a national code

Ref country code: DE

Ref legal event code: R097

Ref document number: 602011011550

Country of ref document: DE

PLBE No opposition filed within time limit

Free format text: ORIGINAL CODE: 0009261

STAA Information on the status of an ep patent application or granted ep patent

Free format text: STATUS: NO OPPOSITION FILED WITHIN TIME LIMIT

26N No opposition filed

Effective date: 20150820

PG25 Lapsed in a contracting state [announced via postgrant information from national office to epo]

Ref country code: MC

Free format text: LAPSE BECAUSE OF FAILURE TO SUBMIT A TRANSLATION OF THE DESCRIPTION OR TO PAY THE FEE WITHIN THE PRESCRIBED TIME-LIMIT

Effective date: 20141119

PG25 Lapsed in a contracting state [announced via postgrant information from national office to epo]

Ref country code: SI

Free format text: LAPSE BECAUSE OF FAILURE TO SUBMIT A TRANSLATION OF THE DESCRIPTION OR TO PAY THE FEE WITHIN THE PRESCRIBED TIME-LIMIT

Effective date: 20141119

Ref country code: LU

Free format text: LAPSE BECAUSE OF FAILURE TO SUBMIT A TRANSLATION OF THE DESCRIPTION OR TO PAY THE FEE WITHIN THE PRESCRIBED TIME-LIMIT

Effective date: 20150614

REG Reference to a national code

Ref country code: FR

Ref legal event code: PLFP

Year of fee payment: 6

PGFP Annual fee paid to national office [announced via postgrant information from national office to epo]

Ref country code: NO

Payment date: 20160623

Year of fee payment: 6

Ref country code: CH

Payment date: 20160620

Year of fee payment: 6

Ref country code: IE

Payment date: 20160621

Year of fee payment: 6

REG Reference to a national code

Ref country code: AT

Ref legal event code: UEP

Ref document number: 696678

Country of ref document: AT

Kind code of ref document: T

Effective date: 20141119

PGFP Annual fee paid to national office [announced via postgrant information from national office to epo]

Ref country code: BE

Payment date: 20160620

Year of fee payment: 6

Ref country code: DK

Payment date: 20160620

Year of fee payment: 6

Ref country code: AT

Payment date: 20160621

Year of fee payment: 6

Ref country code: PT

Payment date: 20160614

Year of fee payment: 6

Ref country code: NL

Payment date: 20160620

Year of fee payment: 6

PG25 Lapsed in a contracting state [announced via postgrant information from national office to epo]

Ref country code: MT

Free format text: LAPSE BECAUSE OF FAILURE TO SUBMIT A TRANSLATION OF THE DESCRIPTION OR TO PAY THE FEE WITHIN THE PRESCRIBED TIME-LIMIT

Effective date: 20141119

PG25 Lapsed in a contracting state [announced via postgrant information from national office to epo]

Ref country code: SM

Free format text: LAPSE BECAUSE OF FAILURE TO SUBMIT A TRANSLATION OF THE DESCRIPTION OR TO PAY THE FEE WITHIN THE PRESCRIBED TIME-LIMIT

Effective date: 20141119

Ref country code: BG

Free format text: LAPSE BECAUSE OF FAILURE TO SUBMIT A TRANSLATION OF THE DESCRIPTION OR TO PAY THE FEE WITHIN THE PRESCRIBED TIME-LIMIT

Effective date: 20141119

Ref country code: HU

Free format text: LAPSE BECAUSE OF FAILURE TO SUBMIT A TRANSLATION OF THE DESCRIPTION OR TO PAY THE FEE WITHIN THE PRESCRIBED TIME-LIMIT; INVALID AB INITIO

Effective date: 20110614

REG Reference to a national code

Ref country code: FR

Ref legal event code: PLFP

Year of fee payment: 7

PG25 Lapsed in a contracting state [announced via postgrant information from national office to epo]

Ref country code: TR

Free format text: LAPSE BECAUSE OF FAILURE TO SUBMIT A TRANSLATION OF THE DESCRIPTION OR TO PAY THE FEE WITHIN THE PRESCRIBED TIME-LIMIT

Effective date: 20141119

REG Reference to a national code

Ref country code: DK

Ref legal event code: EBP

Effective date: 20170630

Ref country code: NO

Ref legal event code: MMEP

REG Reference to a national code

Ref country code: CH

Ref legal event code: PL

REG Reference to a national code

Ref country code: NL

Ref legal event code: MM

Effective date: 20170701

REG Reference to a national code

Ref country code: AT

Ref legal event code: MM01

Ref document number: 696678

Country of ref document: AT

Kind code of ref document: T

Effective date: 20170614

PG25 Lapsed in a contracting state [announced via postgrant information from national office to epo]

Ref country code: PT

Free format text: LAPSE BECAUSE OF NON-PAYMENT OF DUE FEES

Effective date: 20171214

REG Reference to a national code

Ref country code: IE

Ref legal event code: MM4A

PG25 Lapsed in a contracting state [announced via postgrant information from national office to epo]

Ref country code: NL

Free format text: LAPSE BECAUSE OF NON-PAYMENT OF DUE FEES

Effective date: 20170701

PG25 Lapsed in a contracting state [announced via postgrant information from national office to epo]

Ref country code: NO

Free format text: LAPSE BECAUSE OF NON-PAYMENT OF DUE FEES

Effective date: 20170630

Ref country code: CH

Free format text: LAPSE BECAUSE OF NON-PAYMENT OF DUE FEES

Effective date: 20170630

Ref country code: IE

Free format text: LAPSE BECAUSE OF NON-PAYMENT OF DUE FEES

Effective date: 20170614

Ref country code: LI

Free format text: LAPSE BECAUSE OF NON-PAYMENT OF DUE FEES

Effective date: 20170630

PG25 Lapsed in a contracting state [announced via postgrant information from national office to epo]

Ref country code: AT

Free format text: LAPSE BECAUSE OF NON-PAYMENT OF DUE FEES

Effective date: 20170614

REG Reference to a national code

Ref country code: BE

Ref legal event code: MM

Effective date: 20170630

REG Reference to a national code

Ref country code: FR

Ref legal event code: PLFP

Year of fee payment: 8

PG25 Lapsed in a contracting state [announced via postgrant information from national office to epo]

Ref country code: MK

Free format text: LAPSE BECAUSE OF FAILURE TO SUBMIT A TRANSLATION OF THE DESCRIPTION OR TO PAY THE FEE WITHIN THE PRESCRIBED TIME-LIMIT

Effective date: 20141119

PG25 Lapsed in a contracting state [announced via postgrant information from national office to epo]

Ref country code: DK

Free format text: LAPSE BECAUSE OF NON-PAYMENT OF DUE FEES

Effective date: 20170630

PG25 Lapsed in a contracting state [announced via postgrant information from national office to epo]

Ref country code: BE

Free format text: LAPSE BECAUSE OF NON-PAYMENT OF DUE FEES

Effective date: 20170630

PG25 Lapsed in a contracting state [announced via postgrant information from national office to epo]

Ref country code: AL

Free format text: LAPSE BECAUSE OF FAILURE TO SUBMIT A TRANSLATION OF THE DESCRIPTION OR TO PAY THE FEE WITHIN THE PRESCRIBED TIME-LIMIT

Effective date: 20141119

PGFP Annual fee paid to national office [announced via postgrant information from national office to epo]

Ref country code: DE

Payment date: 20200618

Year of fee payment: 10

Ref country code: FI

Payment date: 20200622

Year of fee payment: 10

Ref country code: FR

Payment date: 20200622

Year of fee payment: 10

PGFP Annual fee paid to national office [announced via postgrant information from national office to epo]

Ref country code: SE

Payment date: 20200625

Year of fee payment: 10

Ref country code: GB

Payment date: 20200625

Year of fee payment: 10

PGFP Annual fee paid to national office [announced via postgrant information from national office to epo]

Ref country code: ES

Payment date: 20200825

Year of fee payment: 10

PGFP Annual fee paid to national office [announced via postgrant information from national office to epo]

Ref country code: IT

Payment date: 20200625

Year of fee payment: 10

REG Reference to a national code

Ref country code: DE

Ref legal event code: R119

Ref document number: 602011011550

Country of ref document: DE

REG Reference to a national code

Ref country code: FI

Ref legal event code: MAE

REG Reference to a national code

Ref country code: SE

Ref legal event code: EUG

PG25 Lapsed in a contracting state [announced via postgrant information from national office to epo]

Ref country code: FI

Free format text: LAPSE BECAUSE OF NON-PAYMENT OF DUE FEES

Effective date: 20210614

GBPC Gb: european patent ceased through non-payment of renewal fee

Effective date: 20210614

PG25 Lapsed in a contracting state [announced via postgrant information from national office to epo]

Ref country code: GB

Free format text: LAPSE BECAUSE OF NON-PAYMENT OF DUE FEES

Effective date: 20210614

Ref country code: DE

Free format text: LAPSE BECAUSE OF NON-PAYMENT OF DUE FEES

Effective date: 20220101

PG25 Lapsed in a contracting state [announced via postgrant information from national office to epo]

Ref country code: SE

Free format text: LAPSE BECAUSE OF NON-PAYMENT OF DUE FEES

Effective date: 20210615

Ref country code: FR

Free format text: LAPSE BECAUSE OF NON-PAYMENT OF DUE FEES

Effective date: 20210630

PG25 Lapsed in a contracting state [announced via postgrant information from national office to epo]

Ref country code: IT

Free format text: LAPSE BECAUSE OF NON-PAYMENT OF DUE FEES

Effective date: 20210614

REG Reference to a national code

Ref country code: ES

Ref legal event code: FD2A

Effective date: 20220901

PG25 Lapsed in a contracting state [announced via postgrant information from national office to epo]

Ref country code: ES

Free format text: LAPSE BECAUSE OF NON-PAYMENT OF DUE FEES

Effective date: 20210615