FR2986930A1 - Method for acquiring images from video by video image acquiring device, involves providing displacement of images acquired in presence of movement to be lower than distance between centers of two adjacent pixels of pixel array - Google Patents

Method for acquiring images from video by video image acquiring device, involves providing displacement of images acquired in presence of movement to be lower than distance between centers of two adjacent pixels of pixel array Download PDF

Info

Publication number
FR2986930A1
FR2986930A1 FR1251263A FR1251263A FR2986930A1 FR 2986930 A1 FR2986930 A1 FR 2986930A1 FR 1251263 A FR1251263 A FR 1251263A FR 1251263 A FR1251263 A FR 1251263A FR 2986930 A1 FR2986930 A1 FR 2986930A1
Authority
FR
France
Prior art keywords
video
video images
image
video image
acquired
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
FR1251263A
Other languages
French (fr)
Other versions
FR2986930B1 (en
Inventor
Jean-Pierre Beauviala
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Aaton Digital SAS
Original Assignee
Aaton SA
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Aaton SA filed Critical Aaton SA
Priority to FR1251263A priority Critical patent/FR2986930B1/en
Publication of FR2986930A1 publication Critical patent/FR2986930A1/en
Application granted granted Critical
Publication of FR2986930B1 publication Critical patent/FR2986930B1/en
Expired - Fee Related legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Classifications

    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/58Means for changing the camera field of view without moving the camera body, e.g. nutating or panning of optics or image sensors
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N25/00Circuitry of solid-state image sensors [SSIS]; Control thereof
    • H04N25/48Increasing resolution by shifting the sensor relative to the scene
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/95Computational photography systems, e.g. light-field imaging systems
    • H04N23/951Computational photography systems, e.g. light-field imaging systems by using two or more images to influence resolution, frame rate or aspect ratio

Abstract

The method involves applying random and/or periodic movement to a sensor (14) and/or with an optical system (20) relative to a case (12) during video image acquisition. Displacement of video images acquired in presence of the movement relative to video images acquired in the absence of the movement is provided to be strictly lower than a distance between centers of two adjacent pixels of a pixel array while the displacement is provided to be strictly higher than quarter of the distance between the centers of the adjacent pixels. Independent claims are also included for the following: (1) a method for displaying video images on a display screen (2) a video image acquiring device (3) a device for displaying video images.

Description

B9489 1 PROCÉDÉ D'ACQUISITION ET D'AFFICHAGE D'IMAGES VIDÉO NUMÉRIQUES Domaine de l'invention La présente invention concerne un procédé d'acquisition et un procédé d'affichage d'images vidéo numériques. Elle concerne également un dispositif d'acquisition d'images vidéo et un dispositif d'affichage d'images vidéo pour la mise en oeuvre de tels procédés. Exposé de l'art antérieur Un flux vidéo est composé d'une succession d'images qui sont affichées à un rythme fixe (par exemple 25 ou 30 images par seconde) pour donner l'illusion du mouvement. Une image d'un flux vidéo est appelée image vidéo. Une image numérique correspond à une image acquise par un capteur, traitée et stockée sous forme de signaux binaires. La figure 1 représente, de façon schématique, un dispositif 10 d'acquisition d'images vidéo numériques. Le dispositif 10 comprend un boîtier 12 contenant un capteur 14 d'images vidéo numériques relié à une unité de traitement 16 (pP), par exemple un microcontrôleur. L'unité de traitement 16 fonctionne à la cadence d'un signal d'horloge fourni par un module d'horloge 18 (CLK). Le dispositif 10 comprend également un système optique 20, d'axe optique D, qui réalise la mise au point de l'image optique d'un objet 22 sur le capteur 14. Le B9489 2 système optique 20 comprend, par exemple, plusieurs lentilles qui peuvent être déplacées le long de l'axe D par rapport au capteur 14 à partir de signaux fournis par l'unité de traitement 16. Les images vidéo capturées par le capteur 14 sont stockées, après traitement, dans une mémoire 24 (MEM). L'alimentation des composants du dispositif d'acquisition 10 est réalisée par un dispositif d'alimentation 26 (BAT), par exemple une batterie. En figure 1, les parcours de deux rayons optiques partant de l'objet 22, traversant le système optique 20 et atteignant le capteur 14 sont représentés de façon schématique par des lignes brisées et fléchées 27 et 28. La fréquence d'acquisition des images vidéo est de façon classique supérieure ou égale à 20 images par seconde, par exemple supérieure ou égale à 30 images par seconde. FIELD OF THE INVENTION The present invention relates to an acquisition method and a method for displaying digital video images. BACKGROUND OF THE INVENTION It also relates to a video image acquisition device and a video image display device for implementing such methods. Discussion of the Prior Art A video stream is composed of a succession of images that are displayed at a fixed rate (for example 25 or 30 frames per second) to give the illusion of movement. An image of a video stream is called a video image. A digital image is an image acquired by a sensor, processed and stored as binary signals. FIG. 1 schematically represents a device 10 for acquiring digital video images. The device 10 comprises a housing 12 containing a digital video image sensor 14 connected to a processing unit 16 (pP), for example a microcontroller. The processing unit 16 operates at the rate of a clock signal provided by a clock module 18 (CLK). The device 10 also comprises an optical system 20, of optical axis D, which focuses the optical image of an object 22 on the sensor 14. The optical system B9489 2 comprises, for example, several lenses which can be moved along the axis D with respect to the sensor 14 from signals supplied by the processing unit 16. The video images captured by the sensor 14 are stored, after processing, in a memory 24 (MEM) . The power supply of the components of the acquisition device 10 is carried out by a power supply device 26 (BAT), for example a battery. In FIG. 1, the paths of two optical rays starting from the object 22, passing through the optical system 20 and reaching the sensor 14, are schematically represented by broken lines and arrows 27 and 28. The acquisition frequency of the video images is conventionally greater than or equal to 20 frames per second, for example greater than or equal to 30 frames per second.

Le capteur 14 peut comprendre une matrice de pixels disposés en rangées et en colonnes. Il peut s'agir d'un capteur d'images vidéo réalisés selon la technologie CMOS (acronyme anglais pour Complementary Metal Oxide Semiconductor) ou CCD (acronyme anglais pour Charge-Coupled Device). Chaque pixel comprend un photodétecteur adapté à convertir un rayonnement électromagnétique (par exemple la lumière visible) en un signal électrique analogique. Ce signal est ensuite amplifié, puis numérisé par un convertisseur analogique-numérique. L'ensemble des signaux numériques est enfin traité par l'unité de trai- terrent 16 pour obtenir une image vidéo numérique stockée dans la mémoire 24. La figure 2 représente, de façon schématique, une matrice M de quatre pixels contigus PixA, PixB, PixC et PixD répartis selon deux rangées et deux colonnes. A titre d'exemple, chaque pixel PixA, PixB, PixC et PixD occupe une surface carrée dont les côtés ont chacun une longueur A de quelques micromètres, par exemple 6 pin. Les dimensions de la plus petite image optique pouvant être détectée par le capteur 14 peuvent être déterminées de façon théorique à partir de la dimension A B9489 3 des pixels du capteur et de la sensibilité de ces pixels. Ceci correspond à la résolution théorique du capteur. Toutefois, un défaut des capteurs d'images vidéo numériques actuels est que, dans certains cas, l'image optique d'un objet, qui pourrait en théorie être détectée, n'est en fait pas détectée de façon correcte par le capteur 14 lors de l'acquisition d'une image vidéo. C'est le cas, par exemple, de l'image optique dont le contour est représenté par un cercle hachuré 29 en figure 2 et qui se forme à cheval les quatre pixels PixA, PixB, PixC et PixD. Comme l'image optique 29 s'étend sur une faible partie de chaque pixel PixA, PixB, PixC et PixD, les signaux électriques analogiques fournis par les pixels PixA, PixB, PixC et PixD peuvent ne pas être représentatifs de l'image optique 29. De ce fait, l'image optique 29 peut ne pas apparaître de façon correcte sur l'image vidéo numérique déterminée à partir de ces signaux. Ainsi, selon que l'image optique 29 se forme sur un seul pixel ou à cheval sur plusieurs pixels, elle peut être détectée plus ou moins convenablement. La résolution réelle du capteur 14 est donc inférieure à la résolution théorique. Il existe donc un besoin d'un procédé d'acquisition d'images vidéo par un capteur d'images vidéo qui permettent d'améliorer la détection des images optiques de dimensions inférieures aux dimensions des pixels du capteur. The sensor 14 may comprise a matrix of pixels arranged in rows and columns. It can be a video image sensor made using CMOS (acronym for Complementary Metal Oxide Semiconductor) or CCD (acronym for Charge-Coupled Device) technology. Each pixel comprises a photodetector adapted to convert electromagnetic radiation (eg visible light) into an analog electrical signal. This signal is then amplified and digitized by an analog-to-digital converter. The set of digital signals is finally processed by the processing unit 16 to obtain a digital video image stored in the memory 24. FIG. 2 schematically represents a matrix M of four contiguous pixels PixA, PixB, PixC and PixD divided into two rows and two columns. By way of example, each pixel PixA, PixB, PixC and PixD occupies a square surface whose sides each have a length A of a few microns, for example 6 pins. The dimensions of the smallest optical image that can be detected by the sensor 14 can be determined theoretically from the pixel size of the sensor and the sensitivity of these pixels. This corresponds to the theoretical resolution of the sensor. However, a defect of current digital video image sensors is that in some cases the optical image of an object, which could theoretically be detected, is in fact not detected correctly by sensor 14 when the acquisition of a video image. This is the case, for example, of the optical image whose contour is represented by a hatched circle 29 in FIG. 2 and which is formed on the four pixels PixA, PixB, PixC and PixD. Since the optical image 29 extends over a small portion of each pixel PixA, PixB, PixC and PixD, the analog electrical signals provided by pixels PixA, PixB, PixC and PixD may not be representative of the optical image 29 As a result, the optical image 29 may not appear correctly on the digital video image determined from these signals. Thus, depending on whether the optical image 29 is formed on a single pixel or straddling several pixels, it can be detected more or less properly. The actual resolution of the sensor 14 is therefore lower than the theoretical resolution. There is therefore a need for a method of acquiring video images by a video image sensor which makes it possible to improve the detection of optical images of dimensions smaller than the dimensions of the pixels of the sensor.

Résumé de l'invention Un objet de la présente invention est de proposer un procédé d'acquisition d'images vidéo qui pallie tout ou partie des inconvénients des procédés usuels. Un objet de l'invention vise à proposer un procédé d'acquisition d'images vidéo qui permet l'affichage, sans perturbation ou avec peu de perturbations, de l'image d'un objet dont les dimensions sont inférieures à celles des pixels du capteur utilisé pour acquérir les images vidéo. SUMMARY OF THE INVENTION An object of the present invention is to provide a video image acquisition method that overcomes all or part of the disadvantages of the usual methods. An object of the invention is to propose a video image acquisition method which allows the display, without disturbance or with few disturbances, of the image of an object whose dimensions are smaller than those of the pixels of the sensor used to acquire video images.

B9489 4 Selon un autre objet de la présente invention, la résolution des images vidéo acquises par le dispositif d'acquisition d'images vidéo est améliorée. Selon un autre objet, le procédé d'acquisition 5 d'images vidéo selon l'invention peut être mis en oeuvre avec des dispositifs d'acquisition d'images connus. Ainsi, la présente invention prévoit un procédé d'acquisition d'images vidéo par un dispositif d'acquisition d'images vidéo comprenant un boîtier contenant un capteur 10 d'images vidéo ayant une matrice de pixels et un système optique de mise au point des images vidéo sur le capteur. Un mouvement est appliqué au capteur et/ou au système optique par rapport au boîtier lors de l'acquisition des images vidéo. Pour chaque image vidéo acquise, le déplacement de l'image vidéo acquise en 15 présence du mouvement par rapport à l'image vidéo acquise en l'absence du mouvement est strictement inférieur à la distance entre les centres de deux pixels adjacents. Selon un exemple de réalisation de l'invention, pour chaque image vidéo acquise, le déplacement de l'image vidéo 20 acquise en présence du mouvement par rapport à l'image vidéo acquise en l'absence du mouvement est strictement supérieur au quart de la distance entre les centres de deux pixels adjacents. Selon un exemple de réalisation de l'invention, le mouvement est aléatoire. 25 Selon un exemple de réalisation de l'invention, le mouvement est périodique. Selon un exemple de réalisation de l'invention, chaque pixel comprend une face active carrée, et la distance entre les centres de deux pixels adjacents correspond à la longueur du 30 côté du pixel. La présente invention prévoit également un procédé d'affichage sur un écran d'affichage des images vidéo acquises par le procédé d'acquisition tel que défini précédemment, comprenant le décalage des images vidéo affichées par rapport à 35 l'écran d'affichage pour compenser ledit mouvement. According to another object of the present invention, the resolution of the video images acquired by the video image acquisition device is improved. According to another object, the method of acquiring video images according to the invention can be implemented with known image acquisition devices. Thus, the present invention provides a method of acquiring video images by a video image acquisition device comprising a housing containing a video image sensor having a pixel matrix and an optical system for developing video images. video images on the sensor. Motion is applied to the sensor and / or the optical system relative to the housing when acquiring the video images. For each video image acquired, the displacement of the video image acquired in the presence of motion relative to the video image acquired in the absence of motion is strictly less than the distance between the centers of two adjacent pixels. According to an exemplary embodiment of the invention, for each video image acquired, the displacement of the video image 20 acquired in the presence of the movement with respect to the video image acquired in the absence of the movement is strictly greater than a quarter of the distance between the centers of two adjacent pixels. According to an exemplary embodiment of the invention, the movement is random. According to an exemplary embodiment of the invention, the movement is periodic. According to an exemplary embodiment of the invention, each pixel comprises a square active face, and the distance between the centers of two adjacent pixels corresponds to the length of the pixel side. The present invention also provides a method of displaying on a display screen video images acquired by the acquisition method as defined above, comprising shifting the displayed video images relative to the display screen to compensate for said movement.

B9489 Selon un exemple de réalisation de l'invention, l'affichage des images vidéo est réalisé par un dispositif d'affichage, le procédé comprenant la fourniture au dispositif d'affichage de données représentatives dudit mouvement. 5 Selon un exemple de réalisation de l'invention, le procédé comprend la détermination de nouvelles images vidéo à partir des images vidéo acquises, le stockage des nouvelles images vidéo et l'affichage des nouvelles images vidéo sur l'écran d'affichage. B9489 According to an exemplary embodiment of the invention, the display of the video images is performed by a display device, the method comprising providing the display device with data representative of said movement. According to an exemplary embodiment of the invention, the method comprises determining new video images from the acquired video images, storing the new video images and displaying the new video images on the display screen.

Selon un exemple de réalisation de l'invention, le procédé comprend, après l'acquisition des images vidéo, une étape d'analyse des images vidéo acquises pour déterminer ledit mouvement. Selon un exemple de réalisation de l'invention, le procédé comprend, lors de l'acquisition des images vidéo, la formation d'un repère sur les images vidéo acquises correspondant à l'image optique sur les images vidéo acquises d'un objet virtuel fixe par rapport au boîtier et la détermination dudit mouvement à partir de la variation de la position du repère sur les images vidéo acquises. Selon un exemple de réalisation de l'invention, la détermination de chaque nouvelle image vidéo à partir de l'image vidéo acquise correspondante comprend les étapes suivantes, l'image vidéo acquise comprenant une matrice de pixels d'image : diviser chaque pixel d'image en plusieurs nouveaux pixels d'image, les nouveaux pixels d'image étant répartis selon une nouvelle matrice en rangées et en colonnes successives ; et supprimer au moins la première rangée, la dernière rangée, la première colonne et/ou la dernière colonne de la 30 nouvelle matrice. La présente invention prévoit également un dispositif d'acquisition d'images vidéo pour la mise en oeuvre du procédé tel que défini précédemment, comportant un boitier contenant un capteur d'images vidéo ayant une matrice de pixels ; un système 35 optique de mise au point des images vidéo sur le capteur ; un B9489 6 dispositif de déplacement du capteur et/ou du système optique par rapport au boîtier ; et une unité de traitement adaptée à commander le dispositif de déplacement pour appliquer un mouvement au capteur d'images et/ou au système optique par rapport au boîtier lors de l'acquisition des images vidéo, pour chaque image vidéo acquise, le déplacement de l'image vidéo acquise en présence du mouvement par rapport à l'image vidéo acquise en l'absence du mouvement étant strictement inférieur à la distance entre les centres de deux pixels adjacents. According to an exemplary embodiment of the invention, the method comprises, after the acquisition of the video images, a step of analyzing the video images acquired to determine said movement. According to an exemplary embodiment of the invention, the method comprises, during the acquisition of the video images, the formation of a marker on the acquired video images corresponding to the optical image on the video images acquired from a virtual object fixed relative to the housing and the determination of said movement from the variation of the position of the marker on the acquired video images. According to an exemplary embodiment of the invention, the determination of each new video image from the corresponding acquired video image comprises the following steps, the acquired video image comprising a matrix of image pixels: divide each pixel of image in several new image pixels, the new image pixels being distributed according to a new matrix in rows and in successive columns; and delete at least the first row, the last row, the first column and / or the last column of the new matrix. The present invention also provides a video image acquisition device for implementing the method as defined above, comprising a box containing a video image sensor having a matrix of pixels; an optical system for focusing the video images on the sensor; a B9489 device for moving the sensor and / or the optical system relative to the housing; and a processing unit adapted to control the displacement device for applying motion to the image sensor and / or the optical system with respect to the housing when acquiring the video images, for each acquired video image, moving the image video image acquired in the presence of the movement with respect to the video image acquired in the absence of the movement being strictly less than the distance between the centers of two adjacent pixels.

La présente invention prévoit également un dispositif d'affichage d'images vidéo pour la mise en oeuvre du procédé d'affichage tel que défini précédemment, comportant un écran d'affichage ; un dispositif de stockage des images vidéo ; et un module de traitement relié à l'écran d'affichage pour l'affichage des images vidéo sur l'écran d'affichage, le module de traitement étant adapté à traiter les images vidéo et/ou à commander l'écran d'affichage pour décaler les images vidéo affichées par rapport à l'écran d'affichage de façon à compenser ledit mouvement. The present invention also provides a video image display device for implementing the display method as defined above, comprising a display screen; a video image storage device; and a processing module connected to the display screen for displaying video images on the display screen, the processing module being adapted to process the video images and / or to control the display screen to shift displayed video images relative to the display screen to compensate for said motion.

Brève description des dessins Ces objets, caractéristiques et avantages, ainsi que d'autres seront exposés en détail dans la description suivante de modes de réalisation particuliers faite à titre non limitatif en relation avec les figures jointes parmi lesquelles : la figure 1, décrite précédemment, représente, de façon schématique, un dispositif d'acquisition d'images vidéo ; la figure 2, décrite précédemment, représente de façon schématique une matrice de pixels d'un capteur d'images vidéo ; les figures 3 et 4 représentent de façon schématique 30 des exemples de réalisation de dispositifs d'acquisition d'images vidéo selon l'invention ; les figures aA à 5D représentent, de façon schématique, des images vidéo successives détectées lors de la mise en oeuvre d'un exemple de réalisation du procédé 35 d'acquisition d'images vidéo selon l'invention ; B9489 7 la figure 6 représente, de façon schématique, un exemple de réalisation d'un dispositif d'affichage d'images vidéo selon l'invention ; les figures 7A à 7D représentent, de façon schéma-5 tique, des images vidéo successivement affichées lors de la mise en oeuvre d'un exemple de réalisation du procédé d'affichage d'images vidéo selon l'invention ; et les figures 8 et 9 représentent, sous la forme de schéma par blocs, des exemples de réalisation du procédé 10 d'affichage d'images vidéo selon l'invention. Description détaillée Par souci de clarté, de mêmes éléments ont été désignés par de mêmes références aux différentes figures. En outre, seuls les éléments nécessaires à la compréhension de 15 l'invention seront décrits. En particulier, seuls les éléments des dispositifs d'acquisition et d'affichage d'images vidéo nécessaires à la compréhension de l'invention seront décrits. Le principe de l'invention est le suivant : lors de l'acquisition des images vidéo, un procédé est mis en oeuvre 20 pour que les images vidéo d'un objet fixe par rapport au dispositif d'acquisition d'images vidéo correspondent aux images vidéo qui seraient acquises si un mouvement, par exemple des vibrations, était appliqué à l'objet. L'amplitude maximale du déplacement de l'image optique de l'objet sur le capteur par 25 rapport à l'image optique obtenue en l'absence de mouvement est strictement inférieure à la distance entre les centres de deux pixels adjacents du capteur, de préférence inférieure au deux tiers de la distance entre les centres de deux pixels adjacents. Lorsque la face éclairée du pixel a une forme carrée, 30 l'amplitude maximale du déplacement de l'image optique de l'objet sur le capteur par rapport à l'image optique obtenue en l'absence de mouvement est strictement inférieure à la longueur du côté d'un pixel, de préférence inférieure au deux tiers de la longueur du côté d'un pixel. Le mouvement peut être obtenu par 35 un déplacement du capteur d'images vidéo et/ou du système B9489 8 optique de mise au point par rapport au boîtier. L'image optique d'un objet va donc se déplacer par rapport au capteur d'images vidéo lors de l'acquisition des images vidéo. Ainsi, l'image optique d'un objet dont les dimensions 5 sont inférieures à la distance entre les centres de deux pixels adjacents du capteur et qui, en l'absence de mouvement, est à cheval sur plusieurs pixels, se trouve, en présence du mouvement, au moins pour l'essentiel sur un seul pixel au cours de l'acquisition d'images vidéo même si l'objet est fixe par 10 rapport au dispositif d'acquisition lors de l'acquisition des images vidéo. De ce fait, l'image optique de l'objet va être détectée convenablement par au moins certains pixels lors de l'acquisition des images vidéo. Au moment de l'affichage sur un écran d'affichage des 15 images vidéo acquises selon le procédé d'acquisition de l'invention, un traitement est réalisé pour compenser le mouvement appliqué lors de l'acquisition des images vidéo de sorte qu'un objet fixe par rapport au dispositif d'acquisition d'images vidéo, lors de l'acquisition des images vidéo, 20 apparaisse également fixe sur les images vidéo affichées. Ceci peut être obtenu par un traitement numérique des images vidéo acquises et/ou par un procédé de commande adapté des circuits de commande de l'écran d'affichage. Lors de l'affichage des images vidéo, un objet dont 25 l'image optique a des dimensions inférieures à la distance entre les centres de deux pixels adjacents du capteur d'images va apparaître de façon convenable sur l'écran au moins sur certaines images vidéo. Les procédés d'acquisition et d'affichage d'images vidéo selon l'invention permettent donc l'affi- 30 chage convenable d'un objet dont l'image optique sur le capteur a des dimensions inférieures à la distance entre les centres de deux pixels adjacents du capteur et qui pourrait ne pas apparaître de façon convenable avec des procédés d'acquisition et d'affichage connus. Tout se passe alors comme si la 35 résolution du capteur d'images était augmentée. BRIEF DESCRIPTION OF THE DRAWINGS These and other objects, features, and advantages will be set forth in detail in the following description of particular embodiments in a non-limiting manner with reference to the accompanying figures, in which: Figure 1, previously described, schematically represents a video image acquisition device; FIG. 2, previously described, schematically represents a matrix of pixels of a video image sensor; FIGS. 3 and 4 schematically represent exemplary embodiments of video image acquisition devices according to the invention; FIGS. aA to 5D show, schematically, successive video images detected during the implementation of an exemplary embodiment of the video image acquisition method according to the invention; FIG. 6 schematically represents an exemplary embodiment of a video image display device according to the invention; FIGS. 7A to 7D show, schematically, video images successively displayed during the implementation of an exemplary embodiment of the video image display method according to the invention; and Figures 8 and 9 show, in block diagram form, exemplary embodiments of the video image display method according to the invention. DETAILED DESCRIPTION For the sake of clarity, the same elements have been designated with the same references in the various figures. In addition, only the elements necessary for the understanding of the invention will be described. In particular, only the elements of the video image acquisition and display devices necessary for understanding the invention will be described. The principle of the invention is as follows: during the acquisition of the video images, a method is implemented so that the video images of a fixed object with respect to the video image acquisition device correspond to the images video that would be acquired if a motion, such as vibration, was applied to the object. The maximum amplitude of the displacement of the optical image of the object on the sensor relative to the optical image obtained in the absence of motion is strictly less than the distance between the centers of two adjacent pixels of the sensor, preferably less than two-thirds of the distance between the centers of two adjacent pixels. When the illuminated face of the pixel has a square shape, the maximum amplitude of the displacement of the optical image of the object on the sensor relative to the optical image obtained in the absence of motion is strictly less than the length on the side of a pixel, preferably less than two-thirds of the length of the side of a pixel. Movement can be achieved by moving the video image sensor and / or the optical focusing system relative to the housing. The optical image of an object will therefore move relative to the video image sensor during the acquisition of the video images. Thus, the optical image of an object whose dimensions are smaller than the distance between the centers of two adjacent pixels of the sensor and which, in the absence of movement, straddles several pixels, is, in the presence of the motion, at least essentially on a single pixel during the acquisition of video images even if the object is fixed with respect to the acquisition device during the acquisition of the video images. As a result, the optical image of the object will be correctly detected by at least some pixels during the acquisition of the video images. At the time of displaying on a display screen the 15 video images acquired according to the acquisition method of the invention, a processing is performed to compensate the movement applied during the acquisition of the video images so that a Fixed object with respect to the video image acquisition device, when acquiring the video images, also appears fixed on the displayed video images. This can be achieved by digitally processing the acquired video images and / or by a control method adapted from the control circuits of the display screen. When displaying the video images, an object whose optical image has dimensions smaller than the distance between the centers of two adjacent pixels of the image sensor will suitably appear on the screen at least on certain images. video. The methods of acquiring and displaying video images according to the invention thus allow the appropriate display of an object whose optical image on the sensor has dimensions smaller than the distance between the centers of two adjacent pixels of the sensor and which may not appear properly with known acquisition and display methods. Everything then happens as if the resolution of the image sensor was increased.

B9489 9 Les figures 3 et 4 représentent deux exemples de réalisation d'un dispositif d'acquisition d'images vidéo selon l'invention adaptés à la mise en oeuvre du procédé d'acquisition d'images vidéo selon l'invention. B9489 9 Figures 3 and 4 show two embodiments of a video image acquisition device according to the invention adapted to the implementation of the video image acquisition method according to the invention.

Comme cela est représenté de façon schématique en figure 3, le dispositif d'acquisition d'images vidéo 30 comprend tous les éléments du dispositif d'acquisition d'images vidéo 10 représenté en figure 1 à la différence que le dispositif 30 comprend, en outre, un dispositif 32 de déplacement du système optique 20 par rapport au boîtier 12. Le déplacement peut être réalisé dans un plan perpendiculaire à l'axe optique D du système optique 20 comme cela est illustré par les flèches 34, 36 en figure 3. Le dispositif de déplacement 32 est commandé par l'unité de traitement 16. Le dispositif de déplacement 32 peut comprendre les éléments d'un dispositif de stabilisation optique d'images vidéo par déplacement du système optique 20 qui peut, de façon connue, être utilisé lors de l'acquisition d'images vidéo pour améliorer la stabilité des images vidéo. Le dispositif de stabilisation optique d'images vidéo est alors utilisé de façon différente par rapport à un procédé connu de stabilisation d'images vidéo. La figure 4 représente un autre exemple de réalisation d'un dispositif d'acquisition d'images vidéo 40 qui comprend tous les éléments du dispositif d'acquisition d'images vidéo 10 représenté en figure 1 à la différence que le dispositif 40 comprend, en outre, un dispositif de déplacement 42 du capteur 14. Le déplacement peut être réalisé dans un plan perpendiculaire à l'axe optique D du système optique 20 comme cela est illustré par les flèches 44 et 46 en figure 4. Le dispositif de déplacement 42 est commandé par l'unité de traitement 16. Le dispositif de déplacement 42 peut comprendre les éléments d'un dispositif de stabilisation optique d'images vidéo par déplacement du capteur d'images 14 qui peut, de façon connue, être utilisé lors de l'acquisition d'images vidéo pour améliorer la stabilité des images vidéo. Le dispositif de B9489 10 stabilisation optique d'images vidéo est alors utilisé de façon différente par rapport à un procédé connu de stabilisation d'images vidéo. Le procédé d'acquisition d'images vidéo selon le présent exemple de réalisation de l'invention comprend le déplacement du système optique 20 ou du capteur 14 par rapport au boîtier 12 pendant l'acquisition des images vidéo. Dans ce but, l'unité de traitement 16 commande le dispositif de déplacement 32 pour faire bouger le système optique 20 ou le dispositif de déplacement 42 pour faire bouger le capteur 14 pendant l'acquisition des images vidéo. Plus précisément, l'acquisition d'une image vidéo peut comprendre, pour chaque pixel, une phase d'intégration à la fin de laquelle le photodétecteur du pixel fournit un signal représentatif de la quantité de rayonnements lumineux reçue par le pixel pendant la phase d'intégration. La phase d'intégration est suivie d'une phase de traitement pendant laquelle le traitement du signal fourni par le photodétecteur est réalisé pour fournir l'image vidéo. Les phases d'intégration et de traitement de tous les pixels du capteur 14 peuvent ne pas être simultanées. Le déplacement du système optique 20 ou du capteur 14 peut être effectué seulement pendant les phases d'intégration, seulement pendant les phases de traitement, ou pendant les phases d'intégration et de traitement. Le déplacement du système optique 20 ou du capteur 14 peut être réalisé de façon continue ou séquentielle. A titre d'exemple, le déplacement du système optique 20 et/ou du capteur 14 est réalisé entre l'acquisition de deux images vidéo successives, par exemple pendant la phase de traitement entre deux phases d'intégration successives. As shown schematically in FIG. 3, the video image acquisition device 30 comprises all the elements of the video image acquisition device 10 shown in FIG. 1, with the difference that the device 30 further comprises , a device 32 for moving the optical system 20 with respect to the housing 12. The displacement can be carried out in a plane perpendicular to the optical axis D of the optical system 20 as illustrated by the arrows 34, 36 in FIG. displacement device 32 is controlled by the processing unit 16. The displacement device 32 can comprise the elements of an optical optical image stabilization device by displacement of the optical system 20 which can, in known manner, be used during the acquisition of video images to improve the stability of video images. The optical image stabilization device is then used in a different way compared to a known method of video image stabilization. FIG. 4 represents another exemplary embodiment of a video image acquisition device 40 which comprises all the elements of the video image acquisition device 10 represented in FIG. 1, with the difference that the device 40 comprises, in furthermore, a displacement device 42 of the sensor 14. The displacement can be made in a plane perpendicular to the optical axis D of the optical system 20 as illustrated by the arrows 44 and 46 in FIG. 4. The displacement device 42 is controlled by the processing unit 16. The displacement device 42 may comprise the elements of an optical image stabilization device by displacement of the image sensor 14 which may, in known manner, be used during the acquiring video images to improve the stability of video images. The optical image stabilization device B9489 is then used in a different way than a known method of video image stabilization. The video image acquisition method according to the present embodiment of the invention comprises the displacement of the optical system 20 or the sensor 14 relative to the housing 12 during the acquisition of the video images. For this purpose, the processing unit 16 controls the moving device 32 to move the optical system 20 or the moving device 42 to move the sensor 14 during the acquisition of the video images. More specifically, the acquisition of a video image may comprise, for each pixel, an integration phase at the end of which the photodetector of the pixel provides a signal representative of the amount of light radiation received by the pixel during the first phase. 'integration. The integration phase is followed by a processing phase during which the signal processing provided by the photodetector is performed to provide the video image. The integration and processing phases of all the pixels of the sensor 14 may not be simultaneous. The displacement of the optical system 20 or the sensor 14 can be carried out only during the integration phases, only during the processing phases, or during the integration and processing phases. The displacement of the optical system 20 or the sensor 14 can be carried out continuously or sequentially. By way of example, the displacement of the optical system 20 and / or the sensor 14 is achieved between the acquisition of two successive video images, for example during the processing phase between two successive integration phases.

Le déplacement du système optique 20 et/ou du capteur 14 par rapport au boîtier 12 peut correspondre à des oscillations ou vibrations en passant par une position de référence par rapport au boîtier 12, la position de référence correspondant à la position du système optique 20 et/ou du capteur 14 par rapport au boîtier 12 en l'absence de déplacement B9489 11 du système optique 20 et/ou du capteur 14 par rapport au boîtier 12. Il peut s'agir également d'oscillations ou de vibrations sans passer par la position de référence mais en évoluant autour de cette position de référence. L'image optique d'un objet qui est obtenue lorsque le système optique 20 et/ou le capteur 14 est dans la position de référence est appelée image de référence par la suite. Le déplacement du système optique 20 et/ou du capteur 14 entraîne un déplacement de l'image optique de l'objet sur le capteur 14 par rapport à l'image de référence. L'amplitude maximale des déplacements de l'image optique se formant sur le capteur 14 par rapport à l'image de référence est strictement inférieure à la distance entre les centres de deux pixels adjacents, de préférence inférieure au deux tiers de la distance entre les centres de deux pixels adjacents. Lorsque la face éclairée du pixel a une forme carrée, l'amplitude maximale des déplacements de l'image optique de l'objet sur le capteur par rapport à l'image de référence est strictement inférieure à la longueur du côté d'un pixel, de préférence inférieure au deux tiers de la longueur du côté d'un pixel. Selon un exemple de réalisation, les mouvements du système optique 20 et/ou du capteur 14 sont réalisés de façon aléatoire ou pseudoaléatoire. Selon un autre exemple de réalisation, le mouvement du système optique 20 ou du capteur 14 par rapport au boîtier 12 est prédéfini. A titre d'exemple, le centre optique du système optique 20 ou chaque pixel du capteur d'images 14 suit un mouvement périodique, par exemple selon une direction perpendiculaire à l'axe optique D ou selon une courbe dans un plan perpendiculaire à l'axe optique D. La courbe peut être un segment de droite, un cercle, un triangle, un carré, une croix, etc. La période du mouvement est supérieure à la période d'acquisition d'images vidéo et inférieure à 20 fois la période d'acquisition d'images vidéo, de préférence inférieure à 10 fois la période d'acquisition d'images vidéo. The displacement of the optical system 20 and / or the sensor 14 relative to the housing 12 may correspond to oscillations or vibrations passing through a reference position relative to the housing 12, the reference position corresponding to the position of the optical system 20 and or the sensor 14 relative to the housing 12 in the absence of displacement B9489 11 of the optical system 20 and / or the sensor 14 relative to the housing 12. It may also be oscillations or vibrations without passing through the reference position but evolving around this reference position. The optical image of an object that is obtained when the optical system 20 and / or the sensor 14 is in the reference position is referred to as the reference image thereafter. The displacement of the optical system 20 and / or the sensor 14 causes a displacement of the optical image of the object on the sensor 14 relative to the reference image. The maximum amplitude of the displacements of the optical image forming on the sensor 14 relative to the reference image is strictly less than the distance between the centers of two adjacent pixels, preferably less than two thirds of the distance between the centers of two adjacent pixels. When the illuminated face of the pixel has a square shape, the maximum amplitude of the displacements of the optical image of the object on the sensor relative to the reference image is strictly less than the length of the side of a pixel, preferably less than two thirds of the length of the side of a pixel. According to an exemplary embodiment, the movements of the optical system 20 and / or the sensor 14 are carried out randomly or pseudo-randomly. According to another exemplary embodiment, the movement of the optical system 20 or the sensor 14 relative to the housing 12 is predefined. By way of example, the optical center of the optical system 20 or each pixel of the image sensor 14 follows a periodic movement, for example in a direction perpendicular to the optical axis D or in a curve in a plane perpendicular to the optical axis D. The curve can be a line segment, a circle, a triangle, a square, a cross, etc. The period of motion is greater than the video image acquisition period and less than 20 times the video image acquisition period, preferably less than 10 times the video image acquisition period.

B9489 12 Selon un exemple de réalisation, l'acquisition des images vidéo a lieu alors que l'image optique de l'objet se situe sur le capteur 14 à une position différente de l'image de référence. De préférence, l'acquisition des images vidéo a lieu 5 alors que l'image optique est déplacée par rapport à l'image de référence d'une distance au moins supérieure au quart de la distance entre les centres de deux pixels adjacents. Lorsque la face éclairée du pixel a une forme carrée, l'acquisition des images vidéo a lieu alors que l'image optique est déplacée par 10 rapport à l'image de référence d'une distance au moins supérieure au quart de la longueur du côté du pixel. Avec les exemples de courbes indiqués précédemment, des images vidéo peuvent être acquises lorsque le capteur 14 et/ou le système optique 20 se trouvent aux extrémités du 15 segment de droite, aux sommets du triangle, aux coins du carré, aux extrémités de la croix, etc. Les figures SA à 5D représentent, de façon partielle et schématique, la matrice M de pixels du capteur 14 représenté en figure 2 lors de l'acquisition de quatre images vidéo 20 successives selon un exemple de réalisation du procédé d'acquisition d'images vidéo selon l'invention. A titre d'exemple, on considère un objet qui est fixe par rapport au dispositif d'acquisition d'images 30 ou 40 et dont l'image optique, qui se forme sur le capteur d'images 14, a des 25 dimensions inférieures à la distance entre les centres de deux pixels adjacents. En l'absence de déplacement du système optique 20 et/ou du capteur 14, l'image optique de l'objet a la position de l'image optique 29 de la figure 2 à cheval sur les quatre pixels PixA, PixB, Pixc et PixD. 30 Comme cela est représenté aux figures SA, 5B, 5C et 5D, le système optique 22 et/ou le capteur d'image 14 a été déplacé par rapport au boîtier 12 de sorte que le cercle 29 se situe successivement dans le pixel PixA, le pixel PixB, le pixel PixD et le pixel PixC alors que l'objet n'a pas bougé par 35 rapport au dispositif 30 ou 40. Dans le présent exemple, le B9489 13 mouvement appliqué au système optique 20 et/ou au capteur 14 est périodique et suit une courbe fermée ayant une forme carrée. Dans cet exemple de réalisation, l'amplitude du déplacement de l'image optique aux figures 5A, 5B, 5C et 5D par rapport à l'image de référence, représentée en figure 2, est égale à la moitié de la diagonale d'un pixel. La figure 6 représente, de façon schématique, un exemple de réalisation d'un dispositif 60 d'affichage d'images vidéo numériques. Le dispositif 60 comprend un écran d'affichage 62, comprenant, par exemple, une matrice de pixels 64 disposés en rangées et en colonnes et un circuit de commande 66 de la matrice de pixels 64. A titre d'exemple, la matrice 64 comprend plusieurs millions de pixels. Le circuit de commande 60 est adapté à sélectionner les pixels à activer de l'écran 62 en fonction de signaux fournis par un module de traitement 68 (pP), par exemple un microcontrôleur, cadencé par un signal d'horloge fourni par un module d'horloge 71 (CLK). Le module de traitement 68 peut être relié à une mémoire 72 (MEM) dans laquelle sont stockées les images vidéo à afficher. Le dispositif d'affichage 60 peut échanger des données avec un dispositif externe par un canal d'échange de données 70. Un transfert des images vidéo du dispositif d'acquisition d'images vidéo 30 ou 40 vers le dispositif d'affichage 60 est réalisé. Les images vidéo transférées peuvent être stockées dans la mémoire 72. La totalité des images vidéo à afficher peut être stockée dans la mémoire 72 avant son affichage. A titre de variante, les images vidéo peuvent être transmises au module de traitement 68 par le canal d'échange de données 70 au fur et à mesure de leur affichage sur l'écran 62. Les images vidéo peuvent alors être stockées temporairement dans la mémoire 72. Le module de traitement 68 effectue un traitement de sorte qu'un observateur voie chaque image vidéo sur l'écran 62 avec un décalage par rapport à la position qu'aurait dû occuper l'image vidéo sur l'écran 62, ce décalage étant différent d'une image vidéo à l'autre. Le mouvement est défini de façon à B9489 14 compenser les oscillations appliquées lors de la phase d'acquisition des images vidéo. Selon un exemple de réalisation, le module de traitement 68 détermine une nouvelle image vidéo à partir de 5 chaque image vidéo initiale à afficher. La nouvelle image vidéo correspond à l'image vidéo initiale pour laquelle une opération mathématique de translation est appliquée à tous les pixels de l'image. Lorsque la nouvelle image vidéo est affichée sur l'écran 62, un observateur voit donc l'image vidéo initiale avec 10 un décalage par rapport à l'écran 62. Selon un autre exemple de réalisation, les images vidéo ne sont pas modifiées mais le fonctionnement du circuit de commande 66 est modifié. Par exemple, pour un écran 62 matriciel comprenant des pixels disposés en rangées et en colonnes, le 15 circuit de commande 66 peut décaler, lors de l'affichage d'une image vidéo, chaque rangée et/ou chaque colonne sélectionnée par rapport à la rangée et/ou à la colonne qui auraient dû être sélectionnées d'un nombre de rangées et/ou d'un nombre de colonnes qui varient d'une image vidéo à l'autre de sorte que 20 l'image vidéo initiale apparaît avec un décalage par rapport à l'écran 62. Selon un autre exemple de réalisation, de nouvelles images vidéo sont déterminées à partir des images vidéo initiales à afficher et le fonctionnement du circuit de commande 25 66 est modifié pour l'affichage des nouvelles images vidéo. Selon un exemple de réalisation, les données permettant la réalisation du mouvement à appliquer peuvent être mémorisées dans la mémoire 72. Selon un autre exemple de réalisation, les données 30 permettant la réalisation du mouvement à appliquer peuvent être transmises du dispositif d'acquisition 30 ou 40 vers le dispositif d'affichage 60, par exemple avec les images vidéo. Selon un autre exemple de réalisation, aucune donnée relative au mouvement à appliquer n'est stockée au préalable 35 dans la mémoire 72 du dispositif d'affichage 60 ni n'est B9489 15 transmise au dispositif d'affichage 60 par le dispositif d'acquisition 30 ou 40. A titre d'exemple, le module de traitement 68 détermine le mouvement à appliquer à partir d'une analyse des images vidéo reçues. Dans ce but, un repère peut être enregistré sur chaque image vidéo acquise par le dispositif d'acquisition 10, le repère correspondant à l'image optique d'un objet factice qui serait fixe par rapport au dispositif d'acquisition 30 ou 40. Lors de l'acquisition des images vidéo, le repère se déplace sur les images vidéo acquises en raison du déplacement du système optique 20 et/ou du capteur 14. Le module de traitement 68 du dispositif d'affichage 60 est adapté à déterminer le repère sur chaque image vidéo à afficher et à déterminer quel mouvement a été appliqué lors de l'acquisition des images vidéo à partir des changements de positions du repère sur les images vidéo successives. Le module de traitement 68 peut alors déterminer la compensation à appliquer pour que le repère apparaisse fixe par rapport à l'écran 62 lors de l'affichage des images vidéo. Les figures 7A à 7D illustrent les images affichées successivement sur l'écran 62. Les images vidéo affichées correspondent aux images vidéo acquises avec le mouvement décrit précédemment en relation avec les figures aA à 5D. Le cadre 74 en traits pointillés représente de façon schématique la partie de l'écran 62 vue par un observateur. Les pixels PixA, PixB, Pixc et PixD désignent les pixels des images vidéo acquises lors des opérations d'acquisition décrites précédemment en relation avec les figures aA à 5D. A titre d'exemple, on considère que l'image optique 29 devrait être affichée au centre du cadre 74. Comme cela est représenté aux figures 7A, 7B, 7C et 7D, les images vidéo ont été déplacées entre chaque affichage successif de sorte que le cercle 29 apparaisse toujours à la même position relative par rapport au cadre 74 alors qu'il se situe successivement dans le pixel PixA, le pixel PixB, le pixel PixD et le pixel PixC des images vidéo acquises. According to an exemplary embodiment, the acquisition of the video images takes place while the optical image of the object is on the sensor 14 at a position different from the reference image. Preferably, the acquisition of the video images takes place while the optical image is displaced with respect to the reference image by a distance at least greater than a quarter of the distance between the centers of two adjacent pixels. When the illuminated side of the pixel has a square shape, the acquisition of the video images takes place while the optical image is moved relative to the reference image by a distance at least greater than a quarter of the length of the side. of the pixel. With the examples of curves indicated above, video images can be acquired when the sensor 14 and / or the optical system 20 are at the ends of the line segment, at the vertices of the triangle, at the corners of the square, at the ends of the cross etc. FIGS. 5A to 5D show, partially and schematically, the matrix M of pixels of the sensor 14 shown in FIG. 2 during the acquisition of four successive video images 20 according to an exemplary embodiment of the video image acquisition method according to the invention. By way of example, an object which is fixed with respect to the image acquisition device 30 or 40 and whose optical image, which is formed on the image sensor 14, has dimensions smaller than the distance between the centers of two adjacent pixels. In the absence of displacement of the optical system 20 and / or the sensor 14, the optical image of the object has the position of the optical image 29 of FIG. 2 straddling the four pixels PixA, PixB, Pixc and PixD. As shown in FIGS. 5A, 5B, 5C and 5D, the optical system 22 and / or the image sensor 14 has been moved relative to the housing 12 so that the circle 29 is successively in the PixA pixel, pixel PixB, pixel PixD and pixel PixC while the object has not moved relative to device 30 or 40. In the present example, motion B9489 13 applied to optical system 20 and / or sensor 14 is periodic and follows a closed curve having a square shape. In this exemplary embodiment, the amplitude of the displacement of the optical image in FIGS. 5A, 5B, 5C and 5D with respect to the reference image, represented in FIG. 2, is equal to half the diagonal of a pixel. FIG. 6 schematically represents an exemplary embodiment of a device 60 for displaying digital video images. The device 60 comprises a display screen 62, comprising, for example, a matrix of pixels 64 arranged in rows and columns and a control circuit 66 of the matrix of pixels 64. By way of example, the matrix 64 comprises several million pixels. The control circuit 60 is adapted to select the pixels to be activated from the screen 62 as a function of signals supplied by a processing module 68 (pP), for example a microcontroller, clocked by a clock signal supplied by a module clock 71 (CLK). The processing module 68 may be connected to a memory 72 (MEM) in which the video images to be displayed are stored. The display device 60 can exchange data with an external device via a data exchange channel 70. A transfer of the video images from the video image acquisition device 30 or 40 to the display device 60 is performed . The transferred video images can be stored in the memory 72. All of the video images to be displayed can be stored in the memory 72 before it is displayed. Alternatively, the video images can be transmitted to the processing module 68 through the data exchange channel 70 as they are displayed on the screen 62. The video images can then be temporarily stored in the memory 72. The processing module 68 performs a processing so that an observer sees each video frame on the screen 62 with an offset with respect to the position that should have occupied the video image on the screen 62, this shift being different from one video image to another. The motion is defined so as to compensate for the oscillations applied during the acquisition phase of the video images. According to an exemplary embodiment, the processing module 68 determines a new video image from each initial video image to be displayed. The new video image corresponds to the initial video image for which a translational mathematical operation is applied to all the pixels of the image. When the new video image is displayed on the screen 62, an observer thus sees the initial video image with an offset from the screen 62. According to another embodiment, the video images are not modified but the operation of the control circuit 66 is changed. For example, for a matrix screen 62 comprising pixels arranged in rows and columns, the control circuit 66 can shift, when displaying a video image, each row and / or each selected column relative to the row and / or column that should have been selected from a number of rows and / or a number of columns that vary from one video frame to another so that the initial video image appears with a In another exemplary embodiment, new video images are determined from the initial video images to be displayed and the operation of the control circuit 66 is changed to display the new video images. According to an exemplary embodiment, the data enabling the implementation of the movement to be applied can be stored in the memory 72. According to another exemplary embodiment, the data enabling the movement to be applied can be transmitted from the acquisition device 30 or 40 to the display device 60, for example with the video images. According to another exemplary embodiment, no data relating to the motion to be applied is stored beforehand in the memory 72 of the display device 60 nor is it transmitted to the display device 60 by the acquisition device For example, the processing module 68 determines the motion to be applied from an analysis of the received video images. For this purpose, a marker may be recorded on each video image acquired by the acquisition device 10, the reference corresponding to the optical image of a dummy object which would be fixed with respect to the acquisition device 30 or 40. the acquisition of the video images, the marker moves on the video images acquired because of the displacement of the optical system 20 and / or the sensor 14. The processing module 68 of the display device 60 is adapted to determine the marker on each video image to be displayed and to determine which motion has been applied during the acquisition of the video images from the changes of position of the marker on the successive video images. The processing module 68 can then determine the compensation to be applied so that the marker appears fixed relative to the screen 62 during the display of the video images. FIGS. 7A to 7D illustrate the images displayed successively on the screen 62. The displayed video images correspond to the video images acquired with the movement described above in relation with the figures aA to 5D. The dashed frame 74 schematically represents the portion of the screen 62 seen by an observer. The pixels PixA, PixB, Pixc and PixD denote the pixels of the video images acquired during the acquisition operations described above in relation to the figures aA to 5D. By way of example, it is considered that the optical image 29 should be displayed in the center of the frame 74. As shown in FIGS. 7A, 7B, 7C and 7D, the video images have been moved between each successive display so that the circle 29 always appears at the same relative position with respect to the frame 74 while it is successively in the pixel PixA, the pixel PixB, the pixel PixD and the pixel PixC of the video images acquired.

B9489 16 La figure 8 représente, sous la forme d'un schéma par blocs, des étapes successives d'un exemple de réalisation d'un procédé d'affichage d'images vidéo selon l'invention adapté à l'affichage d'images vidéo comme cela est illustré aux figures 7A à 7D. A l'étape 80, le dispositif 60 reçoit les images vidéo initiales Vid0 à afficher. A l'étape 82, pour chaque image vidéo Vid0 reçue, le module de traitement 68 détermine une image vidéo Vid1 de la façon suivante : chaque pixel de l'image vidéo Vid0 est divisé en quatre pixels identiques contigus répartis en deux rangées et deux colonnes. L'image vidéo Vid1 obtenue comprend alors quatre fois plus de rangées et quatre fois plus de colonnes de pixels que l'image vidéo initiale Vid0. FIG. 8 represents, in the form of a block diagram, successive steps of an exemplary embodiment of a method for displaying video images according to the invention adapted to the display of video images. as shown in Figures 7A-7D. In step 80, the device 60 receives the initial video images Vid0 to be displayed. In step 82, for each video image Vid0 received, the processing module 68 determines a video image Vid1 as follows: each pixel of the video image Vid0 is divided into four contiguous identical pixels divided into two rows and two columns . The video image Vid1 obtained then comprises four times more rows and four times more columns of pixels than the initial video image Vid0.

A l'étape 84, le module de traitement 68 détermine, pour chaque image vidéo Vid1, une image vidéo Vid2 qui correspond à l'image vidéo Vid1 dans laquelle la première ou la dernière rangée et la première ou la dernière colonne de l'image vidéo Vid1 a été supprimée. In step 84, the processing module 68 determines, for each video image Vid1, a video image Vid2 which corresponds to the video image Vid1 in which the first or the last row and the first or the last column of the image video Vid1 has been removed.

A titre d'exemple, pour obtenir l'affichage représenté en figure aA, le module de traitement 68 peut supprimer la première rangée et la première colonne de l'image vidéo Vid1 et ajouter une dernière rangée de remplissage et une dernière colonne de remplissage. Pour obtenir l'affichage représenté en figure 5B, le module de traitement 68 peut supprimer la première rangée et la dernière colonne de l'image vidéo Vid1 et ajouter une dernière rangée de remplissage et une première colonne de remplissage. Pour obtenir l'affichage représenté en figure 5D, le module de traitement 68 peut supprimer la dernière rangée et la dernière colonne de l'image vidéo Vid1 et ajouter une première rangée de remplissage et une première colonne de remplissage. Pour obtenir l'affichage représenté en figure 5D, le module de traitement 68 peut supprimer la dernière rangée et la première colonne de l'image vidéo Vid1 et ajouter une B9489 17 première rangée de remplissage et une dernière colonne de remplissage. A l'étape 84, le module de traitement 68 détermine, pour chaque image vidéo Vid2, une image vidéo Vid3 de la façon suivante. Un pixel unique de l'image vidéo Vid3 est formé à partir de chaque groupe de quatre pixels contigus répartis en deux rangées et deux colonnes de l'image vidéo Vid2. A l'étape 86, les images vidéo Vid3 sont affichées. La figure 9 représente, sous la forme d'un schéma par blocs, un autre exemple de réalisation d'un procédé d'affichage d'images vidéo selon l'invention. Cet exemple de réalisation peut être mis en oeuvre de façon logicielle ou par des circuits électroniques dédiés. A l'étape 90, le module de traitement 68 reçoit les images vidéo initiales successives Vid10. Le module de traitement 68 analyse les images vidéo initiales Vid10 et fournit des images vidéo successives Vid11 et Vid12. Le module de traitement 68 détecte, pour chaque image vidéo Vid10, les pixels associés à des images optiques d'objets qui étaient mobiles par rapport au dispositif d'acquisition 30, 40 et les pixels associés à des images optiques d'objets qui étaient fixes par rapport au dispositif d'acquisition 30, 40. Ceci peut être réalisé par le logiciel commercialisé sous l'appellation Scratch par la société Assimilate. Pour chaque image vidéo V10, le module de traitement 68 fournit une image vidéo V11 comprenant seulement les pixels de l'image vidéo V10 associés à des objets mobiles (les autres pixels étant par exemple mis à une valeur nulle) et une image vidéo V12 comprenant seulement les pixels de l'image vidéo V10 associés à des objets fixes (les autres pixels étant par exemple mis à une valeur nulle). A l'étape 92, le module de traitement 68 détermine, pour chaque image vidéo Vid11, une image vidéo Vid13, comme cela a été décrit précédemment, de façon à compenser les mouvements appliqués au capteur 14 et/ou au système optique 20 lors de l'acquisition des images vidéo Vid10- B9489 18 A l'étape 94, le module de traitement 68 stocke N images vidéo successives Vid12 où N est un nombre entier strictement supérieur à 1. Dans le cas où le mouvement appliqué au capteur 14 et/ou au système optique 20 est périodique, le nombre N peut correspondre au nombre d'images vidéo acquises pendant une période du mouvement. A titre d'exemple, pour le mouvement périodique illustré sur les figures 5A à 5D, le nombre N peut être égal à 4. A l'étape 96, le module de traitement 68 détermine une image vidéo Vid14 à partir des N dernières images vidéo Vid12 stockées. A titre d'exemple, le module de traitement 68 fait la somme des N images vidéo Vid12 en compensant les mouvements appliqués au capteur 14 et/ou au système optique 20 lors de l'acquisition des N images vidéo Vid10 correspondantes. A titre d'exemple, la valeur de chaque pixel de l'image vidéo Vid14 est égale à la somme, divisée par N, de la valeur du pixel correspondant des N images vidéo Vid12. Selon un autre exemple, des coefficients de correction différents peuvent être appliqués aux N valeurs du pixel des N images vidéo Vid12, un poids plus important étant attribué à la dernière image vidéo Vid12 stockée. A l'étape 98, le module de traitement 68 détermine une nouvelle image vidéo Vid15 à partir de l'image vidéo Vid14 et de l'image vidéo Vid13, par exemple en ajoutant les valeurs des pixels de l'image vidéo Vid14 à l'image vidéo Vid13. Les images vidéo Vid15 peuvent alors être affichées. L'exemple de réalisation du procédé décrit en relation avec la figure 9 permet de façon avantageuse de réduire le bruit dû aux pixels pour la partie fixe des images vidéo acquises puisqu'une moyenne est réalisée sur plusieurs images vidéo successives avec des valeurs provenant de pixels différents. Des modes de réalisation particuliers de la présente invention ont été décrits. Diverses variantes et modifications apparaîtront à l'homme de l'art. En outre, on notera que l'homme 35 de l'art pourra combiner divers éléments de ces divers modes de B9489 19 réalisation et variantes sans faire preuve d'activité inventive. A titre d'exemple, le dispositif d'acquisition d'images vidéo peut comprendre à la fois le dispositif 32 de déplacement du système optique 20 représenté en figure 3 et le dispositif 42 de déplacement du capteur 14 représenté en figure 4. For example, to obtain the display shown in Figure aA, the processing module 68 can delete the first row and the first column of the video image Vid1 and add a last fill row and a last fill column. To obtain the display shown in FIG. 5B, the processing module 68 can delete the first row and the last column of the video image Vid1 and add a last fill row and a first fill column. To obtain the display shown in FIG. 5D, the processing module 68 can delete the last row and the last column of the video image Vid1 and add a first fill row and a first fill column. To obtain the display shown in FIG. 5D, the processing module 68 can delete the last row and the first column of the video image Vid1 and add a first fill row and a last fill column. In step 84, the processing module 68 determines, for each video image Vid2, a video image Vid3 as follows. A single pixel of the video image Vid3 is formed from each group of four contiguous pixels divided into two rows and two columns of the video image Vid2. In step 86, the video images Vid3 are displayed. FIG. 9 represents, in the form of a block diagram, another exemplary embodiment of a method for displaying video images according to the invention. This exemplary embodiment may be implemented in software or by dedicated electronic circuits. In step 90, the processing module 68 receives the successive initial video images Vid10. The processing module 68 analyzes the initial video images Vid10 and provides successive video images Vid11 and Vid12. The processing module 68 detects, for each video image Vid10, the pixels associated with optical images of objects that were mobile with respect to the acquisition device 30, 40 and the pixels associated with optical images of objects that were fixed compared to the acquisition device 30, 40. This can be achieved by the software marketed under the name Scratch by the company Assimilate. For each video image V10, the processing module 68 provides a video image V11 comprising only the pixels of the video image V10 associated with moving objects (the other pixels being for example set to zero) and a video image V12 comprising only the pixels of the video image V10 associated with fixed objects (the other pixels being for example set to a zero value). In step 92, the processing module 68 determines, for each video image Vid11, a video image Vid13, as described above, so as to compensate for the movements applied to the sensor 14 and / or to the optical system 20 during In step 94, the processing module 68 stores N successive video images Vid12 where N is an integer strictly greater than 1. In the case where the motion applied to the sensor 14 and / or or the optical system 20 is periodic, the number N can correspond to the number of video images acquired during a period of the movement. By way of example, for the periodic movement illustrated in FIGS. 5A to 5D, the number N can be equal to 4. In step 96, the processing module 68 determines a video image Vid14 from the last N video images Vid12 stored. For example, the processing module 68 sums the N video images Vid12 by compensating the movements applied to the sensor 14 and / or to the optical system 20 during the acquisition of the N video images Vid10 corresponding. By way of example, the value of each pixel of the video image Vid14 is equal to the sum, divided by N, of the value of the corresponding pixel of the N video images Vid12. According to another example, different correction coefficients can be applied to the N values of the pixel of the N video images Vid12, a larger weight being attributed to the last video image Vid12 stored. In step 98, the processing module 68 determines a new video image Vid15 from the video image Vid14 and the video image Vid13, for example by adding the pixel values of the video image Vid14 to the video image Vid15. Vid13 video image. Vid15 video images can then be displayed. The exemplary embodiment of the method described with reference to FIG. 9 advantageously makes it possible to reduce the noise due to the pixels for the fixed part of the video images acquired since an average is carried out on several successive video images with values coming from pixels. different. Particular embodiments of the present invention have been described. Various variations and modifications will be apparent to those skilled in the art. In addition, it will be appreciated that those skilled in the art will be able to combine various elements of these various modes of embodiment and variants without demonstrating inventive step. By way of example, the video image acquisition device may comprise both the device 32 for moving the optical system 20 shown in FIG. 3 and the device 42 for moving the sensor 14 shown in FIG.

Claims (13)

REVENDICATIONS1. Procédé d'acquisition d'images vidéo par un dispositif (30, 40) d'acquisition d'images vidéo comprenant un boîtier (12) contenant un capteur (14) d'images vidéo ayant une matrice de pixels (PixA, PixB, Pixc, PixD) et un système optique (20) de mise au point des images vidéo sur le capteur, un mouvement étant appliqué au capteur et/ou au système optique par rapport au boîtier lors de l'acquisition des images vidéo, pour chaque image vidéo acquise, le déplacement de l'image vidéo acquise en présence du mouvement par rapport à l'image vidéo acquise en l'absence du mouvement étant strictement inférieur à la distance entre les centres de deux pixels adjacents. REVENDICATIONS1. A method of acquiring video images by a video image acquisition device (30, 40) comprising a housing (12) containing a video image sensor (14) having a pixel array (PixA, PixB, Pixc , PixD) and an optical system (20) for focusing the video images on the sensor, a movement being applied to the sensor and / or the optical system with respect to the housing during the acquisition of the video images, for each video image acquired, the displacement of the video image acquired in the presence of the movement with respect to the video image acquired in the absence of the movement being strictly less than the distance between the centers of two adjacent pixels. 2. Procédé d'acquisition selon la revendication 1, dans lequel pour chaque image vidéo acquise, le déplacement de l'image vidéo acquise en présence du mouvement par rapport à l'image vidéo acquise en l'absence du mouvement étant strictement supérieur au quart de la distance entre les centres de deux pixels adjacents. 2. Acquisition method according to claim 1, wherein for each video image acquired, the displacement of the video image acquired in the presence of the movement with respect to the video image acquired in the absence of the movement being strictly greater than one quarter. the distance between the centers of two adjacent pixels. 3. Procédé d'acquisition selon la revendication 1 ou 2, dans lequel le mouvement est aléatoire. 3. Acquisition method according to claim 1 or 2, wherein the movement is random. 4. Procédé d'acquisition selon la revendication 1 ou 2, dans lequel le mouvement est périodique. 4. Acquisition method according to claim 1 or 2, wherein the movement is periodic. 5. Procédé d'acquisition selon l'une quelconque des revendications 1 à 4, dans lequel chaque pixel comprend une face active carrée, et la distance entre les centres de deux pixels 25 adjacents correspond à la longueur du côté du pixel. The acquisition method according to any one of claims 1 to 4, wherein each pixel comprises a square active face, and the distance between the centers of two adjacent pixels corresponds to the length of the pixel side. 6. Procédé d'affichage sur un écran d'affichage (64) des images vidéo acquises par le procédé d'acquisition selon l'une quelconque des revendications 1 à 5, comprenant le décalage des images vidéo affichées par rapport à l'écran 30 d'affichage pour compenser ledit mouvement. A method of displaying on a display screen (64) video images acquired by the acquisition method according to any one of claims 1 to 5, comprising shifting the displayed video images relative to the screen. display to compensate for said movement. 7. Procédé d'affichage selon la revendication 6, dans lequel l'affichage des images vidéo est réalisé par un dispositif d'affichage (60), le procédé comprenant la fournitureB9489 21 au dispositif d'affichage de données représentatives dudit mouvement. The display method of claim 6, wherein the display of the video images is performed by a display device (60), the method comprising providing to the data display device representative of said motion. 8. Procédé d'affichage selon la revendication 6 ou 7, comprenant la détermination de nouvelles images vidéo à partir des images vidéo acquises, le stockage des nouvelles images vidéo et l'affichage des nouvelles images vidéo sur l'écran d'affichage. A display method according to claim 6 or 7, comprising determining new video images from the acquired video images, storing the new video images and displaying the new video images on the display screen. 9. Procédé d'affichage selon l'une quelconque des revendications 6 à 8, comprenant, après l'acquisition des images 10 vidéo, une étape d'analyse des images vidéo acquises pour déterminer ledit mouvement. 9. Display method according to any one of claims 6 to 8, comprising, after the acquisition of the video images, a step of analyzing the video images acquired to determine said motion. 10. Procédé d'affichage selon la revendication 9, comprenant, lors de l'acquisition des images vidéo, la formation d'un repère sur les images vidéo acquises correspondant à 15 l'image optique sur les images vidéo acquises d'un objet virtuel fixe par rapport au boîtier (12) et la détermination dudit mouvement à partir de la variation de la position du repère sur les images vidéo acquises. 10. Display method according to claim 9, comprising, during the acquisition of the video images, the formation of a marker on the acquired video images corresponding to the optical image on the video images acquired from a virtual object. fixed relative to the housing (12) and determining said movement from the variation of the position of the marker on the acquired video images. 11. Procédé selon la revendication 8, dans lequel la 20 détermination de chaque nouvelle image vidéo à partir de l'image vidéo acquise correspondante comprend les étapes suivantes, l'image vidéo acquise comprenant une matrice de pixels d'image : diviser chaque pixel d'image en plusieurs nouveaux pixels d'image, les nouveaux pixels d'image étant répartis selon 25 une nouvelle matrice en rangées et en colonnes successives ; et supprimer au moins la première rangée, la dernière rangée, la première colonne et/ou la dernière colonne de la nouvelle matrice. The method of claim 8, wherein determining each new video image from the corresponding acquired video image comprises the following steps, the acquired video image comprising an image pixel array: divide each pixel of the image an image in several new image pixels, the new image pixels being distributed according to a new matrix in rows and in successive columns; and delete at least the first row, the last row, the first column and / or the last column of the new matrix. 12. Dispositif (30, 40) d'acquisition d'images vidéo 30 pour la mise en oeuvre du procédé selon l'une quelconque des revendications 1 à 5, comportant un boitier (12) contenant : un capteur (14) d'images vidéo ayant une matrice de pixels (PixA, PixB, Pixc, PixD) ; un système optique (20) de mise au point des images 35 vidéo sur le capteur ;B9489 22 un dispositif (32, 42) de déplacement du capteur et/ou du système optique par rapport au boîtier ; et une unité de traitement (16) adaptée à commander le dispositif de déplacement pour appliquer un mouvement au capteur 5 d'images et/ou au système optique par rapport au boîtier lors de l'acquisition des images vidéo, pour chaque image vidéo acquise, le déplacement de l'image vidéo acquise en présence du mouvement par rapport à l'image vidéo acquise en l'absence du mouvement étant strictement inférieur à la distance entre les centres de 10 deux pixels adjacents. 12. Device (30, 40) for acquiring video images 30 for implementing the method according to any one of claims 1 to 5, comprising a housing (12) containing: a sensor (14) images video having a matrix of pixels (PixA, PixB, Pixc, PixD); an optical system (20) for focusing the video images on the sensor; B9489 22 a device (32, 42) for moving the sensor and / or the optical system relative to the housing; and a processing unit (16) adapted to control the moving device for applying motion to the image sensor and / or the optical system with respect to the housing during the acquisition of the video images, for each acquired video image, the displacement of the video image acquired in the presence of the motion with respect to the video image acquired in the absence of the motion being strictly less than the distance between the centers of two adjacent pixels. 13. Dispositif (60) d'affichage d'images vidéo pour la mise en oeuvre du procédé d'affichage selon l'une quelconque des revendications 6 à 11, comportant : un écran d'affichage (62) ; 15 un dispositif de stockage (72) des images vidéo ; et un module de traitement (68) relié à l'écran d'affichage pour l'affichage des images vidéo sur l'écran d'affichage (64), le module de traitement étant adapté à traiter les images vidéo et/ou à commander l'écran d'affichage pour décaler les 20 images vidéo affichées par rapport à l'écran d'affichage de façon à compenser ledit mouvement. Video image display device (60) for carrying out the display method according to any one of claims 6 to 11, comprising: a display screen (62); A storage device (72) for video images; and a processing module (68) connected to the display screen for displaying the video images on the display screen (64), the processing module being adapted to process the video images and / or to control the display screen for shifting the 20 video images displayed relative to the display screen so as to compensate for said movement.
FR1251263A 2012-02-10 2012-02-10 METHOD FOR ACQUIRING AND DISPLAYING DIGITAL VIDEO IMAGES Expired - Fee Related FR2986930B1 (en)

Priority Applications (1)

Application Number Priority Date Filing Date Title
FR1251263A FR2986930B1 (en) 2012-02-10 2012-02-10 METHOD FOR ACQUIRING AND DISPLAYING DIGITAL VIDEO IMAGES

Applications Claiming Priority (2)

Application Number Priority Date Filing Date Title
FR1251263A FR2986930B1 (en) 2012-02-10 2012-02-10 METHOD FOR ACQUIRING AND DISPLAYING DIGITAL VIDEO IMAGES
FR1251263 2012-02-10

Publications (2)

Publication Number Publication Date
FR2986930A1 true FR2986930A1 (en) 2013-08-16
FR2986930B1 FR2986930B1 (en) 2019-08-09

Family

ID=46197403

Family Applications (1)

Application Number Title Priority Date Filing Date
FR1251263A Expired - Fee Related FR2986930B1 (en) 2012-02-10 2012-02-10 METHOD FOR ACQUIRING AND DISPLAYING DIGITAL VIDEO IMAGES

Country Status (1)

Country Link
FR (1) FR2986930B1 (en)

Citations (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US20020097324A1 (en) * 1996-12-27 2002-07-25 Ichiro Onuki Image sensing apparatus and method capable of merging function for obtaining high-precision image by synthesizing images and image stabilization function

Patent Citations (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US20020097324A1 (en) * 1996-12-27 2002-07-25 Ichiro Onuki Image sensing apparatus and method capable of merging function for obtaining high-precision image by synthesizing images and image stabilization function

Non-Patent Citations (1)

* Cited by examiner, † Cited by third party
Title
BEN-EZRA M ET AL: "Video Super-Resolution Using Controlled Subpixel Detector Shifts", IEEE TRANSACTIONS ON PATTERN ANALYSIS AND MACHINE INTELLIGENCE, IEEE SERVICE CENTER, LOS ALAMITOS, CA, US, vol. 27, no. 6, 1 June 2005 (2005-06-01), pages 977 - 987, XP011132801, ISSN: 0162-8828, DOI: 10.1109/TPAMI.2005.129 *

Also Published As

Publication number Publication date
FR2986930B1 (en) 2019-08-09

Similar Documents

Publication Publication Date Title
EP2398230B1 (en) Linear image sensor using CMOS technology
EP2780763B1 (en) Method and system for capturing image sequences with compensation for variations in magnification
FR2889746A1 (en) Optical lens system for mobile camera, comprises view angle that is split such that light beam entering mobile camera having different optical axes
WO2003010599A1 (en) Method for capturing a panoramic image using a rectangular image sensor
WO2013182779A1 (en) Stabilization of a line of sight of an imaging system embedded onboard a satellite
FR3011968A1 (en) METHOD AND DEVICE FOR CAPTURING AND CONSTRUCTING AT LEAST ONE PANORAMIC OR STEREOSCOPIC IMAGE
JP5976315B2 (en) Imaging device
EP2408194A2 (en) Image sensor using CMOS technology with high video rate
FR2986930B1 (en) METHOD FOR ACQUIRING AND DISPLAYING DIGITAL VIDEO IMAGES
EP3217649B1 (en) Image sensor with extended time delay and integration
FR2526987A1 (en) OPTOELECTRONIC METHOD FOR READING INFORMATION CONTAINED ON A MAGNETIC MEDIUM AND CIRCUIT FOR IMPLEMENTING SAID METHOD
WO2013050673A1 (en) Device and method for inspecting semi-conductor materials
FR2976754A1 (en) Image sensor i.e. time delay integration-type image sensor, for use in carrier e.g. earth observation satellites, has memory storing image data corresponding to point in scene observed by arrays with image data previously stored in memory
FR2914811A1 (en) OPTICAL DEVICE COMPRISING AT LEAST TWO SENSORS, METHOD FOR IMPLEMENTING THE SAME
Jefferies et al. High-resolution imaging through strong atmospheric turbulence
EP3853653B1 (en) Adaptive method, system and computer program for capturing an image
FR2968499A1 (en) METHOD OF USING IMAGE SENSOR
FR3066268A1 (en) IMAGE SENSOR
EP3165875B1 (en) Method for acquiring images by a spaceborne or airborne optical instrument with extended field of view
FR2919144A1 (en) METHOD AND DEVICE FOR DETECTING ENVELOPE SEGMENT ALGORITHM MOTION
EP2023289A1 (en) Motion detection method and device with double adaptive filtering
FR3116977A1 (en) Apparatus for compensating for the movement of an event sensor, associated systems and methods
FR3131163A1 (en) Observation system and associated observation method
FR2926895A1 (en) Sequential multi-wavelength imager for biochip fluorescence reader, has correcting unit to correct chromatic aberration of collecting and forming lenses for image capturing wavelengths, where refocusing lenses are associated to wavelengths
FR2882137A1 (en) DEVICE FOR ACQUIRING A DIGITAL IMAGE BY SCANNING WITH PASSIVE STABILIZATION

Legal Events

Date Code Title Description
PLFP Fee payment

Year of fee payment: 5

TP Transmission of property

Owner name: AATON DIGITAL, FR

Effective date: 20161214

PLFP Fee payment

Year of fee payment: 6

PLFP Fee payment

Year of fee payment: 7

PLFP Fee payment

Year of fee payment: 8

ST Notification of lapse

Effective date: 20201005

PLFP Fee payment

Year of fee payment: 10

RN Application for restoration

Effective date: 20201127

FC Decision of inpi director general to approve request for restoration

Effective date: 20201208

PLFP Fee payment

Year of fee payment: 11

PLFP Fee payment

Year of fee payment: 12