FR2955007A1 - Estimation de mouvement global et dense - Google Patents

Estimation de mouvement global et dense Download PDF

Info

Publication number
FR2955007A1
FR2955007A1 FR1050014A FR1050014A FR2955007A1 FR 2955007 A1 FR2955007 A1 FR 2955007A1 FR 1050014 A FR1050014 A FR 1050014A FR 1050014 A FR1050014 A FR 1050014A FR 2955007 A1 FR2955007 A1 FR 2955007A1
Authority
FR
France
Prior art keywords
image
motion
estimated
previous
images
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
FR1050014A
Other languages
English (en)
Other versions
FR2955007B1 (fr
Inventor
Frederic Jacquelin
Joel Budin
Youssef Benchekroun
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Safran Electronics and Defense SAS
Original Assignee
Sagem Defense Securite SA
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Sagem Defense Securite SA filed Critical Sagem Defense Securite SA
Priority to FR1050014A priority Critical patent/FR2955007B1/fr
Priority to PCT/FR2011/050010 priority patent/WO2011080495A1/fr
Priority to BR112012016403-1A priority patent/BR112012016403A2/pt
Priority to EP11704249A priority patent/EP2522140A1/fr
Priority to US13/519,944 priority patent/US8873809B2/en
Priority to RU2012133468/08A priority patent/RU2565515C2/ru
Publication of FR2955007A1 publication Critical patent/FR2955007A1/fr
Application granted granted Critical
Publication of FR2955007B1 publication Critical patent/FR2955007B1/fr
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/20Analysis of motion
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/50Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using predictive coding
    • H04N19/503Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using predictive coding involving temporal prediction
    • H04N19/51Motion estimation or motion compensation
    • H04N19/527Global motion vector estimation
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/60Control of cameras or camera modules
    • H04N23/68Control of cameras or camera modules for stable pick-up of the scene, e.g. compensating for camera body vibrations
    • H04N23/681Motion detection
    • H04N23/6811Motion detection based on the image signal
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N5/00Details of television systems
    • H04N5/14Picture signal circuitry for video frequency region
    • H04N5/144Movement detection

Landscapes

  • Engineering & Computer Science (AREA)
  • Multimedia (AREA)
  • Signal Processing (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Theoretical Computer Science (AREA)
  • Image Analysis (AREA)
  • Studio Devices (AREA)

Abstract

Dans une série d'images captées par un capteur d'image comprenant au moins une image précédente et une image suivante on estime un mouvement. On obtient (101) tout d'abord un premier mouvement estimé en effectuant une estimation de mouvement global depuis l'image précédente vers l'image suivante. Puis, on obtient (102) une image recalée sur la base du premier mouvement estimé, à partir de l'une parmi les images précédente et suivante. Ensuite, on obtient (103) un second mouvement estimé (U, V, N) en effectuant une estimation de mouvement dense entre l'image recalée et l'autre parmi les images précédente et suivante. On détermine (104) alors une valeur résiduelle de mouvement (r) global. Enfin, si (105) la valeur résiduelle est inférieure à une valeur seuil (S) on fournit le second mouvement estimé (U, V, N), sinon on réitère les étapes précédentes. Le premier mouvement estimé est déterminé par application d'un masque binaire d'image; et si à l'étape /e/ les étapes /a/ à /e/ sont réitérées, elles sont effectuées par application d'un masque binaire d'image mis à jour en fonction du second mouvement estimé.

Description

ESTIMATION DE MOUVEMENT GLOBAL ET DENSE La présente invention se rapporte au domaine du traitement d'image, et plus particulièrement au domaine de l'estimation de mouvement au sein d'une séquence d'images captées.
Lorsqu'un capteur capte une séquence d'images successivement, comme notamment dans le cas d'une vidéo, il est classique d'effectuer une estimation de mouvement globale inter image. Cette estimation de mouvement vise à déterminer le mouvement global affectant la séquence d'images entre deux images successives. Elle peut correspondre à la détermination du mouvement de l'axe de visée du capteur utilisé. Une telle estimation de mouvement global permet notamment la mise en oeuvre d'une stabilisation d'images, ou encore de débruitage d'images, ou de mettre en place un mécanisme de super-résolution. Toutefois, ce type de mécanisme peut être sensiblement perturbé lorsque la scène captée correspond à un ou plusieurs gros objets qui sont mobiles au cours de la séquence d'images captées ou encore lorsque la séquence d'images captées présente peu de contraste. Ainsi, dans ces cas là notamment, il est possible que l'estimation de mouvement global soit erronée in fine.
Certains systèmes de traitement d'images reposent sur une mise en oeuvre séquentielle d'une estimation de mouvement global et d'une estimation de mouvement dense ou encore `estimation de mouvement local'. Une estimation de mouvement dense consiste en une estimation de mouvement en chaque point des images de la séquence captée entre deux images successives. Lorsqu'on effectue séquentiellement une estimation de mouvement global suivie d'une estimation de mouvement dense, cette dernière estimation peut être effectuée sur des images recalées sur la base de l'estimation de mouvement global précédente. Ensuite, l'estimation de mouvement dense permet de calculer un mouvement résiduel en tout point d'une image. A cet effet, il est possible de s'appuyer sur le fait que les objets mobiles ont des trajectoires lentement variables relativement à la cadence d'acquisition des images. Cet enchainement de l'estimation de mouvement global et de l'estimation de mouvement dense peut fournir une estimation de mouvement performante dans le cas ou l'estimation de mouvement global est elle-même fiable. En revanche, dès lors que l'estimation de mouvement global n'est pas fiable, l'estimation de mouvement obtenue in fine à l'issue de l'estimation de mouvement dense ultérieure ne peut être fiable et performante. L'invention vise à améliorer la situation. A cet effet, un premier aspect de l'invention propose un procédé d'estimation de mouvement dans une série d'images captées par un capteur d'image, ladite série d'images comprenant au moins une image précédente et une image suivante ; ledit procédé d'estimation comprenant les étapes suivantes : /a/ obtenir un premier mouvement estimé en effectuant une estimation de mouvement global depuis l'image précédente vers l'image suivante ; /b/ obtenir une image recalée sur la base du premier mouvement estimé, à partir de l'une parmi les images précédente et suivante ; /c/ obtenir un second mouvement estimé en effectuant une estimation de mouvement dense entre l'image recalée et l'autre parmi les images précédente et suivante ; /d/ déterminer une valeur résiduelle de mouvement global sur la base du second mouvement estimé ; et /e/ si la valeur résiduelle de mouvement est inférieure à une valeur seuil, fournir le second mouvement estimé, sinon réitérer les étapes /a/-/e/ ; dans lequel le premier mouvement estimé est déterminé par application d'un masque binaire d'image ; et dans lequel, si à l'étape /e/ les étapes /a/ à /e/ sont réitérées, elles sont effectuées par application d'un masque binaire d'image mis à jour en 30 fonction du second mouvement estimé. 20 25 On entend ici par les termes `image précédente' et `image suivante' d'une série d'images captées, deux images qui se suivent chronologiquement dans la série d'images considérée. Ces deux images qui se suivent peuvent être consécutives ou bien encore espacées entre elles par une ou plusieurs images captées intermédiaires. Aucune limitation n'est attachée à l'espacement entre l'image précédente et l'image suivante considérées ici. On entend par les termes `estimation de mouvement global' un mécanisme d'estimation de mouvement qui permet de représenter le mouvement affectant la série d'images captées entre une image précédente et une image suivante, de manière globale. Ce mouvement global peut correspondre à une estimation du mouvement de l'axe de visée du capteur utilisé. Aucune limitation n'est attachée au type de mécanisme d'estimation utilisé ici. La méthode de Lucas-Kanade, publiée en 1984 dans la thèse « Generalized image matching by the method of differences » et utilisée à l'origine pour l'estimation de mouvement dense, peut être adaptée pour le mouvement global. Elle consiste à déterminer un nombre restreint de paramètres (translation, roulis, zoom...) par résolution aux moindres carrés de l'équation du mouvement apparent sur des points significatifs de l'image. On entend par les termes `image recalée', une image captée qui a été recalée sur la base du mouvement global estimé. On entend par les termes `estimation de mouvement dense', un mécanisme d'estimation de mouvement qui permet de représenter le mouvement affectant la série d'images captées entre une image précédente et une image suivante, de manière partielle au sein de l'image. Autrement dit, un tel mécanisme d'estimation permet de fournir des vecteurs de mouvements pour chaque partie de l'image, avec plus ou moins de précision. On peut ainsi prévoir d'estimer un mouvement d'image en chaque point d'image par exemple. Ce type d'estimation de mouvement fournit un second mouvement estimé qui permet de représenter notamment le mouvement d'objets mobiles qui pourraient traverser les images de la série d'images captées. Parmi les méthodes classiques présentes dans la littérature, on connait notamment les méthodes de Lucas-Kanade et de Horn-Schunck. La première méthode consiste en une résolution de l'équation du mouvement apparent aux moindres carrés sur une fenêtre locale. La seconde méthode, extraite de l'article «Determining optical flow » (1981), consiste en une minimisation de fonctionnelles dont un terme d'attache à la donnée correspond au carré de l'équation du mouvement apparent, et un terme de régularisation est le carré de la variation locale du champ. Le second mouvement estimé peut correspondre à un triplet de valeurs pour chaque partie d'image (ou chaque point d'image) : une valeur d'un vecteur de translation selon un premier sens U, une valeur d'un vecteur de translation selon un second sens V, ainsi qu'une valeur de fiabilité associée N. Ainsi, le second mouvement estimé correspond à un ensemble de sous mouvements estimés pour chaque partie d'image dans la séquence d'images. On entend par les termes `valeur résiduelle de mouvement', une mesure relative à la translation globale résiduelle, c'est-à-dire qui est toujours présente à l'issue de l'étape /c/. Cette valeur résiduelle de mouvement peut être déterminée par exemple en effectuant une moyenne de ce mouvement de translation sur tous les points de l'image pour lesquels on a des valeurs de U et de V dont la fiabilité N dépasse un seuil. Un tel procédé d'estimation propose non seulement d'effectuer séquentiellement une estimation de mouvement global suivie d'une estimation de mouvement dense au cours d'une série d'étapes /ai-lei, mais il propose en outre que cette série d'étapes soit itérative. Ainsi, ce procédé d'estimation est un procédé itératif qui garantit un certain niveau de qualité déterminé. Grâce à ces dispositions, on est en mesure de combiner de manière aisée et performante à la fois un mécanisme d'estimation de mouvement global et un mécanisme d'estimation de mouvement dense. Avantageusement, une telle combinaison de ces deux types d'estimation de mouvement fournit des résultats pertinents même si le premier mouvement estimé n'est pas fiable lors de certaines itérations de la série d'étapes. Il est possible que certaines parties des images captées présentent des caractéristiques qui ne permettent pas d'obtenir une estimation de mouvement pertinente. Avantageusement, on prévoit d'appliquer un masque binaire à l'itération suivante de sorte à ne prendre en compte que les points de l'image qui permettent de fournir des informations pertinentes pour l'itération suivante.
Ainsi, on est en mesure d'obtenir un procédé qui converge rapidement et qui est fiable. Ainsi, il peut être avantageux de ne pas prendre en considération de telles parties d'image. Ainsi, on prévoit dans un mode de réalisation d'appliquer un masque binaire d'image à l'une des images considérées pour ne prendre en compte que les parties d'image pertinentes pour une estimation de mouvement. Dans ce cas, le premier mouvement estimé, correspondant à un mouvement global, est déterminé par application d'un masque binaire d'image. Puis, si à l'étape /e/ on décide de réitérer les étapes /ai-lei, alors ces étapes sont effectuées par application d'un masque binaire d'image mis à jour en fonction du second mouvement estimé. Dans ce contexte, ce masque binaire d'image peut être initialisé à 0 pour la première itération de la série d'étapes du procédé, c'est-à-dire qu'aucune partie d'image n'est masquée initialement. Puis, à la fin de chaque itération de la série d'étapes, il est alors possible de mettre à jour ce masque binaire d'image sur la base du second mouvement estimé obtenu. Ainsi, à l'itération suivante, le masque binaire d'image mis à jour peut être appliqué pour obtenir une estimation de mouvement global fiable. Ainsi, avantageusement ici, il est prévu d'appliquer à l'estimation de mouvement global un masque binaire d'image qui est mis à jour sur la base de l'estimation de mouvement dense. En procédant de la sorte, on est en mesure d'intégrer au sein du mécanisme d'estimation de mouvement global des informations issues du mécanisme d'estimation de mouvement dense. Cette combinaison des mécanismes itérative fournit des résultats fiables, tout en restant simple d'application. Le masque binaire peut être obtenu de la manière suivante : une valeur résiduelle de mouvement est calculée sur l'ensemble des points où le calcul de l'estimation dense est effectué. Puis, le masque binaire indique la valeur 1 pour les points au niveau desquels le mouvement dense s'éloigne de ladite résiduelle calculée de plus d'une valeur seuil déterminée. Dans un mode de réalisation de la présente invention, si les étapes /a/-/e/ sont réitérées, elles sont appliquées aux mêmes images précédente et suivante. Ainsi, jusqu'à ce que le niveau de seuil de qualité soit atteint, la série d'étapes est réitérée sur les mêmes images. Dans ce cas, à l'étape /b/, l'image recalée peut avantageusement être obtenue par recalage de l'image suivante sur l'image précédente sur la base du premier mouvement estimé ; et à l'étape /e/, le masque binaire d'image mis à jour peut être un masque à appliquer à l'image précédente. Ici, le recalage d'une des deux images suivante et précédente est effectué selon un sens chronologique puisqu'il s'agit de recaler une image suivante sur une image qui la précède. Ainsi, avantageusement, le masque binaire d'image mis à jour dans ce contexte peut être appliqué directement à l'image précédente au cours de l'itération suivante de la série d'étapes. Il peut être avantageux de prévoir une mise en oeuvre plus rapide d'un tel procédé d'estimation de mouvement. Ainsi, dans un mode de réalisation de la présente invention, référencé par la suite `mode rapide', si les étapes /a/-/e/ sont réitérées, à chaque réitération, elles sont appliquées en considérant l'image suivante de l'itération précédente en tant qu'image précédente et en considérant une image qui suit ladite image suivante de l'itération précédente en tant qu'image suivante. En procédant ainsi, avantageusement les itérations successives de la série d'étapes sont appliquées sur un couple d'image précédente et image suivante différent. En effet, il est prévu ici d'appliquer l'itération suivante à l'ancienne image suivante, qui est alors considérée comme image précédente, et à une image qui la suit dans la séquence d'images captées, qui est considérée alors en tant qu'image suivante.
Ce mode de réalisation est avantageusement adapté pour des applications temps réel qui requièrent une rapidité de traitement. Dans ce contexte, avantageusement, on peut prévoir que, à l'étape /b/, l'image recalée est obtenue par recalage de l'image précédente sur l'image suivante sur la base de l'inverse du premier mouvement estimé. Ici, on peut alors obtenir un masque binaire d'image mis à jour qui est un masque à appliquer directement à l'image suivante de l'itération à venir.
En procédant ainsi, on applique un recalage d'image dans un sens anti-chronologique. Dans ce cas, avantageusement, le masque binaire d'image mis à jour peut être un masque à appliquer à l'image suivante de l'itération en cours, qui devient l'image précédente dans l'itération suivante. Grâce à ce mécanisme anti chronologique on simplifie sensiblement l'application du procédé dans un mode rapide. Un deuxième aspect de la présente invention propose un dispositif de traitement d'image comprenant des moyens pour mettre en oeuvre un procédé d'estimation de mouvement selon le premier aspect de la présente invention.
Un troisième aspect de la présente invention propose un programme d'ordinateur comportant des instructions pour la mise en oeuvre du procédé selon le premier aspect de la présente invention, lorsque ce programme est exécuté par un processeur. Un quatrième aspect de la présente invention propose un support d'enregistrement sur lequel est stocké le programme d'ordinateur selon le troisième aspect de la présente invention. D'autres caractéristiques et avantages de l'invention apparaîtront encore à la lecture de la description qui va suivre. Celle-ci est purement illustrative et doit être lue en regard des dessins annexés sur lesquels : la figure 1 illustre les principales étapes d'un procédé d'estimation de mouvement selon un mode de réalisation de la présente invention ; - la figure 2 illustre une mise en oeuvre d'un procédé d'estimation selon un mode de réalisation de la présente invention ; - la figure 3 illustre une autre mise en oeuvre d'un procédé d'estimation selon un mode de réalisation de la présente invention ; et - la figure 4 illustre un dispositif de traitement comprenant des moyens adaptés pour mettre en oeuvre un procédé selon un mode de réalisation de la présente invention. La figure 1 illustre les principales étapes du procédé d'estimation de mouvement selon un mode de réalisation de la présente invention. 25 30 On considère ici une série d'images li, pour i entier compris entre 1 et N. Cette série d'images comprend au moins une image précédente In_1 et une image suivante In. A une étape 101, on obtient un premier mouvement estimé H en effectuant une estimation de mouvement global depuis l'image précédente In_1 vers l'image suivante In. Ce premier mouvement estimé peut être représenté sous la forme d'une matrice de recalage homographique H. Puis, à une étape 102, on obtient une image recalée, l'n_1 ou l'n, sur la base du premier mouvement estimé, respectivement à partir de l'image précédente In_1 ou de l'image suivante In. Ensuite, à une étape 103, on obtient un second mouvement estimé en effectuant une estimation de mouvement dense entre l'image recalée et l'autre parmi les images précédente et suivante. Ainsi, on envisage de recaler l'image précédente et d'estimer un mouvement dense entre l'image recalée et l'image suivante. On peut aussi envisager de recaler l'image suivante et d'estimer un mouvement dense entre l'image recalée et l'image précédente. A l'issue de cette étape, on dispose pour différentes parties d'image de valeurs respectives pour un premier vecteur de translation U, pour un second vecteur de translation V et pour un facteur de fiabilité associé N.
Puis, à une étape 104, on détermine une valeur résiduelle r de mouvement global sur la base d'une moyenne effectuée sur l'ensemble des points de calcul du champ dense U et V pour lesquels la fiabilité N est supérieure à une valeur seuil. Enfin, à une étape 105, si la valeur résiduelle r est inférieure à une valeur seuil S, on fournit le second mouvement estimé lors de l'itération courante à une étape 106, sinon on réitère les étapes 101-105. Au cours des sections suivantes, il est prévu de mettre en oeuvre le procédé avec l'application d'un masque binaire d'image. Toutefois, il est aisé d'en déduire une application dans laquelle le masque binaire d'image ne serait pas utilisé.
La figure 2 illustre une mise en oeuvre de la présente invention selon un mode de réalisation de la présente invention. De manière générale, il est ici proposé de mettre en oeuvre une estimation de mouvement global suivie d'une estimation de mouvement dense de manière imbriquée et itérative, chaque itération étant appliquée sur deux mêmes images jusqu'à ce qu'un niveau de qualité déterminée soit atteint. Il convient de noter que, avantageusement, dans ce mode de réalisation, la présente invention met en oeuvre un masque binaire d'image M qui évite astucieusement de prendre en compte des informations relatives à certaines parties de l'image. Le masque binaire d'image indique initialement la valeur zéro relativement à chaque partie de l'image. Ainsi, le masque binaire d'image appliqué initialement permet de prendre en compte à l'initialisation l'image dans sa globalité. Le masque binaire d'image est ici mis à jour à chaque nouvelle itération. Il est donc noté M(i).
On note H une matrice permettant de modéliser le mouvement global de l'image. Cette matrice H peut notamment illustrer une première et une seconde translation représentant le mouvement global selon une première et une seconde direction respective. Cette matrice Hn_,, n permet de recaler homographiquement une image In sur une image In_1.
Les étapes suivantes sont appliquées de manière itératives à deux mêmes images qui sont captées successivement, la première image captée étant référencée In_1 et l'image captée suivante étant référencée In. A une étape 201, on initialise l'indice d'itération i à la valeur 0. On prévoit en outre que M(0) soit un masque d'image binaire nul, c'est-à-dire qu'aucun point de l'image n'est masqué lors de la première itération des étapes du procédé. Puis, à une étape 202, on sélectionne donc les deux images In_1 et ln qui se succèdent dans la séquence d'images captées. A une étape 203 de l'itération i, on applique le masque M(i) à l'image In_1. Puis, à une étape 204, on effectue une estimation de mouvement globale de In_1 vers In. Cette estimation de mouvement globale est représentée via la matrice de recalage homographique H(i).
Puis à une étape 205, l'image ln est recalée sur In_1 sur la base de la matrice de recalage H (i). On obtient à l'issue de cette étape 205 une image recalée In'. Puis sur la base de ce recalage, c'est-à-dire en utilisant les images In_1 et In', à une étape 206, on effectue une estimation de mouvement dense, c'est-à-dire que, par exemple, on détermine une valeur du vecteur de translation U et une valeur de translation, ainsi qu'une valeur de fiabilité N pour ces valeurs de vecteurs en chaque point de l'image In_1. A une étape 207, sur la base de ces valeurs de U, V et N, on effectue un calcul de valeur de mouvement résiduel global r et on compare cette valeur à une valeur seuil S. Dans le cas où le mouvement résiduel r est inférieur à la valeur seuil S, alors les étapes ne sont pas réitérées et le dernier second mouvement estimé est fourni à une étape 208. On peut alors prendre en considération deux autres images de la séquence d'images captées et leur appliquer ce même procédé. Dans le cas où le mouvement résiduel est supérieur à la valeur seuil S, on met à jour le masque binaire d'image M(i) sur la base du second mouvement estimé, à une étape 209. Puis, l'indice d'itération est incrémenté de la valeur 1 à une étape 210 20 et les étapes précédemment décrites sont à nouveau exécutées sur les mêmes images In_1 et In. La figure 3 illustre une autre mise en oeuvre de la présente invention selon un mode de réalisation de la présente invention. De manière générale, il est ici également proposé de mettre en oeuvre une estimation de mouvement 25 global suivie d'une estimation de mouvement dense de manière imbriquée et itérative. Toutefois, dans le contexte présent, chaque itération est appliquée sur deux images successives différentes. Plus précisément, à une itération précédente, il est prévu d'appliquer un traitement à une première et une seconde image successive , puis à une itération suivante, ce même traitement 30 est appliqué à cette seconde image et à une image qui suit cette seconde image dans la séquence d'images captées. Ce procédé selon un mode de réalisation de la présente invention est appliqué à une séquence d'images captées I; pour i entier compris entre 1 et N.
La première itération de la série d'étapes du procédé de traitement est ici appliquée aux images Il et 12. La deuxième itération de la série d'étapes est appliquée aux images 12 et 13. Le premier masque binaire d'image appliqué est un masque nul.
Puis, de manière générale, la section suivante décrit une itération appliquée aux images qui se suivent dans la séquence captée In_1 et In. Ainsi à une étape 301, on prend en considération ces deux images In_1 et In. Puis, à une étape 302, on applique un masque binaire d'image M(n-1) à l'image In_1. L'application de ce masque permet de ne prendre en considération au sein de l'image In_1 uniquement les points qui sont intéressants au regard du procédé d'estimation de mouvement. Ensuite, à une étape 303, on effectue une estimation de mouvement global sur les deux images In_1 et In sur la base de laquelle on détermine une matrice homographique de mouvement global H du mouvement depuis l'image In_1 vers In.
Ici, il est astucieusement prévu de traiter les images selon un sens anti chronologique. Ce mécanisme peut s'avérer très pertinent dans certaines applications de traitement vidéo notamment. Il est ici prévu de déterminer une image recalée à partir de l'image In_1 afin de pouvoir effectuer une estimation de mouvement dense depuis l'image In vers l'image recalée En procédant ainsi, on peut déterminer avantageusement un masque binaire d'image M(n) à appliquer directement à l'image ln lors de la prochaine itération. L'image ln sera considérée en tant qu'image précédente à l'itération à venir. Par conséquent, l'itération prochaine peut être appliquée à l'image ln et l'image qui la suit In+1 avec le masque binaire d'image M(n) directement adapté pour être appliqué à l'image In. A cet effet, on détermine une matrice homographique de mouvement global à appliquer à l'image In_1 pour la recaler sur l'image In. Cette matrice correspond à 1/H, c'est-à-dire l'inverse de la matrice homographique H. On obtient ensuite à une étape 304 l'image l'n_1 par application de la matrice homographique 1/H. Puis, à une étape 305, on effectue une estimation de mouvement dense depuis l'image In vers l'image recalée "n_1. On en déduit en chaque point de l'image In une valeur du vecteur de mouvement Un, une valeur du vecteur de mouvement Vn, et une valeur de fiabilité associée Nn, relativement à l'image In. Sur la base de ces valeurs, on détermine une valeur de mouvement résiduel global rn relativement à l'image In. Ainsi, à une étape 306, on compare cette valeur de mouvement résiduel rn à une valeur seuil S de qualité. Si la valeur de fiabilité rn est inférieure à la valeur S, alors la série d'étapes n'est pas réitérée et le procédé d'estimation fournit en sortie les valeurs des grandeurs suivantes : Un, - Vn, - H Dans le cas contraire, à l'étape 308, on détermine un masque binaire d'image M(n-1) en vue de pouvoir l'appliquer à l'image précédente de l'itération à venir, cette image correspondant à l'image ln de la précédente itération. Puis, à une étape 309, on incrémente l'indice n de la valeur 1.
Avantageusement ici, le masque binaire d'image M obtenu avant la prochaine itération de la série d'étapes est directement applicable à l'image In_1 car il est déterminé sur la base d'informations relatives à un sens anti chronologique dans la séquence d'images captées. En effet, les valeurs de U, V et N fournies par l'étape d'estimation de mouvement dense sont déterminées sur une comparaison depuis l'image ln vers l'image In_1, c'est-à-dire en considérant les deux images dans un sens anti chronologique par rapport à leur ordre dans la séquence d'images captées. La figure 4 illustre un dispositif de traitement d'image adapté pour mettre en oeuvre un procédé selon un mode de réalisation de la présente invention. Un tel dispositif peut avantageusement correspondre à une carte électronique embarquée. Un tel dispositif comprend : - une première unité d'estimation 41 adaptée pour obtenir un premier mouvement estimé en effectuant une estimation de mouvement global depuis l'image précédente In_1 vers l'image suivante - une unité de recalage 42 adaptée pour obtenir une image recalée l'n_1 ou l'n sur la base du premier mouvement estimé, à partir de l'une parmi les images précédente et suivante In_1, In ; - une seconde unité d'estimation 43 adaptée pour obtenir un second mouvement estimé U, V, N en effectuant une estimation de mouvement dense entre l'image recalée et l'autre parmi les images précédente et suivante ; - une unité de détermination 44 adaptée pou déterminer une valeur résiduelle de mouvement r global ; et - une unité de contrôle adaptée 45, d'une part, pour déclencher une séquence d'étapes en commandant séquentiellement la première unité d'estimation, l'unité de recalage, la seconde unité d'estimation et l'unité de détermination et, d'autre part, pour décider si la valeur résiduelle est inférieure à une valeur seuil S de fournir le dernier second mouvement estimé fourni U, V, N, et sinon de déclencher à nouveau ladite séquence d'étapes. La première unité d'estimation 41 peut prendre en compte un masque binaire d'image M; et l'unité de détermination 43 peut être adaptée pour mettre à jour le masque binaire d'image en fonction du second mouvement estimé.
Si la séquence d'étapes est déclenchée à nouveau, les étapes peuvent être appliquées aux mêmes images précédente et suivante. Dans un mode de réalisation, l'image recalée peut être fournie par l'unité de recalage 42 par recalage de l'image suivante ln sur l'image précédente ln-1 sur la base du premier mouvement estimé ; et l'unité de détermination 43 peut fournir le masque binaire d'image mis à jour en tant que masque à appliquer à l'image précédente. Dans une variante, si les étapes /a/-/e/ sont réitérées, à chaque réitération, elles sont appliquées en considérant l'image suivante de l'itération précédente en tant qu'image précédente et en considérant une image qui suit ladite image suivante de l'itération précédente en tant qu'image suivante.
Dans ce cas, l'image recalée I'n_1 peut être fournie par l'unité de recalage 42 par recalage de l'image précédente In_1 sur l'image suivante In sur la base de l'inverse du premier mouvement estimé ; et l'unité de détermination 43 peut fournir le masque binaire d'image mis à jour en tant que masque à appliquer à l'image suivante de l'itération à venir.

Claims (12)

  1. REVENDICATIONS1. Procédé d'estimation de mouvement dans une série d'images captées par un capteur d'image, ladite série d'images comprenant au moins une image précédente (In-1) et une image suivante (In) ; ledit procédé d'estimation comprenant les étapes suivantes : /a/ obtenir (101) un premier mouvement estimé (H) en effectuant une estimation de mouvement global depuis l'image précédente (In_1) vers l'image suivante (In) ; /b/ obtenir (102) une image recalée (I'n_1 ou l'n) sur la base du premier mouvement estimé, à partir de l'une parmi les images précédente et suivante (In-1, In) ; /c/ obtenir (103) un second mouvement estimé (U, V, N) en effectuant une estimation de mouvement dense entre l'image recalée et l'autre parmi les images précédente et suivante ; /d/ déterminer (104) une valeur résiduelle de mouvement (r) global ; et /e/ si (105) la valeur résiduelle est inférieure à une valeur seuil (S) fournir le second mouvement estimé (U, V, N), sinon réitérer les étapes /a/-/e/ ; dans lequel le premier mouvement estimé est déterminé par application d'un masque binaire d'image (M) ; et dans lequel, si à l'étape /e/ les étapes /a/ à /e/ sont réitérées, elles sont 25 effectuées par application d'un masque binaire d'image mis à jour en fonction du second mouvement estimé. 15 20
  2. 2. Procédé d'estimation de mouvement selon la revendication 1, dans lequel, si les étapes /a/-/e/ sont réitérées, elles sont appliquées aux mêmes images précédente et suivante.
  3. 3. Procédé d'estimation de mouvement selon la revendication 2, dans lequel, à l'étape /b/, l'image recalée (l'n) est obtenue par recalage de l'image suivante (In) sur l'image précédente (In-1) sur la base du premier mouvement estimé ; et à l'étape /e/, le masque binaire d'image mis à jour est un masque à appliquer à l'image précédente.
  4. 4. Procédé d'estimation de mouvement selon la revendication 1, dans lequel, si les étapes /a/-/e/ sont réitérées, à chaque réitération, elles sont appliquées en considérant l'image suivante de l'itération précédente en tant qu'image précédente et en considérant une image qui suit ladite image suivante de l'itération précédente en tant qu'image suivante.
  5. 5. Procédé d'estimation de mouvement selon la revendication 4, à l'étape /b/, l'image recalée (I'n_1) est obtenue par recalage de l'image précédente (In_ ,) sur l'image suivante (In) sur la base de l'inverse du premier mouvement estimé ; et dans lequel le masque binaire d'image mis à jour est un masque à appliquer à l'image suivante de l'itération à venir.
  6. 6. Dispositif (40) de traitement d'images d'une série d'images captées par un capteur d'image, ladite série d'images comprenant au moins une image précédente (In-1) et une image suivante (In) ; ledit dispositif de traitement d'images comprenant : une première unité d'estimation (41) adaptée pour obtenir un premier mouvement estimé (H) en effectuant uneestimation de mouvement global depuis l'image précédente (In_1) vers l'image suivante (In) ; une unité de recalage (42) adaptée pour obtenir une image recalée (I'n_1 ou l'n) sur la base du premier mouvement estimé, à partir de l'une parmi les images précédente et suivante (In_1, In) ; - une seconde unité d'estimation (43) adaptée pour obtenir un second mouvement estimé (U, V, N) en effectuant une estimation de mouvement dense entre l'image recalée et l'autre parmi les images précédente et suivante ; - une unité de détermination (44) adaptée pour déterminer une valeur résiduelle de mouvement (r) global ; et - une unité de contrôle adaptée (45), d'une part, pour déclencher une séquence d'étapes en commandant séquentiellement la première unité d'estimation, l'unité de recalage, la seconde unité d'estimation et l'unité de détermination et, d'autre part, pour décider si la valeur résiduelle est inférieure à une valeur seuil (S) de fournir le dernier second mouvement estimé fourni (U, V, N), et sinon de déclencher à nouveau ladite séquence d'étapes. dans lequel la première unité d'estimation (41) prend en compte un masque binaire d'image (M) ; et dans lequel l'unité de détermination (43) est adaptée pour mettre à jour le masque binaire d'image en fonction du second mouvement estimé.
  7. 7. Dispositif (40) de traitement selon la revendication 6, dans lequel, si la séquence d'étapes est déclenchée à nouveau, elles sont appliquées aux mêmes images précédente et suivante. 30
  8. 8. Dispositif (40) de traitement selon la revendication 7, dans lequel l'image recalée (I'n) est fournie par l'unité de recalage (42) par recalage de 10 15 20 25l'image suivante (In) sur l'image précédente (In-1) sur la base du premier mouvement estimé ; et dans lequel l'unité de détermination (43) fournit le masque binaire d'image mis à jour en tant que masque à appliquer à l'image précédente.
  9. 9. Dispositif (40) de traitement selon la revendication 6, dans lequel, si les étapes /a/-/e/ sont réitérées, à chaque réitération, elles sont appliquées en considérant l'image suivante de l'itération précédente en tant qu'image précédente et en considérant une image qui suit ladite image suivante de l'itération précédente en tant qu'image suivante.
  10. 10. Dispositif (40) de traitement selon la revendication 9, dans lequel l'image recalée (I'n_1) est fournie par l'unité de recalage (42) par recalage de l'image précédente (In_1) sur l'image suivante (In) sur la base de l'inverse du premier mouvement estimé ; et dans lequel l'unité de détermination (43) fournit le masque binaire d'image mis à jour en tant que masque à appliquer à l'image suivante de l'itération à venir.
  11. 11. Programme d'ordinateur comportant des instructions pour la mise en oeuvre du procédé selon la revendication 1, lorsque ce programme est exécuté par un processeur.
  12. 12. Support d'enregistrement sur lequel est stocké le programme 25 d'ordinateur selon la revendication 11.
FR1050014A 2010-01-04 2010-01-04 Estimation de mouvement global et dense Active FR2955007B1 (fr)

Priority Applications (6)

Application Number Priority Date Filing Date Title
FR1050014A FR2955007B1 (fr) 2010-01-04 2010-01-04 Estimation de mouvement global et dense
PCT/FR2011/050010 WO2011080495A1 (fr) 2010-01-04 2011-01-04 Estimation de mouvement global et dense
BR112012016403-1A BR112012016403A2 (pt) 2010-01-04 2011-01-04 estimativa do movimento global e denso
EP11704249A EP2522140A1 (fr) 2010-01-04 2011-01-04 Estimation de mouvement global et dense
US13/519,944 US8873809B2 (en) 2010-01-04 2011-01-04 Global and dense motion estimation
RU2012133468/08A RU2565515C2 (ru) 2010-01-04 2011-01-04 Оценка общего и частного движения

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
FR1050014A FR2955007B1 (fr) 2010-01-04 2010-01-04 Estimation de mouvement global et dense

Publications (2)

Publication Number Publication Date
FR2955007A1 true FR2955007A1 (fr) 2011-07-08
FR2955007B1 FR2955007B1 (fr) 2012-02-17

Family

ID=42735284

Family Applications (1)

Application Number Title Priority Date Filing Date
FR1050014A Active FR2955007B1 (fr) 2010-01-04 2010-01-04 Estimation de mouvement global et dense

Country Status (6)

Country Link
US (1) US8873809B2 (fr)
EP (1) EP2522140A1 (fr)
BR (1) BR112012016403A2 (fr)
FR (1) FR2955007B1 (fr)
RU (1) RU2565515C2 (fr)
WO (1) WO2011080495A1 (fr)

Families Citing this family (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
FR3018147B1 (fr) 2014-03-03 2016-03-04 Sagem Defense Securite Debruitage video optimise pour systeme multicapteur heterogene
CN110232361B (zh) * 2019-06-18 2021-04-02 中国科学院合肥物质科学研究院 基于三维残差稠密网络的人体行为意图识别方法与系统

Citations (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
EP1117251A1 (fr) * 1999-12-29 2001-07-18 Eastman Kodak Company Méthode de stabilisation automatique pour des séquences d'images digitales
WO2004056089A2 (fr) * 2002-12-13 2004-07-01 Qinetiq Limited Systeme et procede de stabilisation d'image
EP1755342A1 (fr) * 2005-08-19 2007-02-21 Thomson Licensing Méthode et dispositif de calcul itératif de paramètres de mouvement pour une séquence d'images à partir de vecteurs de mouvement de blocs
JP2009290827A (ja) * 2008-06-02 2009-12-10 Sony Corp 画像処理装置および画像処理方法

Family Cites Families (12)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US6095976A (en) * 1997-06-19 2000-08-01 Medinol Ltd. Method for enhancing an image derived from reflected ultrasound signals produced by an ultrasound transmitter and detector inserted in a bodily lumen
AU6061100A (en) * 1999-07-01 2001-01-22 General Nanotechnology, Llc Object inspection and/or modification system and method
RU2159958C1 (ru) * 1999-09-21 2000-11-27 Садыков Султан Садыкович Устройство обработки цветных изображений
JP4765194B2 (ja) * 2001-05-10 2011-09-07 ソニー株式会社 動画像符号化装置、動画像符号化方法、動画像符号化プログラム格納媒体及び動画像符号化プログラム
DE10316208A1 (de) * 2002-04-12 2003-11-20 Samsung Electro Mech Navigationssystem und Navigationsverfahren
US7705884B2 (en) * 2004-07-21 2010-04-27 Zoran Corporation Processing of video data to compensate for unintended camera motion between acquired image frames
US8013895B2 (en) * 2006-08-07 2011-09-06 Avago Technologies General Ip (Singapore) Pte. Ltd. Optical motion sensing
JP5040258B2 (ja) * 2006-10-23 2012-10-03 株式会社日立製作所 映像監視装置、映像監視システムおよび画像処理方法
US8040382B2 (en) * 2008-01-07 2011-10-18 Dp Technologies, Inc. Method and apparatus for improving photo image quality
WO2011046633A1 (fr) * 2009-10-14 2011-04-21 Zoran Corporation Procédé et appareil de stabilisation d'image
US8488007B2 (en) * 2010-01-19 2013-07-16 Sony Corporation Method to estimate segmented motion
US8570344B2 (en) * 2010-04-02 2013-10-29 Qualcomm Incorporated Augmented reality direction orientation mask

Patent Citations (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
EP1117251A1 (fr) * 1999-12-29 2001-07-18 Eastman Kodak Company Méthode de stabilisation automatique pour des séquences d'images digitales
WO2004056089A2 (fr) * 2002-12-13 2004-07-01 Qinetiq Limited Systeme et procede de stabilisation d'image
EP1755342A1 (fr) * 2005-08-19 2007-02-21 Thomson Licensing Méthode et dispositif de calcul itératif de paramètres de mouvement pour une séquence d'images à partir de vecteurs de mouvement de blocs
JP2009290827A (ja) * 2008-06-02 2009-12-10 Sony Corp 画像処理装置および画像処理方法
US20100020244A1 (en) * 2008-06-02 2010-01-28 Sony Corporation Image processing apparatus and image processing method

Non-Patent Citations (2)

* Cited by examiner, † Cited by third party
Title
EWERTH R ET AL: "Segmenting moving objects in MPEG videos in the presence of camera motion", 14TH INTERNATIONAL CONFERENCE ON IMAGE ANALYSIS AND PROCESSING,(ICIAP 2007), 1 January 2007 (2007-01-01), pages 6 PP, XP002602161 *
SU Y ET AL: "Global motion estimation from coarsely sampled motion vector field and the applications", IEEE TRANSACTIONS ON CIRCUITS AND SYSTEMS FOR VIDEO TECHNOLOGY, IEEE SERVICE CENTER, PISCATAWAY, NJ, US, vol. 15, no. 2, 1 February 2005 (2005-02-01), pages 232 - 241, XP002602162, ISSN: 1051-8215, DOI: 10.1109/TCSVT.2004.841656 *

Also Published As

Publication number Publication date
EP2522140A1 (fr) 2012-11-14
RU2565515C2 (ru) 2015-10-20
FR2955007B1 (fr) 2012-02-17
US8873809B2 (en) 2014-10-28
WO2011080495A1 (fr) 2011-07-07
US20130142397A1 (en) 2013-06-06
RU2012133468A (ru) 2014-03-20
BR112012016403A2 (pt) 2018-07-31

Similar Documents

Publication Publication Date Title
FR2891685A1 (fr) Procede et dispositif d'estimation de mouvement a references multiples, procede et dispositif de codage, produits programme d'ordinateur et moyens de stockage correspondants.
EP2930659B1 (fr) Procédé de détection de points d'intérêt dans une image numérique
FR2898757A1 (fr) Procede et dispositif d'adaptation d'une frequence temporelle d'une sequence d'images video
EP1672585A1 (fr) Procédé, dispositif et système de traitement d'images par estimation de mouvement
EP1746486B1 (fr) Procédé de détection de déplacement d'une entité pourvue d'un capteur d'images et dispositif pour le mettre en oeuvre
FR2891686A1 (fr) Procede et dispositif de detection de transitions dans une sequence video, procede et dispositif de codage, produits programme d'ordinateur et moyens de stockage correspondants.
EP1998288A1 (fr) Procédé de détermination du déplacement d'une entité pourvue d'un capteur de séquence d'images, programme d'ordinateur, module et souris optique associés
EP1413140B1 (fr) Procede d'estimation de mouvement entre deux images avec gestion des retournements de mailles et procede de codage correspondant
FR2955007A1 (fr) Estimation de mouvement global et dense
EP2368367B1 (fr) Système et procédé interactif pour la transmission sur un réseau bas débit d'images clefs sélectionnées dans un flux video
EP3797509B1 (fr) Traitement d'un bruit impulsionnel dans une séquence vidéo
EP4315170A1 (fr) Autoencodeur multimodal a fusion de donnees latente amelioree
EP3701492B1 (fr) Procede de restauration d'images
EP1746487B1 (fr) Procédé et dispositif de détection de déplacement d'une entité pourvue d'un capteur d'images
FR3001073A1 (fr) Estimation de mouvement d'une image
EP3070505A1 (fr) Procede et systeme de mise au point automatique d'une camera
FR2934453A1 (fr) Procede et dispositif de masquage d'erreurs
FR3092426A1 (fr) Procédé dynamique d’imagerie tridimensionnelle
EP4386673A1 (fr) Méthode d'apprentissage non supervisé d'un modèle d'estimation de flux optique
FR2959093A1 (fr) Procede et dispositif de prediction d'une information de complexite de texture contenue dans une image
WO1996023279A1 (fr) Procede d'estimation de mouvement de regions dans des sequences d'images numeriques
FR3051066A1 (fr) Procede de restauration d'images
FR3138718A1 (fr) Dispositif électronique et procédé de traitement de données comportant au moins un modèle d’intelligence artificielle auto-adaptatif avec apprentissage local, système électronique et programme d’ordinateur associés
EP3072110A1 (fr) Procédé d'estimation du mouvement d'un objet
FR3140181A1 (fr) Procédé de commande d’un système mécatronique

Legal Events

Date Code Title Description
CA Change of address

Effective date: 20140805

PLFP Fee payment

Year of fee payment: 6

PLFP Fee payment

Year of fee payment: 7

PLFP Fee payment

Year of fee payment: 8

CD Change of name or company name

Owner name: SAGEM DEFENSE SECURITE, FR

Effective date: 20170126

PLFP Fee payment

Year of fee payment: 9

PLFP Fee payment

Year of fee payment: 10

PLFP Fee payment

Year of fee payment: 11

PLFP Fee payment

Year of fee payment: 12

PLFP Fee payment

Year of fee payment: 13

PLFP Fee payment

Year of fee payment: 14

PLFP Fee payment

Year of fee payment: 15