FR3028989A1 - Procede de calibration des parametres extrinseques d'une camera d'un vehicule automobile et systeme d'assistance a la conduite associe - Google Patents

Procede de calibration des parametres extrinseques d'une camera d'un vehicule automobile et systeme d'assistance a la conduite associe Download PDF

Info

Publication number
FR3028989A1
FR3028989A1 FR1461307A FR1461307A FR3028989A1 FR 3028989 A1 FR3028989 A1 FR 3028989A1 FR 1461307 A FR1461307 A FR 1461307A FR 1461307 A FR1461307 A FR 1461307A FR 3028989 A1 FR3028989 A1 FR 3028989A1
Authority
FR
France
Prior art keywords
camera
vector
image
state vector
vehicle
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
FR1461307A
Other languages
English (en)
Other versions
FR3028989B1 (fr
Inventor
Bertrand Godreau
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Continental Autonomous Mobility Germany GmbH
Continental Automotive France SAS
Original Assignee
Continental Automotive GmbH
Continental Automotive France SAS
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Continental Automotive GmbH, Continental Automotive France SAS filed Critical Continental Automotive GmbH
Priority to FR1461307A priority Critical patent/FR3028989B1/fr
Publication of FR3028989A1 publication Critical patent/FR3028989A1/fr
Application granted granted Critical
Publication of FR3028989B1 publication Critical patent/FR3028989B1/fr
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/20Analysis of motion
    • G06T7/277Analysis of motion involving stochastic approaches, e.g. using Kalman filters
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/70Determining position or orientation of objects or cameras
    • G06T7/73Determining position or orientation of objects or cameras using feature-based methods
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/30Subject of image; Context of image processing
    • G06T2207/30244Camera pose
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/30Subject of image; Context of image processing
    • G06T2207/30248Vehicle exterior or interior
    • G06T2207/30252Vehicle exterior; Vicinity of vehicle

Landscapes

  • Engineering & Computer Science (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Theoretical Computer Science (AREA)
  • Multimedia (AREA)
  • Traffic Control Systems (AREA)
  • Image Analysis (AREA)
  • Image Processing (AREA)
  • Closed-Circuit Television Systems (AREA)

Abstract

La présente invention a pour objet un procédé de calibration des paramètres extrinsèques d'une caméra (10) d'un véhicule automobile (1) configurée pour acquérir une pluralité d'images de l'environnement dudit véhicule (1). Le procédé comprend une étape de détermination des coordonnées d'une pluralité de points stationnaires entre une première image acquise par la caméra (10) à un instant précédent et une deuxième image successive acquise par la caméra (10) à un instant présent, et une étape de correction de la deuxième image par l'application d'un filtre de Kalman à la première image à partir des coordonnées déterminées de manière à calibrer les paramètres extrinsèques de la caméra (10).

Description

1 De nos jours, il est connu d'équiper un véhicule automobile avec un système d'assistance à la conduite appelé communément ADAS (« Advanced Driver Assistance System » en langue anglaise). Un tel système comprend de manière connue une caméra, montée sur le pare-brise du véhicule, qui permet de générer un flux d'images 5 représentant l'environnement dudit véhicule. Ces images sont exploitées par une unité de traitement du système afin d'assister le conducteur, par exemple en détectant un obstacle ou bien le franchissement d'une ligne blanche. Les informations données par les images capturées par la caméra doivent être suffisamment fiables et pertinentes pour permettre au système d'assister efficacement le conducteur du véhicule. A cette fin, il est connu de 10 procéder à une calibration de la caméra. La calibration correspond à la détermination d'une pluralité de valeurs de compensation de paramètres de la caméra. Parmi ces paramètres, on distingue les paramètres intrinsèques et les paramètres extrinsèques. Les paramètres intrinsèques sont liés aux caractéristiques techniques propres 15 de la caméra et comprennent, par exemple, la focale de la caméra, sa distorsion, la position de la lentille par rapport au capteur de la caméra, etc. La calibration de ces paramètres intrinsèques permet de compenser au moins en partie les défauts de fabrication de la caméra. Cette calibration est en général réalisée au moins une première fois en usine puis à chaque fois qu'il est nécessaire de calibrer à nouveau ces paramètres 20 intrinsèques, par exemple suite à l'intervention d'un garagiste sur le pare-brise. Les paramètres extrinsèques correspondent au positionnement de la caméra par rapport à la route sur laquelle il circule. Ces paramètres extrinsèques comprennent les trois translations et les trois rotations nécessaires pour définir les coordonnées d'un point, exprimés dans un repère lié à la route appelé « repère monde », dans un repère lié à la 25 caméra appelé « repère caméra », c'est-à-dire au total six paramètres. La calibration des paramètres extrinsèques de la caméra permet de compenser les défauts de positionnement de la caméra par rapport à la route. Or, la position du véhicule changeant constamment par rapport à la route du fait, par exemple, de secousses ou de la charge du véhicule, il est alors nécessaire d'ajuster en permanence les valeurs de ces paramètres 30 extrinsèques. Un procédé existant de calibration des paramètres extrinsèques d'une caméra d'un véhicule automobile consiste à utiliser le point de convergence des lignes blanches peintes sur la route sur laquelle circule le véhicule. Une telle calibration nécessite au moins une dizaine de kilomètres de lignes blanches pour être réalisée correctement, ce 35 qui la rend chronophage et donc difficilement exploitable pour assister rapidement le 3028989 2 conducteur et présente donc un inconvénient important. De plus, ce procédé est inefficace en l'absence de lignes blanches, ce qui empêche la calibration de la caméra et présente donc un inconvénient majeur. La présente invention a pour but de remédier au moins en partie à ces 5 inconvénients en proposant un procédé de calibration d'une caméra qui soit à la fois simple, fiable et efficace quel que soit l'environnement du véhicule. A cette fin, l'invention a pour objet un procédé de calibration des paramètres extrinsèques d'une caméra d'un véhicule automobile configurée pour acquérir une pluralité d'images de l'environnement dudit véhicule, ledit procédé étant remarquable en 10 ce qu'il comprend : - une étape de détermination des coordonnées d'une pluralité de points stationnaires entre une première image acquise par la caméra à un instant précédent et une deuxième image successive acquise par la caméra à un instant présent, consécutif à l'instant précédent, et 15 - une étape de correction de la deuxième image par l'application d'un filtre de Kalman à la première image à partir des coordonnées déterminées de la pluralité de points stationnaires de manière à calibrer les paramètres extrinsèques de la caméra. Par les termes « calibrer les paramètres extrinsèques », on entend compenser 20 les paramètres extrinsèques de la caméra pour que les images fournies par la caméra soient stables par rapport au support sur lequel circule le véhicule. Par le terme « stationnaire », on entend un objet fixe dans l'environnement du véhicule tel que, par exemple un panneau, une maison, un lampadaire, etc, un tel objet se déplaçant de manière linéaire dans une série d'images consécutives. 25 La calibration des paramètres extrinsèques de la caméra est réalisée en estimant son orientation par rapport au véhicule à partir de tout objet stationnaire dans une pluralité d'images, ce qui permet notamment de réaliser la calibration sur une route dépourvue de ligne blanche. De plus, l'utilisation d'un filtre de Kalman permet de réaliser la calibration en temps réel, i.e. d'une image à une autre, ce qui permet d'apporter une 30 assistance rapide au conducteur. Selon un aspect de l'invention, l'application du filtre de Kalman comprend l'estimation d'un vecteur d'état final à un instant présent, ledit vecteur d'état final comprenant un vecteur de mouvement final du véhicule, un vecteur de position final de la caméra et un vecteur de la position 3D des points stationnaires . 35 Selon une caractéristique de l'invention, le procédé comprend une étape préliminaire d'initialisation du filtre de Kalman par la détermination d'un vecteur d'état initial à un instant initial en choisissant : 3028989 3 - le vecteur de mouvement initial comme étant le vecteur nul, - les dernières valeurs de calibration connue ou des valeurs arbitraires pour initialiser le vecteur de position initial, et - de manière arbitraire, un vecteur de position 3D initial de points stationnaires. De manière préférée, la détermination des composantes du vecteur d'état final à l'instant présent comprend une sous-étape de prédiction d'un premier vecteur d'état intermédiaire à l'instant précédent, une sous-étape de mise à jour dudit premier vecteur d'état intermédiaire en une deuxième vecteur d'état intermédiaire à l'instant précédent, une sous-étape de mise à jour dudit deuxième vecteur d'état intermédiaire en un troisième vecteur d'état à l'instant présent et une sous-étape de remplacement de points à l'instant présent afin d'obtenir le vecteur d'état final. De préférence, la sous-étape de prédiction du premier vecteur d'état intermédiaire à l'instant précédent est réalisée selon l'équation suivante : Xr-3 = fpEre gr-4) + wE Xi-3 3 = Xi-4 Wc Xi-3 = fpre(Xi-4) = Xil 3 =Xi4 Xi-3 3 = Xi-4 4 - où xr 4 est le vecteur de mouvement final du véhicule obtenu pour la première image à l'instant précédent, Xi 4 est le vecteur de position final de la caméra pour la première image à l'instant précédent, = sont les composantes du vecteur de position 3D de la pluralité de points stationnaires dans la première image à l'instant précédent, wE, wc correspondent aux bruits de traitement (encore appelé bruits « de process »), fpEre represente un modèle de déplacement du véhicule (par exemple à vitesse constante). On note que la position 3D des N points stationnaires est ainsi fixée à l'instant précédent. Par ailleurs, lors de la première réalisation de la détermination du vecteur d'état final, celle-ci est effectuée à partir des composantes du vecteur d'état initial.
La matrice de covariance associée au premier vecteur d'état intermédiaire est estimée à partir de la matrice de covariance associée au vecteur d'état final obtenue à l'instant précédent (ou du vecteur d'état initial le cas échéant) selon l'équation suivante : Pi-3 = Hpre- Pi-411r3re Q où Hpre est la matrice jacobienne de la fonction fpre et Q étant la matrice de covariance des bruit de traitement wE, wc. Selon un aspect de l'invention, pour chaque mesure de position d'un point stationnaire disponible dans l'image à l'instant présent, la sous-étape de mise à jour du 3028989 4 premier vecteur d'état intermédiaire en un deuxième vecteur d'état intermédiaire à l'instant précédent, est réalisée selon l'équation : Xi_2 - Xj_3 K(epne' - Xpbrned) OÙ xpbrned = J f meas(Xr_3, xic 3,Xn 3) est une prédiction de la mesure dudit point stationnaire 5 (n est supérieur ou égale à 1 et inférieur ou égal à nombre N de points stationnaires), K est le gain de Kalman donné par K = eneas- S 1 5 Hmeas étant la matrice jacobienne de l'équation de mesure f meas 5 Pi-3 est la matrice de covariance de X1_3 et S étant la matrice d'innovation donnée par S = H meas - Pi-3. eneas + R, R étant la matrice représentant le bruit de la mesure.
10 La matrice de covariance du deuxième vecteur d'état intermédiaire X1_2 est mise à jour selon l'équation : Pi-2 = (I - K. Hm ) p eas, - - i-3 où I est la matrice identité. Les N points stationnaires mis à jour étant toujours exprimés à l'instant 15 précédent, il est nécessaire de les mettre à jour à l'instant présent. Ainsi, de préférence, la sous-étape de mise à jour du deuxième vecteur d'état intermédiaire en un troisième vecteur d'état à l'instant présent est réalisée dans le repère monde à l'instant présent selon l'équation suivante : Xi-1 1 = Xi-2 2 Xi-1 1 = Xi-2 2 X il- 1 = IPEost( X iE-2, X il- 2 ) = IPEost( Xr- 20 La fonction fpEost permet ainsi de transformer un point Xn (n étant compris entre 1 et N) de l'instant précédent à l'instant présent en utilisant le mouvement du véhicule estimé à l'aide du vecteur de mouvement du véhicule xr 2 entre ces 2 instants. Cette transformation est réalisée dans un repère lié à la route appelé « repère monde ». Avantageusement, la matrice de covariance du troisième vecteur d'état est 25 mise à jour selon l'équation : "post Pi-1 = Hpost- Pi-2. "post où Hpest est la matrice jacobienne de la fonction fpost. Avantageusement encore, lorsqu'un ou plusieurs points n'ont plus de mesure de position dans une image à l'instant présent, ces points sont remplacés dans le 30 troisième vecteur d'état par de nouveaux points stationnaires dont la mesure dans l'image est disponible, selon l'équation : X = fpost(Xi-2) 3028989 5 = 1 XiC = Xi = faugm 1, etew) = Xi = facuen( X v 41,,,) si point 1 remplacé par nouveau point b1 XN = facue,,,,(Xill,xew) si point N remplacé par nouveau point bm _ Selon un aspect de l'invention, la matrice de covariance du vecteur d'état final est mise à jour de la façon suivante : [P-' 1 T Pi - Haugm' [ 0 n u ewi augm 5 où Haugm est la matrice jacobienne de la fonction faugm et new est le bruit de mesure sur les points stationnaires xtw. L'invention concerne aussi un système d'assistance à la conduite d'un véhicule automobile comprenant au moins une caméra, configurée pour acquérir une pluralité d'images de l'environnement dudit véhicule, et un module de calibration des 10 paramètres extrinsèques de ladite caméra, ledit module de calibration comprenant : - des moyens de détermination des coordonnées d'une pluralité de points stationnaires entre une première image acquise par la caméra à un instant précédent et une deuxième image successive acquise par la caméra à un instant présent, consécutif à l'instant précédent, et 15 - des moyens de correction de la deuxième image par l'application d'un filtre de Kalman à la première image à partir des coordonnées déterminées de la pluralité de points stationnaires de manière à calibrer les paramètres extrinsèques de la caméra. L'invention concerne également un véhicule automobile comprenant un 20 système d'assistance à la conduite tel que présenté précédemment. D'autres caractéristiques et avantages de l'invention apparaîtront lors de la description qui suit faite en regard des figures annexées données à titre d'exemples non limitatifs et dans lesquelles des références identiques sont données à des objets semblables : 25 - La figure 1 illustre schématiquement un véhicule automobile selon l'invention, - La figure 2 illustre schématiquement le procédé selon l'invention. En référence à la figure 1, le système 5 selon l'invention est monté dans un véhicule automobile 1 afin de permettre l'assistance d'un conducteur à la conduite dudit 30 véhicule 1. A cette fin, le système 5 comprend une caméra 10 configurée pour acquérir une pluralité d'images de l'environnement dudit véhicule (non représenté) et un module de calibration 20 des paramètres extrinsèques de ladite caméra 10. La caméra 10 peut 3028989 6 être, par exemple, montée au niveau de la partie supérieure du pare-brise avant du véhicule. Selon l'invention, le système 5 permet de réaliser la calibration des paramètres extrinsèques de la caméra 10 pour chaque nouvelle image acquise par ladite 5 caméra 10 de sorte que la caméra 10 soit correctement calibrée en permanence. A cette fin, le module de calibration 20 comprend des moyens de détermination 22 et des moyens de correction 24. Les moyens de détermination 22 permettant de déterminer les coordonnées de N points, N étant supérieur ou égal à deux, stationnaires d'une première image 10 acquise par la caméra à un instant (t-1) à une deuxième image successive acquise par la caméra à un instant (t). Les moyens de correction 24 permettent de corriger la deuxième image par l'application d'un filtre de Kalman à la première image à partir des coordonnées déterminées de manière à réaliser la calibration des paramètres extrinsèques de la 15 caméra 10 pour chaque nouvelle image acquise par ladite caméra 10. Un filtre de Kalman permet de manière connue d'estimer les états d'un système dynamique à partir d'une série de mesures incomplètes ou bruitées. Selon l'invention, on définit un filtre de Kalman étendu pour calibrer les paramètres extrinsèques de la caméra 10, comme cela est décrit ci-après.
20 La mise en oeuvre du procédé selon l'invention va maintenant être décrite. Afin de décrire la mise en oeuvre du procédé selon l'invention, il est nécessaire de définir des repères et des transformations. Tout d'abord, toujours en référence à la figure 1, on définit un repère monde W, lié au sol S et dont la composante xw est toujours parallèle sol S, et un repère 25 caméra K, lié à la caméra et donc la composante zK est orientée selon la focale de la caméra 10. L'application du filtre de Kalman selon l'invention nécessite l'estimation d'un vecteur d'état Xj, l'indice j indiquant l'étape du vecteur d'état dans l'application du filtre de Kalman.
30 Ce vecteur d'état Xj est un vecteur colonne comprenant trois vecteurs : un vecteur de mouvement )(JE du véhicule, un vecteur de position Xic de la caméra et un vecteur de la position 3D des N points stationnaires de composantes (Xil__ Xj1v). XE XC X1 [1] Xi = XN I 3028989 7 Le vecteur de mouvement )(JE du véhicule comprend les trois composantes de translations et les trois composantes de rotation représentant le mouvement du véhicule entre l'instant t-1 où est acquise la première image et l'instant t où est acquise la deuxième image : tex tey 5 XE = t' [2] yaw pitche _ rolle Le mouvement du véhicule entre deux images successives aux instants t-1 et t est donné par l'équation suivante : Xw(t) = RE. (Xw(t - 1) - TE) [3] tex où TE = tey [4] tez yawe ) 10 et RE est la matrice de rotation définie par les angles pitche [5]. ro//e Le vecteur de position XJE de la caméra définit les deux rotations « yaw » en anglais (signifie tangage en français) et « pitch » en anglais (signifie lacet en français) permettant de passer du repère monde W au repère caméra K, la troisième rotation « roll » en anglais (signifie roulis en français) étant prédéterminée et connue de même 15 que le vecteur TK représentant les translations selon les trois dimensions spatiales permettant de passer du repère monde W au repère caméra K. Ainsi, on passe d'un point de coordonnées Xw dans le repère monde W à un point de coordonnées Xk dans le repère caméra K selon l'équation suivante : Xk = RK. (Xw - TK) [6] y 20 où RK correspond au vecteur Xc. = ( aw pitch) [7]. Un point XI' (n étant compris entre 1 et N), du vecteur de la position 3D des N un points stationnaires de composantes (Xj1, ..., X7), définit par ses coordonnées XI' = vn a [ dn pour position 3D cartésienne (xn, yn,zn) dans le repère monde W où xn = L yn = et zn = vn dn dn dn xk 25 Un point Xk défini par ses coordonnées (Ykl dans le repère caméra K peut Zk être projeté de manière connue dans le repère image : - en coordonnées normalisées : xb = Zk et yb = [8]. Yk Zk [9] 3028989 8 puis - en pixels : xp = Fx.xb + X0 et yp = Fy. yb + Yo [10] où (Fx,F3,) correspondent aux valeurs de la focale de l'image (connues) et (X0, Yo) correspondent au point principal de l'image (connu).
5 Dans une étape préliminaire E0, il est nécessaire d'initialiser le filtre de Kalman. A cette fin, on détermine un vecteur d'état initial X0 en choisissant par exemple : - Xff = 0, - les dernières valeurs de calibration connue pour X8 ou des valeurs arbitraires, et 10 - des positions 3D arbitraires de N points stationnaires de composantes Xfi Le filtre de Kalman étendu est appliqué à chaque image afin de déterminer les valeurs de tangage (pitch) et de lacet (yaw) permettant la calibration de la caméra. L'application du filtre de Kalman étendu comprend quatre étapes successives.
15 Le procédé selon l'invention comprend tout d'abord une étape El de détermination des coordonnées d'une pluralité de N points stationnaires entre une première image acquise par la caméra 10 à un instant précédent (t-1) et une deuxième image successive acquise par la caméra 10 à un instant présent t, et une étape E2 de correction de la deuxième image par l'application d'un filtre de Kalman à la première 20 image à partir des coordonnées déterminées de manière à calibrer les paramètres extrinsèques de la caméra 10. L'application du filtre de Kalman comprend l'estimation d'un vecteur d'état Xi final à un instant présent t, ledit vecteur d'état final Xi comprenant un vecteur de mouvement xr final du véhicule, un vecteur de position xr final de la caméra et un 25 vecteur de la position 3D des N points stationnaires de composantes (Xl, ...,XN). La détermination des composantes du vecteur d'état final Xi à l'instant présent t comprend une sous-étape E2A de prédiction d'un premier vecteur d'état intermédiaire )(1_3 à l'instant précédent (t-1), immédiatement antérieur à l'instant présent t, une sous-étape E2B de mise à jour dudit premier vecteur d'état intermédiaire X1_3 en un 30 deuxième vecteur d'état intermédiaire X1_2 à l'instant précédent (t-1), une sous-étape E2C de mise à jour dudit deuxième vecteur d'état intermédiaire X1_2 en un troisième vecteur d'état X1_, à l'instant présent t et une sous-étape E2D de remplacement de points à l'instant présent t afin d'obtenir le vecteur d'état final Xi. La sous-étape E2A de prédiction du premier vecteur d'état intermédiaire 35 X1_3 à l'instant précédent (t-1) est réalisée selon l'équation suivante à partir du dernier 3028989 9 vecteur d'état final X1_4 connu résultant d'une application antérieure du filtre de Kalman (ou du vecteur d'état initial X0 le cas échéant) : Xr-3 - fpEre gr-4) + wE Xi 3 = Xr_4 Wc Xi-3 = fpre(Xi-4) = Xil 3 = Xil 4 Xi-3 3 = Xi-4 4 où XE 4 est le vecteur de mouvement final du véhicule obtenu pour la première image à 5 l'instant t-1, Xi 4 est le vecteur de position final de la caméra pour la première image à l'instant t-1, (Xi 3, 3) = (Xi 4, ..., 4) sont les composantes du vecteur de position 3D de la pluralité de N points stationnaires dans la première image à l'instant précédent (t-1), wE, wc correspondent aux bruits de traitement (encore appelé bruits « de process »), fpEre represente un modèle de déplacement du véhicule (par exemple à vitesse 10 constante). On note que la position 3D des N points stationnaires est ainsi fixée à l'instant précédent (t-1). Par ailleurs, lors de la première réalisation de la détermination du vecteur d'état final, celle-ci est effectuée à partir des composantes du vecteur d'état initial X0. La matrice de covariance Pi_3 associée à Xi_3 est estimée à partir de Pi_4, matrice de covariance à l'instant précédent (t-1), associée à Xi_4 selon l'équation 15 suivante : Pi-3 = Hpre- Pi-4HT^re Q [12] où Hpre est la matrice jacobienne de la fonction fpre et Q étant la matrice de covariance des bruit de traitement wE, wc. La sous-étape E2B de mise à jour du premier vecteur d'état intermédiaire 20 Xi_3 en une deuxième vecteur d'état intermédiaire Xi_2 à l'instant précédent (t-1) est réalisée en utilisant les points enne' ayant une mesure de position (xbn,ybn) disponible dans une image à l'instant présent t. Chaque point Xbn est fonction du vecteur de mouvement XE 3 du véhicule entre l'instant précédent (t-1) et l'instant présent t, du vecteur de position Xi 3 de la caméra à l'instant présent t et du vecteur de position 3D des N 25 points stationnaires de composantes (e3, ...,Xlv_3) exprimés à l'instant précédent (t-1). La prédiction de la mesure de ces points peut ainsi s'écrire selon l'équation de mesure suivante : Xpbrned = f meas(Xr-3, xr_3,xpi3) [13] où n est supérieur ou égale à 1 et inférieur ou égal à N.
30 L'équation [8] permet d'obtenir la position en 3D cartésienne d'un point X12_3 dans le repère monde W à l'instant précédent (t-1). Les équations [2], [3], [4] et [5], ainsi que le vecteur de mouvement xr 3 , permettent ensuite d'obtenir la position en 3D cartésienne de X123 dans le repère monde W à l'instant présent t. Cette position en 3D 3028989 10 cartésienne de X12_3 dans le repère monde W à l'instant présent t, ainsi que xr_3 permettent d'obtenir la position du point xpbrned dans le repère caméra K en utilisant l'équation [6]. Enfin, l'équation [9] permet d'obtenir ses coordonnées normalisées dans le repère caméra K.
5 Pour chaque mesure de position d'un point stationnaire enne' de coordonnées bn, Y bn) disponible dans l'image à l'instant présent t, le vecteur d'état est mis à jour selon l'équation : X1_2 = X1_3 K(ene' - xpred) [14] où K est le gain de Kalman donné par : /0 K = Pi-3. 11,711' eas. S-1 [15] Hmeas étant la matrice jacobienne de f meas 5 Pi-3 est la matrice de covariance de X1_3 et S étant la matrice d'innovation donnée par : S = Hmeas - Pi-3. eneas + R [16] (R étant la matrice représentant le bruit de la mesure).
15 La matrice P1_2 de covariance de X1_2 est mis à jour par : Pi 2 = - K. Hm eas, - - P i-3 [17] où I est la matrice identité. Les N points stationnaires (X?:_2, ...,Xi'v2) ainsi mis à jour étant toujours exprimés à l'instant précédent (t-1), il est nécessaire de les mettre à jour à l'instant 20 présent t. La sous-étape E2C de mise à jour du vecteur d'état X1_1 à l'instant présent t est réalisée dans le repère monde W à l'instant présent t selon l'équation suivante : X iE = X iE 2 Xi-1 = Xi-2 2 Xi 1 = fpEost( X iE-2, X il-2) = fpEost Xr-2, La fonction fpEost permet ainsi de passer un point Xn (n étant compris entre 1 25 et N) de l'instant précédent (t-1) à l'instant présent t en utilisant le mouvement du véhicule estimé à l'aide du vecteur de mouvement du véhicule xr 2entre ces 2 instants. Pour ce faire, l'équation [8] permet d'obtenir la position en 3D cartésienne d'un point X12_2 dans le repère monde W à l'instant précédent (t-1). Les équations [2], [3], [4] et [5], ainsi que le vecteur de mouvement Xr_2, permettent ensuite d'obtenir la position en 30 3D cartésienne du point X12_2 dans le repère monde W à l'instant présent t. Enfin, la position du point X12_1 est obtenue à partir de la position en 3D cartésienne de X12_2 dans le repère monde W à l'instant présent t et de l'équation [8] à nouveau. Xi-1 - fpost(Xi-2) [18] 3028989 11 La matrice de covariance de P1_1 du troisième vecteur d'état X1_1 est elle aussi mise à jour de la façon suivante : Pi-1 = Hpost- Pi-2 - HT^ost [19] où Hpost est la matrice jacobienne de la fonction fpost.
5 Lorsqu'un ou plusieurs points n'ont plus de mesure de position dans une image à l'instant présent t, ces points sont remplacés dans le vecteur d'état final Xi lors d'une sous-étape E2D, par de nouveaux points stationnaires xtw = (ej-w,...,eenw), dont la mesure dans l'image est disponible selon l'équation : Xi = X iE 1 X i. = X iC 1 Xi = faugm (X i-1,4ww) = Xi- = faCuen( Xi 1, ejw) si point 1 remplacé par nouveau point b1 [20] xi" = facu9,,,,i( xicii, e) si point N remplacé par nouveau point bm _ 10 La fonction facugni permet de transformer un point dans l'image xb dans le repère monde en utilisant la calibration extrinsèque estimée xl 1. A cette fin, chaque point (4-w,..., eyenw)) est tout d'abord projeté dans le xk ( repère caméra K afin d'obtenir un point X k de coordonnées Yk I à l'aide de l'équation [9] en considérant que le point est à sensiblement à l'infini dans le repère caméra K avec 15 - = E, E étant une valeur proche de zéro. L'équation [6] et le vecteur de position connu ZK xi.1 permettent ensuite d'obtenir la position xe du point dans le repère monde W à l'instant présent t. Enfin, l'équation [8] permet d'obtenir le nouveau point stationnaire xir., dans le repère monde W en 3D à l'instant présent t. La matrice de covariance Pi du vecteur d'état final Xi est elle aussi mise à jour 20 de la façon suivante : Pi 10 L,T Pi - H augm-[ 0 D be - El augm w où Haugm est la matrice jacobienne de la fonction faugm et new le bruit de mesure sur les points stationnaires xtw. L'application d'un filtre de Kalman étendu selon l'invention permet donc 25 avantageusement de réaliser aisément et rapidement la calibration des paramètres extrinsèques de la caméra 10 afin d'assister efficacement le conducteur du véhicule dans sa conduite. Il est à noter enfin que la présente invention n'est pas limitée aux exemples décrits ci-dessus et est susceptible de nombreuses variantes accessibles à l'homme de 30 l'art. Zk [21]

Claims (10)

  1. REVENDICATIONS1. Procédé de calibration des paramètres extrinsèques d'une caméra (10) d'un véhicule automobile (1) configurée pour acquérir une pluralité d'images de l'environnement dudit véhicule (1), ledit procédé étant caractérisé en ce qu'il comprend : - une étape (El ) de détermination des coordonnées d'une pluralité de N points stationnaires entre une première image acquise par la caméra (10) à un instant précédent (t-1) et une deuxième image successive acquise par la caméra (10) à un instant présent (t), consécutif à l'instant précédent (t-1), et - une étape (E2) de correction de la deuxième image par l'application d'un filtre de Kalman à la première image à partir des coordonnées déterminées de la pluralité de N points stationnaires de manière à calibrer les paramètres extrinsèques de la caméra (10).
  2. 2. Procédé de calibration selon la revendication 1, caractérisé en ce que l'application du filtre de Kalman comprend l'estimation d'un vecteur d'état final (Xi) à un instant présent (t), ledit vecteur d'état final (Xi) comprenant un vecteur de mouvement final (e) du véhicule, un vecteur de position final (Xi) de la caméra (10) et un vecteur de la position 3D des (N) points stationnaires.
  3. 3. Procédé de calibration selon la revendication précédente, caractérisé en ce qu'il comprend une étape préliminaire (E0) d'initialisation du filtre de Kalman par la détermination d'un vecteur d'état initial en choisissant : - le vecteur de mouvement initial (g) comme étant le vecteur nul, - les dernières valeurs de calibration connue ou des valeurs arbitraires pour le vecteur de position initial (xi), et - un vecteur de position 3D arbitraire de (N) points stationnaires.
  4. 4. Procédé de calibration selon la revendication précédente, caractérisé en ce que la détermination des composantes du vecteur d'état final (Xi) à l'instant présent (t) comprend une sous-étape (E2A) de prédiction d'un premier vecteur d'état intermédiaire (X1_3) à l'instant précédent (t-1) selon la formule suivante : Xr3 = fpEre(Xr-4)+WE Xr= Xr -3 _4 +141c XiIr 3 = X 4 X1_3 - fpregi-4) 3028989 13 où xr 4 est le vecteur de mouvement final du véhicule obtenu pour la première image à l'instant précédent (t-1), xr_4. est le vecteur de position final de la caméra pour la première image à l'instant précédent (t-1), (e3, = ont les composantes du vecteur de position 3D de la pluralité de (N) points stationnaires dans la première image à 5 l'instant précédent (t-1), wE, wc correspondent aux bruits de traitement, fpEre represente un modèle de déplacement du véhicule.
  5. 5. Procédé de calibration selon la revendication précédente, caractérisé en ce que la détermination des composantes du vecteur d'état final (Xi) à l'instant présent (t) comprend une sous-étape (E2B) de mise à jour du premier vecteur d'état intermédiaire 10 (X1_3) en un deuxième vecteur d'état intermédiaire (X1_2) à l'instant précédent (t-1), qui est réalisée pour chaque mesure de position d'un point stationnaire (enne') disponible dans l'image à l'instant présent (t), selon l'équation : X1_2 = X1_3 K (Xbn meas xPed) où xpbrned est une prédiction de la mesure dudit point stationnaire, K est le gain de Kalman 15 donné par K = eas- -S 1 Hmeas étant la matrice jacobienne de f meas I /31_3 est la matrice de covariance de X1_3 et S étant la matrice d'innovation donnée par S = Hmeas - Pi-3. neas R, R étant la matrice représentant le bruit de la mesure.
  6. 6. Procédé de calibration selon la revendication précédente, caractérisé en ce que la matrice (P1_2) de covariance du deuxième vecteur d'état intermédiaire (X1_2) est 20 mise à jour selon l'équation : P1-2 = - K. Hm )- - p eas,- P1_3 où I est la matrice identité.
  7. 7. Procédé de calibration selon la revendication précédente, caractérisé en ce que la détermination des composantes du vecteur d'état final (X1) à l'instant présent (t) 25 comprend une sous-étape (E2C) de mise à jour du deuxième vecteur d'état intermédiaire (X1_2) en un troisième vecteur d'état (X1_1) à l'instant présent est réalisée dans le repère monde (W) à l'instant présent selon l'équation suivante : X tE = X tE 2 Xr = Xi 2 X/1-1 = fpEost( X tE-2, X11-2) X1_1 = fpost(Xi-2) = fpEost(
  8. 8. Procédé de calibration selon la revendication précédente, caractérisé en ce que, la détermination des composantes du vecteur d'état final (X1) à l'instant présent (t) comprend, lorsqu'un ou plusieurs points n'ont plus de mesure de position dans une image 3028989 14 à l'instant présent (t), une sous-étape (E2D) de remplacement de ces points dans le troisième vecteur d'état (X1_1) par de nouveaux points stationnaires (xtw = (ejw,..,eenw)), dont la mesure dans l'image est disponible, selon l'équation : = xic = Xi = ejw) si point 1 remplacé par nouveau point b11, Xi = faugm (Xi-i,Xriew) = X" = xew) si point N remplacé par nouveau point bm _ 5
  9. 9. Système d'assistance à la conduite d'un véhicule automobile comprenant au moins une caméra (10), configurée pour acquérir une pluralité d'images de l'environnement dudit véhicule, et un module (20) de calibration des paramètres extrinsèques de ladite caméra (10), ledit module de calibration (20) comprenant : - des moyens (22) de détermination des coordonnées d'une pluralité de (N) points 10 stationnaires entre une première image acquise par la caméra à un instant précédent (t-1) et une deuxième image successive acquise par la caméra à un instant présent (t), consécutif à l'instant précédent (t-1), et - des moyens (24) de correction de la deuxième image par l'application d'un filtre de Kalman à la première image à partir des coordonnées déterminées de la pluralité 15 de (N) points stationnaires de manière à calibrer les paramètres extrinsèques de la caméra (10).
  10. 10. Véhicule automobile comprenant un système d'assistance à la conduite (5) selon la revendication précédente.
FR1461307A 2014-11-21 2014-11-21 Procede de calibration des parametres extrinseques d'une camera d'un vehicule automobile et systeme d'assistance a la conduite associe Active FR3028989B1 (fr)

Priority Applications (1)

Application Number Priority Date Filing Date Title
FR1461307A FR3028989B1 (fr) 2014-11-21 2014-11-21 Procede de calibration des parametres extrinseques d'une camera d'un vehicule automobile et systeme d'assistance a la conduite associe

Applications Claiming Priority (2)

Application Number Priority Date Filing Date Title
FR1461307 2014-11-21
FR1461307A FR3028989B1 (fr) 2014-11-21 2014-11-21 Procede de calibration des parametres extrinseques d'une camera d'un vehicule automobile et systeme d'assistance a la conduite associe

Publications (2)

Publication Number Publication Date
FR3028989A1 true FR3028989A1 (fr) 2016-05-27
FR3028989B1 FR3028989B1 (fr) 2020-07-17

Family

ID=52988142

Family Applications (1)

Application Number Title Priority Date Filing Date
FR1461307A Active FR3028989B1 (fr) 2014-11-21 2014-11-21 Procede de calibration des parametres extrinseques d'une camera d'un vehicule automobile et systeme d'assistance a la conduite associe

Country Status (1)

Country Link
FR (1) FR3028989B1 (fr)

Cited By (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN110422175A (zh) * 2019-07-31 2019-11-08 上海智驾汽车科技有限公司 车辆状态估计方法以及装置、电子设备、存储介质、车辆
FR3082038A1 (fr) * 2018-06-04 2019-12-06 Continental Automotive France Estimation dynamique du tangage instantane d'une camera embarquee dans un vehicule automobile
US11092667B2 (en) 2017-12-20 2021-08-17 Bosch Automotive Service Solutions Inc. Portable apparatus for vehicle sensor calibration

Citations (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2000034803A2 (fr) * 1998-11-20 2000-06-15 Geometrix, Inc. Determination de la pose d'une camera a assistance visuelle
EP2434256A2 (fr) * 2010-09-24 2012-03-28 Honeywell International Inc. Intégration de caméra et d'unité de mesure d'inertie avec feedback de données de navigation pour le suivi de fonctions

Patent Citations (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2000034803A2 (fr) * 1998-11-20 2000-06-15 Geometrix, Inc. Determination de la pose d'une camera a assistance visuelle
EP2434256A2 (fr) * 2010-09-24 2012-03-28 Honeywell International Inc. Intégration de caméra et d'unité de mesure d'inertie avec feedback de données de navigation pour le suivi de fonctions

Non-Patent Citations (3)

* Cited by examiner, † Cited by third party
Title
ANONYMOUS: "Extended Kalman filter - Wikipedia, the free encyclopedia", 10 November 2014 (2014-11-10), XP055194715, Retrieved from the Internet <URL:http://en.wikipedia.org/w/index.php?title=Extended_Kalman_filter&oldid=633185081> [retrieved on 20150610] *
ANONYMOUS: "Kalman filter - Wikipedia, the free encyclopedia", 3 April 2014 (2014-04-03), XP055112014, Retrieved from the Internet <URL:http://en.wikipedia.org/wiki/Kalman_filter#Update> [retrieved on 20140403] *
CORKE P ET AL: "Omnidirectional visual odometry for a planetary rover", INTELLIGENT ROBOTS AND SYSTEMS, 2004. (IROS 2004). PROCEEDINGS. 2004 I EEE/RSJ INTERNATIONAL CONFERENCE ON SENDAI, JAPAN 28 SEPT.-2 OCT., 2004, PISCATAWAY, NJ, USA,IEEE, PISCATAWAY, NJ, USA, vol. 4, 28 September 2004 (2004-09-28), pages 4007 - 4012, XP010766315, ISBN: 978-0-7803-8463-7, DOI: 10.1109/IROS.2004.1390041 *

Cited By (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US11092667B2 (en) 2017-12-20 2021-08-17 Bosch Automotive Service Solutions Inc. Portable apparatus for vehicle sensor calibration
FR3082038A1 (fr) * 2018-06-04 2019-12-06 Continental Automotive France Estimation dynamique du tangage instantane d'une camera embarquee dans un vehicule automobile
EP3579191A1 (fr) * 2018-06-04 2019-12-11 Continental Automotive France Estimation dynamique du tangage instantané et du roulis instantané d'une caméra embarquée dans un véhicule automobile
CN110422175A (zh) * 2019-07-31 2019-11-08 上海智驾汽车科技有限公司 车辆状态估计方法以及装置、电子设备、存储介质、车辆
CN110422175B (zh) * 2019-07-31 2021-04-02 上海智驾汽车科技有限公司 车辆状态估计方法以及装置、电子设备、存储介质、车辆

Also Published As

Publication number Publication date
FR3028989B1 (fr) 2020-07-17

Similar Documents

Publication Publication Date Title
CA2851750C (fr) Procede d&#39;etalonnage d&#39;un systeme de vision par ordinateur embarque sur un mobile
WO2019020945A1 (fr) Procede de calibration d&#39;un magnetometre
EP1802960B1 (fr) Dispositif de mesure de distance de visibilite
WO2014076294A1 (fr) Procédé de détermination, dans un référentiel fixe 3d, de la localisation d&#39;un engin en mouvement, dispositif et programme d&#39;ordinateur associés
EP2724203A1 (fr) Génération de données de carte
EP3454010B1 (fr) Procédé de compensation d&#39;un champ magnétique, dispositif et programme d&#39;ordinateur associés
KR102268094B1 (ko) 동적 입체 캘리브레이션을 위한 시스템 및 방법
FR3028989A1 (fr) Procede de calibration des parametres extrinseques d&#39;une camera d&#39;un vehicule automobile et systeme d&#39;assistance a la conduite associe
KR20180076441A (ko) 적응적 관심영역 및 탐색창을 이용한 객체 검출 방법 및 장치
EP3126864A1 (fr) Procédé de géo-localisation de l&#39;environnement d&#39;un porteur
FR3032820A1 (fr) Procede de calibration d&#39;une camera montee sur le pare-brise d&#39;un vehicule
FR3055727A1 (fr) Procede et dispositif de caracterisation des aberrations d&#39;un systeme optique
EP3301644A1 (fr) Procédé de construction d&#39;une carte de profondeur d&#39;une scène et/ou d&#39;une image entièrement focalisée
EP3070643B1 (fr) Procédé et système de reconnaissance d&#39;objets par analyse de signaux d&#39;image numérique d&#39;une scène
FR2985307A1 (fr) Procede d&#39;etalonnage des biais d&#39;alignement d&#39;un systeme d&#39;observation de la terre exploitant des prises de vue symetriques
FR3053554A1 (fr) Procede de calibration rapide d&#39;une camera de vehicule automobile
EP3380947B1 (fr) Procédé et dispositif de prévision de nébulosité par traitement statistique de données sélectionnées par analyse spatiale
FR3115141A1 (fr) Procédé de localisation d’objets routiers
FR3106904A1 (fr) Procédé de calibration des caractéristiques extrinsèques d’un Lidar
WO2019016473A1 (fr) Procédé d&#39;estimation du mouvement d&#39;un objet évoluant dans un environnement et un champ magnétique
FR2956237A1 (fr) Dispositif pour mettre a jour un modele photometrique
WO2024209137A1 (fr) Procédé et dispositif de détermination d&#39;une profondeur par un système de vision stéréoscopique non parallèle
FR3147650A1 (fr) Procédé et dispositif de détermination d’une profondeur par un système de vision auto-supervisé.
EP0519773B1 (fr) Procédé et dispositif de recalage continu d&#39;images en veille panoramique
FR3133095A1 (fr) Procédé de calcul de surfaces tridimensionnelles pour véhicule équipé d’un système d’aide à la conduite

Legal Events

Date Code Title Description
PLFP Fee payment

Year of fee payment: 2

PLSC Publication of the preliminary search report

Effective date: 20160527

PLFP Fee payment

Year of fee payment: 3

PLFP Fee payment

Year of fee payment: 4

PLFP Fee payment

Year of fee payment: 6

PLFP Fee payment

Year of fee payment: 7

PLFP Fee payment

Year of fee payment: 8

PLFP Fee payment

Year of fee payment: 9

TQ Partial transmission of property

Owner name: CONTINENTAL AUTONOMOUS MOBILITY GERMANY GMBH, DE

Effective date: 20230424

Owner name: CONTINENTAL AUTOMOTIVE FRANCE, FR

Effective date: 20230424

PLFP Fee payment

Year of fee payment: 10