WO2019139243A1 - 자율주행을 위한 고정밀 지도의 업데이트 장치 및 방법 - Google Patents

자율주행을 위한 고정밀 지도의 업데이트 장치 및 방법 Download PDF

Info

Publication number
WO2019139243A1
WO2019139243A1 PCT/KR2018/014005 KR2018014005W WO2019139243A1 WO 2019139243 A1 WO2019139243 A1 WO 2019139243A1 KR 2018014005 W KR2018014005 W KR 2018014005W WO 2019139243 A1 WO2019139243 A1 WO 2019139243A1
Authority
WO
WIPO (PCT)
Prior art keywords
landmark
precision map
dimensional image
map
dimensional
Prior art date
Application number
PCT/KR2018/014005
Other languages
English (en)
French (fr)
Inventor
이성수
Original Assignee
에스케이텔레콤 주식회사
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Priority claimed from KR1020180097468A external-priority patent/KR102221695B1/ko
Application filed by 에스케이텔레콤 주식회사 filed Critical 에스케이텔레콤 주식회사
Priority to CN201880068940.0A priority Critical patent/CN111263960B/zh
Priority to US16/756,829 priority patent/US11530924B2/en
Publication of WO2019139243A1 publication Critical patent/WO2019139243A1/ko

Links

Images

Classifications

    • G—PHYSICS
    • G01—MEASURING; TESTING
    • G01C—MEASURING DISTANCES, LEVELS OR BEARINGS; SURVEYING; NAVIGATION; GYROSCOPIC INSTRUMENTS; PHOTOGRAMMETRY OR VIDEOGRAMMETRY
    • G01C21/00—Navigation; Navigational instruments not provided for in groups G01C1/00 - G01C19/00
    • G01C21/38—Electronic maps specially adapted for navigation; Updating thereof
    • G01C21/3804—Creation or updating of map data
    • G01C21/3833—Creation or updating of map data characterised by the source of data
    • G01C21/3848—Data obtained from both position sensors and additional sensors
    • G—PHYSICS
    • G09—EDUCATION; CRYPTOGRAPHY; DISPLAY; ADVERTISING; SEALS
    • G09B—EDUCATIONAL OR DEMONSTRATION APPLIANCES; APPLIANCES FOR TEACHING, OR COMMUNICATING WITH, THE BLIND, DEAF OR MUTE; MODELS; PLANETARIA; GLOBES; MAPS; DIAGRAMS
    • G09B29/00—Maps; Plans; Charts; Diagrams, e.g. route diagram
    • G09B29/003—Maps
    • G09B29/006—Representation of non-cartographic information on maps, e.g. population distribution, wind direction, radiation levels, air and sea routes
    • G09B29/007—Representation of non-cartographic information on maps, e.g. population distribution, wind direction, radiation levels, air and sea routes using computer methods
    • G—PHYSICS
    • G01—MEASURING; TESTING
    • G01C—MEASURING DISTANCES, LEVELS OR BEARINGS; SURVEYING; NAVIGATION; GYROSCOPIC INSTRUMENTS; PHOTOGRAMMETRY OR VIDEOGRAMMETRY
    • G01C21/00—Navigation; Navigational instruments not provided for in groups G01C1/00 - G01C19/00
    • G01C21/26—Navigation; Navigational instruments not provided for in groups G01C1/00 - G01C19/00 specially adapted for navigation in a road network
    • G01C21/28—Navigation; Navigational instruments not provided for in groups G01C1/00 - G01C19/00 specially adapted for navigation in a road network with correlation of data from several navigational instruments
    • G01C21/30—Map- or contour-matching
    • G01C21/32—Structuring or formatting of map data
    • G—PHYSICS
    • G01—MEASURING; TESTING
    • G01C—MEASURING DISTANCES, LEVELS OR BEARINGS; SURVEYING; NAVIGATION; GYROSCOPIC INSTRUMENTS; PHOTOGRAMMETRY OR VIDEOGRAMMETRY
    • G01C21/00—Navigation; Navigational instruments not provided for in groups G01C1/00 - G01C19/00
    • G01C21/38—Electronic maps specially adapted for navigation; Updating thereof
    • G01C21/3804—Creation or updating of map data
    • G01C21/3807—Creation or updating of map data characterised by the type of data
    • G01C21/3811—Point data, e.g. Point of Interest [POI]
    • G—PHYSICS
    • G05—CONTROLLING; REGULATING
    • G05D—SYSTEMS FOR CONTROLLING OR REGULATING NON-ELECTRIC VARIABLES
    • G05D1/00—Control of position, course or altitude of land, water, air, or space vehicles, e.g. automatic pilot
    • G05D1/02—Control of position or course in two dimensions
    • G05D1/021—Control of position or course in two dimensions specially adapted to land vehicles
    • G05D1/0268—Control of position or course in two dimensions specially adapted to land vehicles using internal positioning means
    • G05D1/0274—Control of position or course in two dimensions specially adapted to land vehicles using internal positioning means using mapping information stored in a memory device
    • G—PHYSICS
    • G09—EDUCATION; CRYPTOGRAPHY; DISPLAY; ADVERTISING; SEALS
    • G09B—EDUCATIONAL OR DEMONSTRATION APPLIANCES; APPLIANCES FOR TEACHING, OR COMMUNICATING WITH, THE BLIND, DEAF OR MUTE; MODELS; PLANETARIA; GLOBES; MAPS; DIAGRAMS
    • G09B29/00—Maps; Plans; Charts; Diagrams, e.g. route diagram
    • G—PHYSICS
    • G09—EDUCATION; CRYPTOGRAPHY; DISPLAY; ADVERTISING; SEALS
    • G09B—EDUCATIONAL OR DEMONSTRATION APPLIANCES; APPLIANCES FOR TEACHING, OR COMMUNICATING WITH, THE BLIND, DEAF OR MUTE; MODELS; PLANETARIA; GLOBES; MAPS; DIAGRAMS
    • G09B29/00—Maps; Plans; Charts; Diagrams, e.g. route diagram
    • G09B29/003—Maps
    • G—PHYSICS
    • G09—EDUCATION; CRYPTOGRAPHY; DISPLAY; ADVERTISING; SEALS
    • G09B—EDUCATIONAL OR DEMONSTRATION APPLIANCES; APPLIANCES FOR TEACHING, OR COMMUNICATING WITH, THE BLIND, DEAF OR MUTE; MODELS; PLANETARIA; GLOBES; MAPS; DIAGRAMS
    • G09B29/00—Maps; Plans; Charts; Diagrams, e.g. route diagram
    • G09B29/003—Maps
    • G09B29/006—Representation of non-cartographic information on maps, e.g. population distribution, wind direction, radiation levels, air and sea routes
    • G—PHYSICS
    • G05—CONTROLLING; REGULATING
    • G05D—SYSTEMS FOR CONTROLLING OR REGULATING NON-ELECTRIC VARIABLES
    • G05D1/00—Control of position, course or altitude of land, water, air, or space vehicles, e.g. automatic pilot
    • G05D1/0088—Control of position, course or altitude of land, water, air, or space vehicles, e.g. automatic pilot characterized by the autonomous decision making process, e.g. artificial intelligence, predefined behaviours

Definitions

  • the present invention relates to an apparatus and a method for more efficiently updating a three-dimensional high-precision map for autonomous driving.
  • the present application claims priority based on Korean patent application (Application No. 10-2018-0097468) filed on August 21, 2018. The entire contents of which are incorporated herein by reference in their entirety.
  • Autonomous driving means that the vehicle automatically recognizes the road conditions and runs automatically without the driver controlling the brakes, the steering wheel, and the accelerator pedal, and such autonomous driving technology is a key technology for implementing a smart car.
  • the high-precision map includes the lane of the road on which the vehicle is to be driven, and may include stop lines, signs, traffic lights, and guard rails.
  • the high-precision map 1 is a diagram for explaining an example of a high-precision map.
  • the high-precision map 1 generally includes three-dimensional point cloud data obtained while traveling on an actual road using a mobile mapping system (MMS) vehicle equipped with a high-performance sensor (RTK GPS, INS, LIDAR, . ≪ / RTI >
  • RTK GPS, INS, LIDAR, . ≪ / RTI &gt a portion that is important information for driving a vehicle such as a lane, a stop line, a sign, a milestone, etc.
  • a vehicle to which the autonomous driving technology is applied acquires information about the road and its vicinity from the high-precision map.
  • the state of the road and its surroundings may change from time to time due to changes in construction or traffic policies.
  • Effective updating of high-precision maps can be very important, as these changes need to be quickly and accurately reflected on high-precision maps in order to prevent accidents that can occur when autonomous vehicles refer to actual and other information.
  • An object of the present invention is to provide an apparatus and method for efficiently and accurately updating a map with less time and effort without using high performance equipment.
  • a high-precision map updating method including the steps of: acquiring a two-dimensional image obtained by photographing an object area corresponding to at least a part of an area represented by a three-dimensional high-precision map; Generating a three-dimensional local landmark map for the object area from a position of a landmark in the two-dimensional image based on the position and orientation of the photographing apparatus; And updating the high-precision map with reference to the corresponding local landmark map.
  • an apparatus for updating a high-precision map comprising: a photographing apparatus for obtaining a two-dimensional image of an object region photographed by at least a part of regions represented by three- A local landmark map generating unit for generating a three-dimensional local landmark map for the target area from a position of a landmark in the two-dimensional image, based on a position and an orientation of a photographing apparatus; And an updating unit for updating the high-precision map with reference to the local landmark map corresponding to the target area of the high-precision map.
  • an ordinary vehicle having a general image photographing device such as a camera can easily detect a change occurrence and update a high-precision map using a two-dimensional image acquired through the image photographing device . Accordingly, there is no need to repeatedly generate a high-precision map using expensive equipment for updating the existing high-precision map, and the efficiency of high-precision map updating can be dramatically increased.
  • a high-precision map update can be easily performed by a general vehicle having a camera, so that it is possible to secure a vast amount of data collected by a large number of vehicles traveling on a road , It is possible to achieve a great effect in terms of reliability as well as economy.
  • 1 is a diagram for explaining an example of a high-precision map.
  • FIGS. 2A and 2B are diagrams for explaining a configuration of a high-precision map updating apparatus according to various embodiments of the present invention.
  • FIG. 3 is a diagram illustrating steps of a high-precision map update method according to an embodiment of the present invention.
  • 4 to 6 are views for explaining a process of comparing a high-precision map and an actual image in a high-precision map updating method according to an embodiment of the present invention.
  • FIG. 7 is a diagram for explaining a process of correcting a transformation matrix in a high-precision map updating method according to an embodiment of the present invention.
  • FIG. 8A is a view for explaining a method of acquiring a three-dimensional position of a landmark using two images
  • FIG. 8B is a diagram for explaining a method for estimating the position of a new landmark
  • FIG. 8A is a view for explaining a method of acquiring a three-dimensional position of a landmark using two images
  • FIG. 8B is a diagram for explaining a method for estimating the position of a new landmark
  • FIG. 8A is a view for explaining a method of acquiring a three-dimensional position of a landmark using two images
  • FIG. 8B is a diagram for explaining a method for estimating the position of a new landmark
  • FIG. 9 is a diagram for explaining a process of updating a high-precision map by comparing with a local landmark map in a high-precision map updating method according to an embodiment of the present invention.
  • FIG. 2A and 2B are diagrams for explaining a configuration of a high-precision map updating apparatus according to various embodiments of the present invention.
  • a high-precision map updating apparatus 100 according to an embodiment of the present invention includes a photographing apparatus 110, a coordinate system converting unit 120, a local landmark map generating unit 130, and an updating unit 140, . ≪ / RTI >
  • the high-precision map updating apparatus 100 of FIG. 2A is only an embodiment of the present invention, the concept of the present invention is not limited to FIG. 2A.
  • the high-precision map updating apparatus 100 may be mounted on the vehicle 20 running on the road 10, and in some cases, unlike FIG. 2A, It is also possible that all or a part of the vehicle 20 is installed at a different place from the vehicle 20.
  • the high-precision map updating apparatus 100 according to another embodiment includes a photographing apparatus 110, a coordinate system converting unit 120, and a local landmark map generating unit 130, And the update unit 140 implemented in the high-precision map update server S at the remote location performs update of the high-precision map using the information received from the high-precision map update apparatus 100 of each vehicle 20 It would be possible.
  • the high-precision map update apparatus 100 may include hardware for communication for wireless communication .
  • the photographing apparatus 110 may not be a high-performance apparatus for generating a high-precision map but may be a general photographing apparatus such as a camera capable of photographing a two-dimensional image.
  • the vehicle 20 may not be a vehicle specially provided for generating a high-precision map such as an MMS vehicle, but may be a widely used general car or a commercial vehicle.
  • the photographing apparatus 110 can photograph an object area corresponding to at least a part of the actual area represented by the high-precision map.
  • the two-dimensional image obtained by the photographing is referred to as "real image ". 2A, it can be seen that the actual image can be obtained by photographing the road 10 to be photographed by the photographing apparatus 100 mounted on the vehicle 20 and its peripheral region as a target region.
  • the actual image thus obtained can be a two-dimensional image in which a three-dimensional landscape is enclosed in a plane.
  • a center line 11 There may be a center line 11, a stop line, a lane or the like on the road surface of the road 10, and various types of information display objects may exist in the peripheral portion of the road 10, such as a speed sign 12, .
  • Such information necessary for driving the vehicle 20 may be referred to as a landmark, and the landmark may be expressed in the form of a vector image in a high-precision map as shown in FIG.
  • the landmarks on the road surface can be expressed in the form of a line
  • the landmarks, which are information display objects can be expressed in a high-precision map in the form of a point.
  • the coordinate system conversion unit 120 may calculate the position and orientation of the photographing apparatus 110 at the time of photographing the actual image based on the matching result between the high precision map and the actual image. In other words, the coordinate system conversion unit 120 can derive from which position the imaging apparatus 110 performs imaging in any direction to generate the same image as the actual image, and the specific principle for this action Will be described later.
  • the coordinate system conversion unit 120 may be implemented by including a computing device such as a microprocessor and the same applies to the local landmark map generation unit 130 and the update unit 140 which will be described later.
  • the local landmark map generating unit 130 can generate a three-dimensional local landmark map for the target area from the visual information included in the actual image, based on the position and orientation of the photographing apparatus 110.
  • the visual information included in the actual image may include the position information of the landmark in the actual image. That is, the local landmark map generating unit 130 can generate, from the two-dimensional actual image, a three-dimensional map in the form of a high-precision map, with respect to the target area of the actual image.
  • the updating unit 140 may update the high-precision map through comparison between the local landmark map and the corresponding portion of the high-precision map. Details of the operations of the local landmark map generating unit 130 and the updating unit 140 will also be described later.
  • FIG. 3 is a diagram illustrating steps of a high-precision map update method according to an embodiment of the present invention.
  • the method of FIG. 3 can be performed using the high-precision map updating apparatus 100 described with reference to FIG. 2, and a description of parts overlapping with FIG. 2 may be omitted.
  • the concept of the present invention is not limited to FIG. 3, and the respective steps of the method of FIG. 3 are performed in the order shown in FIG. 3 Of course.
  • the photographing apparatus 110 can acquire an actual image by photographing an object area that is at least a part of an area represented by a high-precision map (S110).
  • the conversion relation between the coordinate system of the high-precision map and the coordinate system based on the photographing apparatus 110 can be calculated through comparison between the high-precision map and the actual image (S120).
  • Positioning means such as global positioning system (GPS) can be used to set the area on the high-precision map for comparison with the actual image.
  • GPS global positioning system
  • step S120 is a step directly related to such a key feature, and the detailed process of step S120 will be described in more detail below.
  • Equation 1 a transformation matrix including a rotation component and a translation component.
  • Equation 1 a cost function of each of a plurality of landmarks detected from an actual image is defined on the right side of a sigma ( ⁇ ) symbol. That is, Equation (1) aims at obtaining a transformation matrix T * that minimizes the sum of the cost functions.
  • Z k denotes a coordinate value of a landmark such as a lane, a stop line, a sign, a milestone, a traffic light, and a road surface marker detected from an actual image.
  • a landmark of a point shape may have one coordinate value, but a landmark of a line shape may be expressed in the form of a set of a plurality of points, so that it may have a plurality of coordinate values corresponding to each of the plurality of points .
  • P k denotes the coordinates of the landmarks in high-precision map, and can be matched to the Z k. That is, with respect to the coordinate value, the variable k is an index for distinguishing the cost function derived for each landmark.
  • the function h converts the value of P k described by the first coordinate system into the value of the second coordinate system using the transformation matrix T and then uses the internal parameter matrix of the photographing apparatus 110 to convert the converted coordinate value To a coordinate value projected on a two-dimensional image by the line of sight of the photographing apparatus 110.
  • h (T, P k ) means a point at which P k, which is a point on the first coordinate system, is shifted into the two-dimensional actual image by the transformation matrix T.
  • C Zk and C Pk are covariance matrices representing distribution patterns of Z k and P k , respectively.
  • H means jacobian for function h.
  • the solution T * of Equation (1) can be generally obtained using the Gauss-Newton algorithm or the Levenberg-Marquardt algorithm.
  • the present invention develops this to convert the coordinates of the points on the lane of the three-dimensional high-precision map into the coordinates of the two-dimensional actual image reference using the transformation matrix described in Equation 1, The corresponding relationship between the points in the image is found. It can be seen that the correspondence between the points 210 and 220 of the actual image 200 in the upper portion of FIG. 4 and the points 310 and 320 of the lower portion of the high-accuracy map 300 can be established by this method .
  • a transformation matrix can be obtained using Equation (1).
  • the initial value of the transformation matrix roughly estimated through GPS, inertial measurement unit (IMU) or the like is firstly inputted to the equation (1), and the transformation matrix is renewed Can be repeated until the change in the value of the transformation matrix becomes less than a certain level.
  • FIG. 5 is a diagram for explaining an example in which two lines 410 and 420 correspond to each other in a point-to-point manner in the present invention.
  • Each point on line 410 may correspond to one of the points on another line 420, respectively.
  • point 411 on line 410 may correspond to point 421 on line 420.
  • the covariance is calculated based only on the coordinates of the surrounding points within a certain distance from one point on the line .
  • the covariance calculation can be performed more rationally.
  • the shapes 412 and 422 of the covariance matrix at each point will have an elliptical shape in which the direction of the major axis coincides with the direction of the line, as shown in FIG.
  • Such a covariance calculation method can be applied not only to a straight line but also to a curve.
  • a landmark in the form of a line although it is strong in the error in the direction perpendicular to the line due to its shape, it may be vulnerable to the error in the direction parallel to the line.
  • a point-like landmark expressed by a single point, such as a milestone, a sign, or the like.
  • a correspondence for associating a point landmark in an actual image with a point landmark in a high- It is easier to find the relationship.
  • FIG. 6 it can be seen that both landmark landmarks and landmark landmarks are used in matching between the actual image 500 and the high-precision map 600.
  • FIG. The two lines 510 and 520 of the actual image 500 may correspond to two lines 610 and 620 of the high precision map 600 and the sign 530 of the actual image 500 may correspond to the two lines 610 and 620 of the high- It may correspond to the high-precision map sign 630.
  • the conversion matrix may be corrected using dead reckoning.
  • An algorithm for correcting the conversion matrix using the driving information of the vehicle equipped with the photographing apparatus 110 may be designed.
  • the traveling information wheel speed, yaw rate, steering angle, gear signal, and signals from the IMU sensor may be used.
  • Equation 2 in which the correction component using the estimated navigation is added in Equation 1 is as follows.
  • Equation 2 also defines a cost function for each landmark on the right side of the sigma symbol, and the sum of cost functions for all landmarks is defined as "(T DR -T) T W DR (T -T DR) "and that the value of the cost function obtained by adding further to obtain the transformation matrix (T *) that minimizes the goal.
  • the term "(T DR- T) T W DR (T DR -T)” added to Equation 1 is a term related to the correction, where T DR is a photographing device Dimensional transform matrix indicating the position and orientation of the target object 110, and W DR denotes a matrix for weighting.
  • T ij means a relative transformation matrix between T i and T j .
  • the values of the remaining transformation matrices can be adjusted so that the following Equation (3) is satisfied while the values of the first T 0 and the last T 4 are fixed.
  • C ij is a covariance matrix representing the deviation with respect to T ij
  • g is a function for predicting T ij with T i and T j as inputs.
  • the coordinate system conversion unit 120 may determine the position and orientation of the image capturing apparatus 110 based on the value of the transformation matrix (S130). Then, the local landmark map generating unit 130 can generate a three-dimensional local landmark map for the target area from the information included in the actual image (S140), and the updating unit 140 updates the local landmark map, The high-precision map can be updated through comparison between the parts corresponding to the target area in the high-precision map (S150).
  • the local landmark map may be substantially the same as the portion corresponding to the target area in the high-precision map, but there may be a landmark that does not exist in the high-precision map but exists only in the local landmark map.
  • a landmark can be regarded as a new landmark between the point of time when the high-precision map is generated and the time when the local landmark map is generated.
  • there may be a landmark that exists in a high-precision map but does not exist in a local landmark map which can be considered as a deleted landmark removed between a high-precision map generation point and a local landmark map generation point.
  • the actual image is a two-dimensional image, it is difficult to display the new landmark at the correct position on the local landmark map with only one actual image. Accordingly, it is possible to acquire a plurality of actual images in which at least one of the position and the orientation of the photographing apparatus 110 are different from each other, and use the position of the new landmark in each actual image to generate a new landmark on the local landmark map Can be determined. This will be described with reference to Figs. 8A and 8B.
  • FIG. 8A is a diagram for explaining a method of estimating a three-dimensional position of a landmark using two images
  • FIG. 8B is a flowchart illustrating a method of estimating the position of a landmark in a high- And FIG.
  • the local landmark map generating unit 130 may use triangulation to estimate the position of the landmark. Specifically, the local landmark map generation unit 130 recognizes the same landmark in at least two images photographed at different positions and applies triangulation method to the recognition result, thereby obtaining a three-dimensional position of the landmark on the local landmark map Can be estimated.
  • the photographing apparatus 110 is first taken a landmark in the first location L 1 to obtain a first image I 1 and the acquisition of the second image I 2 by shooting a landmark in the second location L 2 can do.
  • the local landmark map generating unit 130 obtains the vector V 1 passing through the pixel X 1 corresponding to the landmark in the first image I 1 from the first position, and calculates the vector V 1 from the second position L 2 to the second image I 2 The vector V 2 passing through the pixel X 2 corresponding to the landmark can be obtained.
  • the local landmark map generation unit 130 can estimate the point at which the vectors V 1 and V 2 intersect with the landmark position P in the three-dimensional space.
  • the accuracy of the determined landmark position may be influenced by the number of actual images in which the landmark is recognized.
  • a minimum of two actual images are used, and an average of a plurality of three-dimensional positions determined from a plurality of actual images is set as a landmark position on the three- The estimation error can be reduced.
  • the accuracy of the three-dimensional position of the landmark determined according to the above method can be increased. This is because the pixel error of the landmark recognized in the actual image decreases as the distance between the photographing positions becomes longer, and the three-dimensional position error of the landmark determined based thereon also decreases. For example, if the positional error of two landmarks in two actual images captured at two positions separated by 1 m and the position error of landmarks in two actual images photographed at two positions spaced by 2 m is 1 pixel , The accuracy of the three-dimensional position of the landmark determined on the basis of each is high in the latter case.
  • the local landmark map generating unit 130 can increase the accuracy of the landmark position and determine the landmark position to be provided to the updating unit 140 according to the accuracy. Providing the landmark position to the update unit 140 based on the accuracy, that is, the error range will be described later.
  • the actual image can be photographed at a plurality of positions 710, 720, and 730, respectively.
  • the error range 711 of the position of the landmark estimated by the actual image photographed at the first position 710 The error range 721 of the landmark position estimated in consideration of the actual image at the second position 720 is smaller and the estimated land 730 is calculated considering the actual image at the third position 730. [ It can be seen that the error range 731 of the mark position becomes smaller.
  • the update unit 140 updates the high-precision map data at a later time
  • the update unit 140 updates the error map (e.g., the covariance of the location of the landmark on the local landmark map expressed in the form of a random variable)
  • the error map e.g., the covariance of the location of the landmark on the local landmark map expressed in the form of a random variable
  • a landmark having a predetermined threshold value or less can be handled as a valid landmark, and the high-precision map can be updated using only such valid landmarks.
  • the local landmark map generating unit 130 may estimate the landmark position and provide the update unit 140 with only the error range with respect to the determined landmark position, that is, the covariance of the landmark position is less than or equal to the predetermined threshold value have.
  • the local landmark map generation unit 130 may provide only the landmark positions of the covariance of which are less than or equal to a predetermined threshold value to the update unit 140 in the high-precision map update apparatus 100.
  • the local landmark map generating unit 130 generates a local map by using a communication means inside the high-precision map updating apparatus 100, ≪ / RTI > or less.
  • the position of the landmark on the local landmark map can be obtained more accurately using the Kalman filter if the covariance is given.
  • the following equation (4) can be used.
  • d means a three-dimensional direction vector directed from the lens of the photographing apparatus 110 to the position of the landmark
  • R is a three-dimensional rotation matrix indicating the orientation of the photographing apparatus 110.
  • K denotes a calibration matrix related to an internal parameter of the photographing apparatus 110 assuming a pin-hole model.
  • P * expressed in three-dimensional coordinates can be obtained according to the following equations (5) to (7).
  • (x i , y i , z i ) means the i-th position among a plurality of positions of the photographing apparatus 110.
  • the local landmark map generation unit 130 generates covariance C (k) of P W to which the concept of error propagation is applied to P W Pw can be obtained.
  • the covariance C Pw of P W can be calculated according to equation (8).
  • R denotes a three-dimensional rotation matrix indicating the orientation of the photographing apparatus 110
  • C T denotes a covariance for the transformation matrix T
  • J denotes a partial differential (jacobian) with respect to the function T x P.
  • the local landmark map generating unit 130 can confirm the landmark-specific attributes. Specifically, the local landmark map generating unit 130 extracts the feature points in the actual image photographed by the photographing apparatus 110, confirms the attributes of the landmarks, and displays the three-dimensional positions and attributes of the identified landmarks Can be matched. In order to confirm the attribute of the landmark, the local landmark map generating unit 130 may use a machine learning method such as Deep Learning.
  • a machine learning method such as Deep Learning.
  • the local landmark map generating unit 130 can identify various attributes of the various objects existing in the driving environment as landmarks. For example, when a traffic light is a landmark, the local landmark map generation unit 130 can recognize the direction (horizontal or vertical) of the traffic lights and the number (two colors, three colors, four colors, etc.) have. Alternatively, in the case of a signboard, the local landmark map generating unit 130 may check the shape, type, purpose, and the like of the signboard with attributes.
  • the local landmark map generating unit 130 provides the three-dimensional position of the landmark, its covariance and its attribute to the updating unit 140 . At this time, the local landmark map generating unit 130 of FIG.
  • the generation unit 130 can provide the three-dimensional position of the landmark, its covariance and attributes thereof to the update unit 140 of the high-precision map update server S via communication means inside the high-accuracy map update apparatus 100 9 is a diagram for explaining a process of updating a high-precision map by comparing with a local landmark map in a high-precision map updating method according to an embodiment of the present invention.
  • the updating unit 140 may receive information on the landmark position, its covariance and its attribute from the local landmark map generating unit 130. [ The reception may be performed with sampling of a predetermined time interval (for example, 1 second) to reduce the amount of transmission data.
  • the update unit 140 may update the high-precision map using the received information. Such an update may be to add a new landmark to the high-precision map and to remove the removed landmark from the high-precision map.
  • the updating unit 140 can confirm the corresponding landmark on the high-precision map based on the position of the received landmark, its covariance and its attribute. When the corresponding landmark on the high-precision map is confirmed, the updating unit 140 can confirm that the landmark is the same landmark based on the position of the received landmark and the distance between corresponding landmarks on the high-precision map.
  • the update unit 140 can calculate the distance based on the probability by applying the Mahalanobis Distance theory between the received landmark and the corresponding landmark on the high-precision map.
  • the Mahalanobis distance D m follows equation (9).
  • the update unit 140 can determine that the two landmarks are the same when the obtained Mahalanobis distance is less than or equal to a predetermined threshold value. On the other hand, when the corresponding landmark on the high-precision map is not confirmed or the Mahalanobis distance exceeds the predetermined threshold, the updating unit 140 can determine the received landmark as the new landmark.
  • the updating unit 140 can update the high-precision map by reflecting the new landmark on the high-precision map.
  • the updating unit 140 may add the weighted average of the new landmarks to the high-precision map when the covariance of the determined new landmark position is less than or equal to a predetermined threshold. This can increase the reliability of high-precision map updates.
  • the update unit 140 provided in the high-precision map updater server S receives information related to the same new landmark a plurality of times from a plurality of different high-precision map update apparatuses 100 .
  • the update unit 140 may obtain a weight average of a plurality of new landmark positions received by reflecting the covariance.
  • the update unit 140 may use a Kalman filter to obtain a weighted average of the received new landmark positions. By using the Kalman filter to sequentially calculate the weighted average of the new landmark positions in accordance with the received order, the computation speed can be increased and the storage space can be used more efficiently.
  • the updating unit 140 may determine whether to add a new landmark to the high-precision map by using the obtained weighted average.
  • the update unit 140 according to the embodiment can add only those determined as new landmarks to the high-precision map by the two-dimensional image of the new landmark beyond the predetermined threshold. That is, when the number of pieces of landmark information received from the local landmark map generating unit 130 and used for obtaining the weighted average is equal to or greater than a predetermined threshold, the updating unit 140 updates the new landmark It can be added to a high-precision map.
  • the update unit 140 when the covariance of the new landmark position obtained by the Kalman filter is less than a predetermined threshold value, the update unit 140 according to another embodiment adds the new landmark to the high- can do.
  • the updating unit 140 can newly add only the reliable landmark to the high-precision map, thereby enhancing the reliability of the high-precision map update.
  • the updating unit 140 may receive from the local landmark map generating unit 130 information indicating that the specific landmark has been deleted. For example, the local landmark map generating unit 130 of FIG. 2A compares an actual image photographed by the photographing apparatus 110 with a high-precision map to determine an unrecognized landmark as a deleted landmark, To the updating unit 140 in the updating device 100. Alternatively, the local landmark map generator 130 of FIG. 2B may transmit the determined information on the deleted landmark to the update unit (not shown) provided in the high-precision map update server S by using the communication means in the high- 140).
  • the updating unit 140 can update the high-precision map on the basis of the information. Specifically, the updating unit 140 can delete the deleted landmark on the high-precision map according to the received information.
  • the update unit 140 provided in the high-precision map updater server S can receive information on the deleted landmarks from a plurality of different high-precision map updating devices 100 a plurality of times have.
  • the updater 140 according to an embodiment can delete only the landmark determined by the two-dimensional image of the deleted landmark at a predetermined threshold or more from the high-precision map. That is, the update unit 140 may delete the deleted landmark on the high-precision map if the number of received same deleted landmark information is equal to or greater than the predetermined threshold value.
  • the update of the high-precision map may be automatically performed by the update unit 140 as described above.
  • the update unit 140 may update the information about the update required area (i.e., the information about the new landmark and the deleted landmark) Information) to the administrator, the administrator can confirm it and finally approve the update.
  • the high-precision map update device may perform future updates based on the updated high-precision map.
  • the updating unit 140 may provide the updated high-precision map to the high-precision map updating apparatus 100 through the communication unit of the high-accuracy map updating server S.
  • the efficiency of high-precision map updating can be dramatically increased. It is possible to achieve a great effect in terms of economical efficiency and reliability of update.
  • Combinations of each step of the flowchart and each block of the block diagrams appended to the present invention may be performed by computer program instructions.
  • These computer program instructions may be embedded in an encoding processor of a general purpose computer, special purpose computer, or other programmable data processing apparatus, so that the instructions, performed through the encoding processor of a computer or other programmable data processing apparatus, Thereby creating means for performing the functions described in each step of the flowchart.
  • These computer program instructions may also be stored in a computer usable or computer readable memory capable of directing a computer or other programmable data processing apparatus to implement the functionality in a particular manner so that the computer usable or computer readable memory It is also possible for the instructions stored in the block diagram to produce a manufacturing item containing instruction means for performing the functions described in each block or flowchart of the block diagram. Computer program instructions may also be stored on a computer or other programmable data processing equipment so that a series of operating steps may be performed on a computer or other programmable data processing equipment to create a computer- It is also possible that the instructions that perform the processing equipment provide the steps for executing the functions described in each block of the block diagram and at each step of the flowchart.
  • each block or each step may represent a module, segment, or portion of code that includes one or more executable instructions for executing the specified logical function (s). It should also be noted that in some alternative embodiments, the functions mentioned in the blocks or steps may occur out of order. For example, two blocks or steps shown in succession may in fact be performed substantially concurrently, or the blocks or steps may sometimes be performed in reverse order according to the corresponding function.

Abstract

본 발명의 일 실시예에 따른 고정밀 지도 업데이트 방법은, 3차원의 고정밀 지도에 의해 표현된 실제의 영역 중 적어도 일부에 해당하는 대상 영역을 촬영한 영상인 2차원 영상을 획득하는 단계, 상기 2차원 영상을 촬영한 촬영 장치의 위치 및 오리엔테이션(orientation)에 기초하여, 상기 2차원 영상 내 랜드마크(landmark)의 위치 로부터 상기 대상 영역에 대한 3차원의 국부 랜드마크 지도를 생성하는 단계 및 상기 고정밀 지도의 대상 영역에 대응되는 상기 국부 랜드마크 지도를 참조하여, 상기 고정밀 지도를 업데이트하는 단계를 포함할 수 있다.

Description

자율주행을 위한 고정밀 지도의 업데이트 장치 및 방법
본 발명은 자율주행을 위한 3차원의 고정밀 지도를, 보다 효율적으로 업데이트하기 위한 장치 및 방법에 관한 것이다. 참고로, 본 출원은 2018년 08월 21일자로 출원된 한국특허출원(출원번호 10-2018-0097468호)을 기초로 우선권을 주장한다. 이러한 우선권의 기초가 되는 해당 출원의 전체 내용은 본 출원에서 참조문헌으로서 인용된다.
근래에 들어, 최신 자동차 기술로서 자율주행(autonomous driving) 기술이 각광받고 있다. 자율주행이란 운전자가 브레이크, 핸들, 가속 페달 등을 제어하지 않아도 차량이 스스로 도로의 상황을 파악하여 자동으로 주행하는 것을 의미하며, 이러한 자율주행 기술은 스마트 카 구현을 위한 핵심 기술이라 할 수 있다.
자율주행을 위해서는 이른바 고정밀 지도(high definition map, 약칭 HD map)라 불리는 3차원의 디지털 지도가 구비될 필요가 있다. 고정밀 지도에는 차량이 주행할 도로의 차선이 포함되며, 그 외에 정지선, 표지판, 신호등, 가드레일 등 도로 주변의 지형지물이 포함될 수 있다.
도 1은 고정밀 지도에 대해 예시적으로 설명하기 위한 도면이다. 고정밀 지도(1)는 일반적으로, 고성능 센서(RTK GPS, INS, LIDAR 등)을 장착한 MMS(mobile mapping system) 차량을 이용하여 실제의 도로를 주행하면서 획득한 3차원 포인트 클라우드(point cloud) 데이터를 이용하여 생성될 수 있다. 다만, 차선, 정지선, 표지판, 이정표 등과 같이 차량 주행을 위한 중요한 정보가 되는 부분의 경우, 벡터(vector) 이미지 형태로 보다 상세하게 표현될 수 있다. 도 1을 보면, 벡터 이미지 형태로 표현된 차선(2)과, 포인트 클라우드 형태로 표현된 도로의 주변부(3)의 모습을 확인할 수 있다.
자율주행 기술이 적용된 차량은 이와 같은 고정밀 지도로부터 현재 주행하고 있는 도로 및 그 주변에 관한 정보를 획득한다. 단, 도로 및 그 주변의 상태는 공사나 교통 정책의 변경 등으로 인해 수시로 변화할 수 있다. 자율주행 차량이 실제와 다른 정보를 참고함으로써 발생할 수 있는 사고를 막기 위해, 이와 같은 변화는 고정밀 지도에 신속하면서도 정확하게 반영될 필요가 있으므로, 고정밀 지도의 효과적인 업데이트는 매우 중요하다 할 수 있다.
하지만, 현재의 고정밀 지도 생성 방식에 의하면, 고정밀 지도에 의해 표현된 구역 중 어느 위치에 변화가 발생했는지를 알기 쉽지 않고, 변화가 발생한 위치를 알아냈다고 하더라도 상기 고성능 센서를 장착한 MMS 차량으로 해당 위치 주변을 주행하여 해당 위치 주변의 고정밀 지도를 생성하는 작업을 다시 수행해야 한다. 이러한 업데이트 방식은 시간 및 노력 측면에서 효율적이지 않다는 문제를 갖는다.
본 발명이 해결하고자 하는 과제는, 고성능 장비를 사용하지 않고서도 적은 시간과 노력으로 효율적인 고정밀 지도 업데이트를 가능하게 하는 장치 및 방법을 제공하는 것이다.
다만, 본 발명이 해결하고자 하는 과제는 이상에서 언급한 것으로 제한되지 않으며, 언급되지 않은 또 다른 해결하고자 하는 과제는 아래의 기재로부터 본 발명이 속하는 통상의 지식을 가진 자에게 명확하게 이해될 수 있을 것이다.
본 발명의 일 실시예에 따른 고정밀 지도 업데이트 방법은, 3차원의 고정밀 지도에 의해 표현된 영역 중 적어도 일부에 해당하는 대상 영역을 촬영한 2차원 영상을 획득하는 단계, 상기 2차원 영상을 촬영한 촬영 장치의 위치 및 오리엔테이션(orientation)에 기초하여, 상기 2차원 영상 내 랜드마크(landmark)의 위치로부터 상기 대상 영역에 대한 3차원의 국부 랜드마크 지도를 생성하는 단계 및 상기 고정밀 지도의 대상 영역에 대응되는 상기 국부 랜드마크 지도를 참조하여, 상기 고정밀 지도를 업데이트하는 단계를 포함할 수 있다.
본 발명의 일 실시예에 따른 고정밀 지도 업데이트 장치는, 3차원의 고정밀 지도에 의해 표현된 영역 중 적어도 일부에 해당하는 대상 영역을 촬영한 2차원 영상을 획득하는 촬영 장치, 상기 2차원 영상을 촬영한 촬영 장치의 위치 및 오리엔테이션(orientation)에 기초하여, 상기 2차원 영상 내 랜드마크(landmark)의 위치로부터 상기 대상 영역에 대한 3차원의 국부 랜드마크 지도를 생성하는 국부 랜드마크 지도 생성부 및 상기 고정밀 지도의 대상 영역에 대응되는 상기 국부 랜드마크 지도를 참조하여, 상기 고정밀 지도를 업데이트하는 업데이트부를 포함할 수 있다.
본 발명의 일 실시예에 따르면, 카메라와 같은 일반적인 영상 촬영 장치를 구비한 보통의 차량이 상기 영상 촬영 장치를 통해 획득한 2차원 영상을 이용하여 변화 발생의 감지 및 고정밀 지도의 업데이트를 손쉽게 수행할 수 있다. 이에 따라, 기존의 고정밀 지도의 업데이트를 위해 고가의 장비를 이용하여 다시 고정밀 지도를 생성하는 과정을 거칠 필요가 없어져, 고정밀 지도 업데이트의 효율이 비약적으로 증대될 수 있다.
아울러, 본 발명의 일 실시예에 따르면, 카메라를 구비한 일반적인 차량에 의해 손쉽게 고정밀 지도의 업데이트가 가능해짐에 따라, 도로를 주행하는 수많은 차량들에 의해 수집된 방대한 양의 데이터를 확보할 수 있으므로, 경제성뿐만 아니라 업데이트의 신뢰성 측면에서도 큰 효과를 달성할 수 있게 된다.
도 1은 고정밀 지도에 대해 예시적으로 설명하기 위한 도면이다.
도 2a 및 2b는 본 발명의 여러 가지 실시예에 따른 고정밀 지도 업데이트 장치의 구성에 대해 설명하기 위한 도면이다.
도 3은 본 발명의 일 실시예에 따른 고정밀 지도 업데이트 방법의 각 단계를 도시한 도면이다.
도 4 내지 6은 본 발명의 일 실시예에 따른 고정밀 지도 업데이트 방법에서, 고정밀 지도와 실제 영상을 비교하는 과정에 대해 설명하기 위한 도면이다.
도 7은 본 발명의 일 실시예에 따른 고정밀 지도 업데이트 방법에서, 변환 행렬을 보정하는 과정에 대해 설명하기 위한 도면이다.
도 8a는 두 개의 영상을 이용하여 랜드마크의 3차원 위치를 획득하는 방법을 설명하기 위한 도면이고, 도 8b는 본 발명의 일 실시예에 따른 고정밀 지도 업데이트 방법에서, 신규 랜드마크의 위치를 추정하는 과정에 대해 설명하기 위한 도면이다.
도 9는 본 발명의 일 실시예에 따른 고정밀 지도 업데이트 방법에서, 국부 랜드마크 지도와의 비교를 통해 고정밀 지도를 업데이트하는 과정에 대해 설명하기 위한 도면이다.
본 발명의 이점 및 특징, 그리고 그것들을 달성하는 방법은 첨부되는 도면과 함께 상세하게 후술되어 있는 실시예들을 참조하면 명확해질 것이다. 그러나 본 발명은 이하에서 개시되는 실시예들에 한정되는 것이 아니라 서로 다른 다양한 형태로 구현될 수 있으며, 단지 본 실시예들은 본 발명의 개시가 완전하도록 하고, 본 발명이 속하는 기술분야에서 통상의 지식을 가진 자에게 발명의 범주를 완전하게 알려주기 위해 제공되는 것이며, 본 발명은 청구항의 범주에 의해 정의될 뿐이다.
본 발명의 실시예들을 설명함에 있어서 공지 기능 또는 구성에 대한 구체적인 설명이 본 발명의 요지를 불필요하게 흐릴 수 있다고 판단되는 경우에는 그 상세한 설명을 생략할 것이다. 그리고 후술되는 용어들은 본 발명의 실시예에서의 기능을 고려하여 정의된 용어들로서 이는 사용자, 운용자의 의도 또는 관례 등에 따라 달라질 수 있다. 그러므로 그 정의는 본 명세서 전반에 걸친 내용을 토대로 내려져야 할 것이다.
도 2a 및 2b는 본 발명의 여러 가지 실시예에 따른 고정밀 지도 업데이트 장치의 구성에 대해 설명하기 위한 도면이다. 도 2a를 참조하면, 본 발명의 일 실시예에 따른 고정밀 지도 업데이트 장치(100)는 촬영 장치(110), 좌표계 변환부(120), 국부 랜드마크 지도 생성부(130) 및 업데이트부(140)를 포함할 수 있다. 단, 도 2a의 고정밀 지도 업데이트 장치(100)는 본 발명의 일 실시예에 불과하므로, 도 2a에 의해 본 발명의 사상이 제한 해석되는 것은 아니다.
고정밀 지도 업데이트 장치(100)는 도 2a에서 보는 바와 같이 도로(10)를 주행하는 차량(20)에 장착될 수 있으며, 경우에 따라서는 도 2a와 달리 촬영 장치(110)를 제외한 다른 구성 요소 중 전부 혹은 일부가 차량(20)과 이격된 다른 장소에 설치되는 것 역시 가능하다. 도 2b를 참조하면, 다른 실시예에 따른 고정밀 지도 업데이트 장치(100)는 촬영 장치(110), 좌표계 변환부(120), 국부 랜드마크 지도 생성부(130)가 일체로서 복수의 차량(20) 각각에 설치되고, 원격지의 고정밀 지도 업데이트 서버(S)에 구현된 업데이트부(140)가 각 차량(20)의 고정밀 지도 업데이트 장치(100)로부터 전송받은 정보를 이용하여 고정밀 지도의 업데이트를 수행하는 것도 가능할 것이다.
이 때, 고정밀 지도 업데이트 장치(100)의 구성 요소 중 상호 이격된 구성 요소끼리는 무선 통신을 이용하여 데이터를 주고받는 것이 가능할 것이며, 이 경우 고정밀 지도 업데이트 장치(100)는 무선 통신을 위한 통신용 하드웨어를 더 포함할 수 있다.
앞서 설명한 바와 같이, 촬영 장치(110)는 고정밀 지도를 생성하기 위한 고성능 장비가 아닌, 2차원 영상을 촬영할 수 있는 일반적인 카메라(camera) 등의 영상 촬영 장치일 수 있다. 아울러, 차량(20) 역시 MMS 차량과 같이 고정밀 지도 생성을 위해 특별히 마련된 차량이 아닌, 널리 보급되어 있는 일반적인 자가용 혹은 영업용의 차량일 수 있다.
촬영 장치(110)는 고정밀 지도에 의해 표현된 실제의 영역 중 적어도 일부에 해당하는 대상 영역을 촬영할 수 있다. 이하에서는 상기 촬영에 의해 획득된 2차원 영상을 "실제 영상"이라 칭하도록 한다. 도 2a를 참조하면, 차량(20)에 장착된 촬영 장치(100)의 촬영 대상이 되는 도로(10) 및 그 주변 영역을 대상 영역으로서 촬영하여 실제 영상을 얻을 수 있음을 알 수 있다. 이와 같이 얻어진 실제 영상은, 3차원의 풍경을 평면에 담아낸 2차원 영상이 될 수 있다.
도로(10)의 노면 위에는 중앙선(11)을 비롯하여 정지선, 차선 등이 존재할 수 있으며, 도로(10)의 주변부에는 속도 표지판(12)을 비롯하여 신호등, 이정표 등 다양한 종류의 정보 표시 객체가 존재할 수 있다. 이와 같은 차량(20)의 주행에 필요한 제반 정보들을 랜드마크(landmark)라 칭할 수 있으며, 이러한 랜드마크는 도 1과 같은 고정밀 지도에서 벡터 이미지 형태로 표현될 수 있다. 한편, 상기 노면 위의 랜드마크들은 선(線)의 형태로, 정보 표시 객체인 랜드마크들은 점(點)의 형태로 고정밀 지도에 표현될 수 있다.
좌표계 변환부(120)는 기 생성되어 있는 고정밀 지도와 실제 영상 간의 정합 결과에 기초하여, 상기 실제 영상을 촬영한 시점에서의 촬영 장치(110)의 위치 및 오리엔테이션(orientation)을 연산할 수 있다. 즉, 좌표계 변환부(120)는 촬영 장치(110)가 어떠한 위치에서 어떠한 방향을 향하여 촬영을 수행했을 때 상기 실제 영상과 같은 영상이 생성되는지를 도출해낼 수 있으며, 이와 같은 작용을 위한 구체적인 원리에 대해서는 후술하도록 한다. 좌표계 변환부(120)는 마이크로프로세서(microprocessor)와 같은 연산 장치를 포함하여 구현될 수 있으며, 이는 후술할 국부 랜드마크 지도 생성부(130) 및 업데이트부(140)에 대해서도 같다.
국부 랜드마크 지도 생성부(130)는 촬영 장치(110)의 위치 및 오리엔테이션에 기초하여, 실제 영상에 포함된 시각적 정보로부터 대상 영역에 대한 3차원의 국부 랜드마크 지도를 생성할 수 있다. 여기서, 실제 영상에 포함된 시각적 정보란 실제 영상 내 랜드마크의 위치 정보를 포함할 수 있다. 즉, 국부 랜드마크 지도 생성부(130)는 2차원의 실제 영상으로부터, 고정밀 지도와 같은 형태의 3차원 지도를 상기 실제 영상의 촬영 대상이 된 대상 영역에 대해 생성할 수 있는 것이다.
업데이트부(140)는 상기 국부 랜드마크 지도와, 고정밀 지도 중 대상 영역 대응되는 부분 간의 비교를 통해 고정밀 지도를 업데이트할 수 있다. 이들 국부 랜드마크 지도 생성부(130) 및 업데이트부(140)의 상세한 동작에 대해서도 후술하도록 한다.
도 3은 본 발명의 일 실시예에 따른 고정밀 지도 업데이트 방법의 각 단계를 도시한 도면이다. 도 3의 방법은 도 2를 참조하여 설명한 고정밀 지도 업데이트 장치(100)를 이용하여 수행될 수 있으며, 도 2와 중복되는 부분에 대해서는 설명이 생략될 수 있다. 단, 도 3의 방법은 본 발명의 일 실시예에 불과하므로 도 3에 의해 본 발명의 사상이 제한 해석되는 것은 아니며, 도 3의 방법의 각 단계는 도 3에 제시된 바와 그 순서를 달리하여 수행될 수 있음은 물론이다.
우선, 촬영 장치(110)는 고정밀 지도에 의해 표현된 영역의 적어도 일부인 대상 영역을 촬영하여 실제 영상을 획득할 수 있다(S110). 다음으로, 고정밀 지도와 실제 영상 간의 비교를 통해, 고정밀 지도의 좌표계와, 촬영 장치(110)를 기준으로 한 좌표계 간의 변환 관계를 연산할 수 있다(S120). 실제 영상과 비교하기 위한 고정밀 지도에서의 영역을 설정하기 위해, GPS(global positioning system)과 같은 측위 수단이 이용될 수 있다.
본 발명의 핵심적 특징 중 하나는, 전술한 바와 같이 3차원의 고정밀 지도 데이터와 2차원의 실제 영상 데이터 간의 정합을 통해 촬영 장치(110)의 위치 및 오리엔테이션을 검출하는 것에 있다. 본 단계 S120은 이와 같은 핵심적인 특징과 직접적인 관련이 있는 단계로서, 이하에서는 상기 단계 S120의 구체적인 과정에 대해 보다 상세히 설명하도록 한다.
고정밀 지도의 좌표계(이하에서는 "제 1 좌표계"라 칭함)와, 촬영 장치(110)를 기준으로 한 좌표계(이하에서는 "제 2 좌표계"라 칭함)는 모두 3차원 좌표계일 수 있으며, 상기 두 좌표계 간의 관계는 회전(rotation) 성분과 평행이동(translation) 성분을 포함하는 변환 행렬에 의해 정의될 수 있다. 이와 같은 변환 행렬을 구하기 위한 수식은 다음의 수학식 1과 같다. T는 3차원 변환 행렬을 의미하며, 시그마(Σ) 기호 오른편에는 실제 영상으로부터 검출된 복수의 랜드마크 각각의 비용 함수(cost function)가 정의된다. 즉, 수학식 1은 비용 함수들을 모두 더한 값을 최소로 하는 변환 행렬(T*)을 구하는 것을 목표로 한다.
Figure PCTKR2018014005-appb-M000001
여기서, Zk는 실제 영상에서 검출한 차선, 정지선, 표지판, 이정표, 신호등, 노면 마커 등의 랜드마크(landmark)의 좌표 값을 의미한다. 점 형태의 랜드마크는 하나의 좌표 값을 가질 수 있겠지만, 선 형태의 랜드마크는 복수의 점의 집합의 형태로 표현될 수 있으므로 상기 복수의 점 각각에 대응되는 복수의 좌표 값을 가질 수 있을 것이다. Pk는 고정밀 지도에서의 랜드마크에 대한 좌표 값을 의미하며, Zk에 대응될 수 있다. 즉, 상기 좌표 값과 관련하여, k라는 변수는 각각의 랜드마크 별 도출되는 비용 함수를 구분짓기 위한 인덱스(index)를 의미한다.
함수 h는, 제 1 좌표계에 의해 기술된 Pk의 값을 변환 행렬(T)을 이용하여 제 2 좌표계의 값으로 변환한 후, 변환된 좌표 값을 촬영 장치(110)의 내부 파라미터 행렬을 이용하여 촬영 장치(110)의 시선에 의한 2차원 영상에 투영된 좌표 값으로 변환하는 함수를 의미한다. 이에 따르면, h(T, Pk)는 제 1 좌표계 상에서의 점인 Pk가 변환 행렬(T)에 의해 2차원의 실제 영상 내로 옮겨진 점을 의미하게 된다. CZk와 CPk는 각각 Zk와 Pk의 분포 양상을 나타내는 공분산 행렬(covariance matrix)을 의미하며. H는 함수 h에 대한 편미분(jacobian)을 의미한다. 일반적으로 수학식 1의 해 T*는 일반적으로 Gauss Newton 알고리즘 또는 Levenberg-Marquardt 알고리즘을 이용하여 구할 수 있다.
일반적으로 알려진 ICP(interactive closest point) 알고리즘에 의하면, 상호 간의 정합을 수행하고자 하는 2개의 포인트 클라우드 세트(point cloud set)가 존재하고, 한 세트의 한 점을 다른 세트의 어느 한 점에 대응시킬 때, 서로 가장 가까운 유클리드 거리(Euclidean distance)를 갖는 점들끼리 대응시키게 된다.
본 발명은 이를 발전시켜, 3차원 고정밀 지도의 차선 상의 점들의 좌표를, 상기 수학식 1을 통해 설명한 변환 행렬을 이용하여 2차원 실제 영상 기준의 좌표로 변환한 후, 상기 좌표 변환된 점들과 실제 영상 내의 점들 간의 대응 관계를 찾게 된다. 이와 같은 방법에 의해, 도 4의 위쪽의 실제 영상(200)의 점들(210, 220)과 아래쪽의 고정밀 지도(300)의 점들(310, 320) 간의 대응 관계가 성립될 수 있음을 볼 수 있다.
상기 대응 관계가 정해지면, 수학식 1을 이용하여 변환 행렬을 구할 수 있다. 수학식 1의 해를 구하기 위해, 우선은 GPS, IMU(inertial measurement unit) 등을 통해 대략적으로 추정된 변환 행렬의 초기값을 수학식 1에 입력하고, 수학식 1을 반복적으로 풀어서 변환 행렬을 갱신시키는 과정을, 변환 행렬의 값의 변화가 일정 수준 이하가 될 때까지 반복할 수 있다. 실질적으로는, 여러 개의 후보 변환 행렬 중에서, 고정밀 지도 내의 데이터에 대해 후보 변환 행렬을 적용한 결과를 2차원 평면에 투사(projection)하여 얻어진 영상과, 실제 영상 간의 차이가 최소가 되는 것을 상기 변환 행렬로 결정하는 것과 같은 의미를 가질 수 있다.
도 5는 본 발명에 있어서 차선과 같은 두 개의 선(410, 420)을 점 대 점으로 대응시키는 예시에 대해 보다 자세히 설명하기 위한 도면이다. 선(410) 위의 각 점은 또 다른 선(420) 위의 점 중 어느 하나에 각각 대응될 수 있다. 예컨대 선(410) 위의 점(411)은 선(420) 위의 점(421)에 대응될 수 있다.
이 때, 수학식 1의 공분산 성분을 구함에 있어서, 선 위의 모든 점의 좌표에 기초하여 공분산을 구하는 것이 아니라, 선 위에서 한 점으로부터 일정 거리 내에 있는 주변 점들의 좌표의 값만으로 공분산을 구함으로써, 공분산 연산을 보다 합리적으로 수행할 수 있다. 이 경우, 각 점에서의 공분산 행렬의 형상(412, 422)는 도 5에서 보는 바와 같이 장축의 방향이 선의 방향과 일치하는 타원 형상을 띠게 될 것이다. 이와 같은 공분산 연산 방법은 직선뿐 아니라 곡선에 대해서도 적용될 수 있다.
한편, 선 형태의 랜드마크의 경우, 그 형상의 특성상 선과 수직한 방향으로의 오차에는 강하지만, 선과 평행한 방향으로의 오차에는 취약할 수 있다. 이와 같은 문제는 이정표, 표지판 등과 같이 하나의 점으로 표현되는 점 형태의 랜드마크를 통해 보완될 수 있다. 하나의 선에서도 무수히 많은 수의 점이 나올 수 있는 선 형태의 랜드마크와 달리, 점 형태의 랜드마크는 그 수가 적기 때문에, 실제 영상에서의 점 랜드마크를 고정밀 지도의 점 랜드마크에 대응시키기 위한 대응 관계를 찾는 것이 보다 용이하다.
이에 본 발명의 일 실시예에서는, 점 형태의 랜드마크에 대해서, 실제 영상에서의 랜드마크를 고정밀 지도 내의 랜드마크에 일대일로 대응시키는 복수의 경우 중, 상기 수학식 1의 값이 최소가 되는(즉, 정합에 따른 오차가 최소가 되는) 경우에서의 대응 관계를 선택할 수 있다.
도 6을 보면, 실제 영상(500)과 고정밀 지도(600) 간의 정합을 수행함에 있어, 선 형태의 랜드마크와 점 형태의 랜드마크를 모두 사용하고 있음을 확인할 수 있다. 이에 따르면, 실제 영상(500)의 두 개의 선(510, 520)은 고정밀 지도(600)의 두 개의 선(610, 620)에 각각 대응될 수 있으며, 실제 영상(500)의 표지판(530)은 고정밀 지도의 표지판(630)에 대응될 수 있다.
이하에서는 지금까지 설명한 바와 같은 과정을 거쳐 구해진 변환 행렬의 정확도를 높이기 위해, 변환 행렬의 값을 보정하는 방법에 대해 설명한다. 우선, 추측 항법(dead reckoning)을 이용하여 변환 행렬을 보정할 수 있는데, 촬영 장치(110)가 장착된 차량의 주행 정보를 이용하여 변환 행렬을 보정하는 알고리즘을 설계할 수 있다. 상기 주행 정보로는, 휠 스피드(wheel speed), 요율(yaw rate), 조향각, 기어(gear) 신호 및 IMU 센서로부터의 신호 등이 이용될 수 있다. 앞의 수학식 1에서 이와 같은 추측 항법을 이용한 보정 성분이 추가된 수학식 2는 다음과 같다.
Figure PCTKR2018014005-appb-M000002
수학식 1과 유사하게, 수학식 2 역시 시그마(Σ) 기호 오른편에 각각의 랜드마크에 대한 비용 함수를 정의하고, 모든 랜드마크들에 대한 비용 함수의 합에 "(TDR-T)T WDR (TDR-T)" 비용 함수를 추가로 더한 값을 최소로 하는 변환 행렬(T*)을 구하는 것을 목표로 한다. 수학식 1에 비해 추가된 부분인 "(TDR-T)T WDR (TDR-T)"라는 항이 상기 보정과 관련된 항이며, 여기서 여기서, TDR은 추측 항법에 의해 추정된 촬영 장치(110)의 위치 및 오리엔테이션을 나타내는 3차원의 변환 행렬을 의미하며, WDR은 가중치 부여를 위한 행렬을 의미한다.
다음으로, 주행 중인 차량에 있어서, 촬영 장치(110)의 위치 및 오리엔테이션을 구하기 위한 변환 행렬을 서로 다른 위치에서 적어도 세 번 구한 결과가 있을 경우, 변환 행렬의 값을 보다 정확히 보정하기 위한 방법인 루프 클로징 구속 조건(loop closing constraint)에 대해 설명한다. 즉, 이 경우에는 차량의 주행 중에 시간 순서대로 서로 다른 위치에서 촬영 장치(110)가 실제 영상을 세 번 이상 얻었고, 상기 각 실제 영상에 기초한 변환 행렬이 각각 산출되었을 것을 전제로 한다. 그러면 상기 세 개 이상의 변환 행렬 중에서, 시간적으로 가장 앞서는 변환 행렬과 가장 뒤에 있는 변환 행렬을 이용하여, 나머지 변환 행렬을 보정할 수 있다.
상기 보정 방법에 대해 도 7을 참조하여 보다 구체적으로 설명하도록 한다. 도 7의 예시에서는, 시간 순서대로 T0, T1, T2, T3, T4의 총 5개의 변환 행렬이 구해졌다고 가정한다. 그리고 여기서, Tij는 Ti와 Tj 간의 상대적인 변환 행렬(relative transformation)을 의미한다. 이 때, 맨 처음의 T0와 맨 끝의 T4의 값을 고정시킨 채로, 아래의 수학식 3을 만족하도록 나머지 변환 행렬의 값을 조절할 수 있다. 여기서, Cij는 Tij에 관한 편차를 나타내는 공분산 행렬이며, g는 Ti와 Tj를 입력으로 하여 Tij를 예측하기 위한 함수이다.
Figure PCTKR2018014005-appb-M000003
다시 도 3으로 돌아가도록 한다. 지금까지 설명한 바와 같은 과정을 통해 변환 행렬이 확정되면, 좌표계 변환부(120)는 변환 행렬의 값에 기초하여 촬영 장치(110)의 위치 및 오리엔테이션을 결정할 수 있다(S130). 그러면 국부 랜드마크 지도 생성부(130)는 실제 영상에 포함된 정보로부터 대상 영역에 대한 3차원의 국부 랜드마크 지도를 생성할 수 있으며(S140), 업데이트부(140)는 국부 랜드마크 지도와, 고정밀 지도 중 대상 영역에 대응되는 부분 간의 비교를 통해, 고정밀 지도를 업데이트할 수 있다(S150).
이하에서는 상기 단계 S140 및 S150에 대해 보다 구체적으로 설명하도록 한다. 국부 랜드마크 지도와 고정밀 지도의 정합에는 일반적으로 알려진, 앞서 소개한 ICP 알고리즘이 이용될 수 있다. 기본적으로 국부 랜드마크 지도는 고정밀 지도 중 대상 영역에 대응되는 부분과 실질적으로 동일할 것이나, 고정밀 지도에는 존재하지 않고 국부 랜드마크 지도에만 존재하는 랜드마크가 있을 수 있다. 이러한 랜드마크는 고정밀 지도 생성 시점과 국부 랜드마크 지도 생성 시점 사이에 새로 생긴 신규 랜드마크로 생각할 수 있다. 반면에, 고정밀 지도에는 존재하나 국부 랜드마크 지도에는 존재하지 않는 랜드마크도 있을 수 있으며, 이는 고정밀 지도 생성 시점과 국부 랜드마크 지도 생성 시점 사이에 제거된 삭제 랜드마크로 생각할 수 있다.
실제 영상은 2차원 영상이기 때문에, 하나의 실제 영상만으로 신규 랜드마크를 국부 랜드마크 지도 상의 정확한 위치에 표시하기 어렵다. 이에, 촬영 장치(110)의 위치 및 오리엔테이션 중 적어도 하나가 서로 상이한 복수 개의 실제 영상을 획득하고, 각 실제 영상 내에서의 상기 신규 랜드마크의 위치를 이용하여, 국부 랜드마크 지도 상에서의 신규 랜드마크의 위치를 결정할 수 있다. 이와 관련하여 도 8a 및 8b를 참조하여 설명한다.
도 8a는 두 개의 영상을 이용하여 랜드마크의 3차원 위치를 추정하는 방법을 설명하기 위한 도면이고, 도 8b는 본 발명의 일 실시예에 따른 고정밀 지도 업데이트 방법에서, 랜드마크의 위치를 추정하는 과정에 대해 설명하기 위한 도면이다.
본 발명의 일 실시예에 따른 국부 랜드마크 지도 생성부(130)는 랜드마크의 위치를 추정하기 위해 삼각 측량법(triangulation)을 이용할 수 있다. 구체적으로, 국부 랜드마크 지도 생성부(130)는 서로 다른 위치에서 촬영된 최소 2장의 영상에서 동일한 랜드마크를 인식하고, 인식 결과에 삼각 측량법을 적용함으로써 국부 랜드마크 지도 상에서 랜드마크의 3차원 위치를 추정할 수 있다.
도 8a를 참조하면, 촬영 장치(110)는 제 1 위치 L1에서 랜드마크를 촬영하여 제 1 영상 I1을 획득하고, 제 2 위치 L2에서 랜드마크를 촬영하여 제 2 영상 I2을 획득할 수 있다. 이 때, 국부 랜드마크 지도 생성부(130)는 제 1 위치로부터 제 1 영상 I1 내 랜드마크에 대응되는 픽셀 X1을 지나는 벡터 V1을 구하고, 제 2 위치 L2로부터 제 2 영상 I2 내 랜드마크에 대응되는 픽셀 X2를 지나는 벡터 V2를 구할 수 있다. 그 다음, 국부 랜드마크 지도 생성부(130)는 벡터 V1과 V2가 교차하는 점을 3차원 공간 상의 랜드마크 위치 P로 추정할 수 있다.
이러한 방법에 따라 랜드마크의 위치를 추정할 때, 결정되는 랜드마크 위치의 정확도는 랜드마크를 인식한 실제 영상의 수에 영향을 받을 수 있다. 상술한 바와 같이, 랜드마크의 3차원 공간 상의 위치를 추정하기 위해서는 최소 두 장의 실제 영상이 이용되는 바, 복수의 실제 영상으로부터 결정되는 복수의 3차원 위치의 평균을 3차원 공간 상의 랜드마크 위치로 추정함으로써 측정 오차를 줄일 수 있다.
또한, 촬영 장치(110)에 의해 복수의 실제 영상이 촬영되는 복수의 위치 간 거리가 멀수록 상기 방법에 따라 결정되는 랜드마크의 3차원 위치 정확도가 높아질 수 있다. 이는 촬영 위치 간 거리가 멀수록 실제 영상 내에서 인식된 랜드마크의 픽셀 오차가 감소하여, 이를 기초로 결정되는 랜드마크의 3차원 위치 오차 역시 줄어들기 때문이다. 예를 들어, 1m 만큼 이격된 두 위치에서 촬영된 두 장의 실제 영상 내 랜드마크의 위치 오차가 1픽셀이고, 2m 만큼 이격된 두 위치에서 촬영된 두 장의 실제 영상 내 랜드마크의 위치 오차가 1픽셀인 경우, 각각을 기초로 결정되는 랜드마크의 3차원 위치는 후자의 경우가 정확도가 높다.
이를 고려하여, 국부 랜드마크 지도 생성부(130)는 랜드마크 위치의 정확도를 높일 수 있고, 정확도에 따라 업데이트부(140)에 제공할 랜드마크 위치를 결정할 수도 있다. 정확도, 즉 오차 범위에 기초하여 랜드마크 위치를 업데이트부(140)에 제공하는 것은 후술한다.
도 8b를 참조하면, 실제 영상은 복수의 위치(710, 720, 730)에서 각각 촬영될 수 있는데, 첫 번째 위치(710)에서 촬영된 실제 영상에 의해 추정된 랜드마크의 위치의 오차 범위(711)는 비교적 크지만, 두 번째 위치(720)에서의 실제 영상까지 고려하여 추정된 랜드마크 위치의 오차 범위(721)는 보다 작고, 세 번째 위치(730)에서의 실제 영상까지 고려하여 추정된 랜드마크 위치의 오차 범위(731)는 더욱 작아지는 것을 확인할 수 있다.
나중에 업데이트부(140)가 고정밀 지도의 업데이트를 수행할 때, 업데이트부(140)는 이와 같은 오차 범위(예컨대, 확률변수의 형태로 표현된, 국부 랜드마크 지도 상에서의 랜드마크의 위치의 공분산)가 소정의 임계치 이하인 랜드마크를 유효한 랜드마크로 취급할 수 있으며, 이와 같은 유효한 랜드마크만을 이용하여 고정밀 지도를 업데이트할 수 있다.
또는, 국부 랜드마크 지도 생성부(130)는 랜드마크 위치를 추정하고, 결정된 랜드마크 위치에 대한 오차 범위, 즉 랜드마크 위치의 공분산이 소정의 임계치 이하인 것만을 업데이트부(140)에 제공할 수 있다. 도 2a의 실시예를 따를 경우, 국부 랜드마크 지도 생성부(130)는 고정밀 지도 업데이트 장치(100) 내부에서 업데이트부(140)에 공분산이 소정의 임계치 이하인 랜드마크 위치만을 제공할 수 있다. 이와는 달리, 도 2b의 실시예를 따를 경우, 국부 랜드마크 지도 생성부(130)는 고정밀 지도 업데이트 장치(100) 내부의 통신 수단을 통해 외부의 고정밀 지도 업데이트 서버(S)로 공분산이 소정의 임계치 이하인 랜드마크 위치만을 제공할 수도 있다.
국부 랜드마크 지도 상에서의 랜드마크의 위치는, 상기 공분산이 주어지면 칼만 필터(Kalman filter)를 이용하여 보다 정확하게 구할 수 있다. 이 과정에서 아래의 수학식 4가 이용될 수 있다.
Figure PCTKR2018014005-appb-M000004
여기서, d는 촬영 장치(110)의 렌즈로부터 랜드마크의 위치로 향하는 3차원의 방향 벡터를 의미하고, λ는 d=(a, b, c)T를 단위 벡터로 만들어 주는 정규화 목적의 상수이며, R은 촬영 장치(110)의 오리엔테이션을 나타내는 3차원 회전 행렬이다. 또한, K는 핀홀(pin-hole) 모델을 가정한 촬영 장치(110)의 내부 파라미터 관련 캘리브레이션(calibration) 행렬을 의미한다. 또한, 3차원 좌표로 표현되는 P*는 다음과 같은 수학식 5 내지 7에 따라 구해질 수 있다.
Figure PCTKR2018014005-appb-M000005
Figure PCTKR2018014005-appb-M000006
Figure PCTKR2018014005-appb-M000007
여기서, (xi, yi, zi)는 촬영 장치(110)의 복수의 위치 중에서 i번째의 위치를 의미한다. 상기 수학식을 기초로 추정되는 랜드마크의 3차원 위치 P의 공분산은 A-1이 되고, 이는 첫번째(i=1) 촬영 위치에서 촬영된 실제 영상 내 랜드마크의 3차원 위치의 오차를 나타낸다.
한편, 촬영 장치(110)의 좌표계 기준 랜드마크의 3차원 위치 P에 3차원 변환 행렬 T를 적용하면 고정밀 지도의 좌표계 기준 랜드마크의 3차원 좌표 PW를 획득할 수 있다. 이 때, 변환 행렬 T는 촬영 장치(110)의 위치 및 오리엔테이션에 따른 오차가 존재하므로, 국부 랜드마크 지도 생성부(130)는 PW에 오차 전파(error propagation) 개념이 적용된 PW의 공분산 CPw를 구할 수 있다. PW의 공분산 CPw는 수학식 8에 따라 구해질 수 있다.
Figure PCTKR2018014005-appb-M000008
여기서, R은 촬영 장치(110)의 오리엔테이션을 나타내는 3차원 회전 행렬을 의미하고, CT는 변환 행렬 T에 대한 공분산을 의미하고, J는 함수 T×P에 대한 편미분(jacobian)을 의미한다.
또한, 국부 랜드마크 지도 생성부(130)는 랜드마크 별 속성을 확인할 수 있다. 구체적으로, 국부 랜드마크 지도 생성부(130)는 촬영 장치(110)에 의해 촬영된 실제 영상 내 특징점을 추출하여 랜드마크의 속성을 확인하고, 속성이 확인된 랜드마크의 3차원 위치와 속성을 매칭시킬 수 있다. 랜드마크의 속성 확인을 위해, 국부 랜드마크 지도 생성부(130)는 딥러닝(Deep Learning)과 같은 기계 학습 방법을 이용할 수 있다.
국부 랜드마크 지도 생성부(130)는 주행 환경 내에 존재하는 다양한 오브젝트를 랜드마크로 하여, 이들의 여러 가지 속성을 확인할 수 있다. 예를 들어, 신호등을 랜드마크로 하는 경우, 국부 랜드마크 지도 생성부(130)는 신호등의 방향(가로 또는 세로)과 마련된 등의 개수(2색등, 3색등, 4색등 등)를 속성으로 확인할 수 있다. 또는, 표지판의 경우, 국부 랜드마크 지도 생성부(130)는 표지판의 모양, 종류, 목적 등을 속성으로 확인할 수도 있다.
상술한 과정에 따라 랜드마크의 3차원 위치와 이의 공분산 및 속성이 확인되면, 국부 랜드마크 지도 생성부(130)는 랜드마크의 3차원 위치, 이의 공분산 및 속성을 업데이트부(140)에 제공할 수 있다. 이 때, 도 2a의 국부 랜드마크 지도 생성부(130)는 고정밀 지도 업데이트 장치(100) 내부에서 업데이트부(140)에 랜드마크 위치, 이의 공분산 및 속성을 제공하고, 도 2b의 국부 랜드마크 지도 생성부(130)는 고정밀 지도 업데이트 장치(100) 내부의 통신 수단을 통해 외부의 고정밀 지도 업데이트 서버(S)의 업데이트부(140)로 랜드마크의 3차원 위치, 이의 공분산 및 속성을 제공할 수 있음은 상술한 바와 같다.도 9는 본 발명의 일 실시예에 따른 고정밀 지도 업데이트 방법에서, 국부 랜드마크 지도와의 비교를 통해 고정밀 지도를 업데이트하는 과정에 대해 설명하기 위한 도면이다. 업데이트부(140)는 국부 랜드마크 지도 생성부(130)로부터 랜드마크 위치, 이의 공분산 및 속성에 대한 정보를 수신할 수 있다. 상기 수신은, 전송 데이터의 양을 줄이기 위한 일정 시간 간격(예를 들어, 1초)의 샘플링과 함께 수행될 수도 있다. 업데이트부(140)는 상기 수신된 정보를 이용하여 고정밀 지도를 업데이트할 수 있다. 이러한 업데이트는 고정밀 지도에 신규 랜드마크를 추가하는 것과, 고정밀 지도로부터 삭제 랜드마크를 제거하는 것일 수 있다.
신규 랜드마크를 추가하기 위해, 업데이트부(140)는 수신된 랜드마크의 위치, 이의 공분산 및 속성에 기초하여 고정밀 지도 상의 대응되는 랜드마크를 확인할 수 있다. 고정밀 지도 상의 대응되는 랜드마크가 확인되면, 업데이트부(140)는 수신된 랜드마크의 위치와 고정밀 지도 상의 대응되는 랜드마크 간의 거리를 기초로 동일 랜드마크인지 확인할 수 있다.
이 때, 일 실시예에 따른 업데이트부(140)는 수신된 랜드마크와 고정밀 지도 상의 대응되는 랜드마크 간의 마할라노비스 거리(Mahalanobis Distance) 이론을 적용하여 확률에 기반한 거리를 구할 수 있다. 2개의 3차원 공간 상의 점 P1과 P2가 각각 공분산 C1과 C2를 가질 때, 마할라노비스 거리 Dm은 수학식 9를 따른다.
Figure PCTKR2018014005-appb-M000009
업데이트부(140)는 구해진 마할라노비스 거리가 소정의 임계치 이하인 경우에 두 랜드마크가 동일한 것으로 판단할 수 있다. 반면, 고정밀 지도 상에서 대응되는 랜드마크가 확인되지 않거나, 마할라노비스 거리가 소정의 임계치를 초과하는 경우, 업데이트부(140)는 수신된 랜드마크를 신규 랜드마크로 결정할 수 있다.
신규 랜드마크가 결정되면, 업데이트부(140)는 고정밀 지도에 신규 랜드마크를 반영함으로써 고정밀 지도의 업데이트를 수행할 수 있다. 일 실시예에 따른 업데이트부(140)는 결정된 신규 랜드마크 위치의 공분산이 소정의 임계치 이하일 때, 해당 신규 랜드마크의 가중 평균을 위치로 하여 고정밀 지도에 추가할 수 있다. 이를 통해, 고정밀 지도 업데이트의 신뢰도를 높일 수 있다.
한편, 도 2b의 실시예를 따를 때, 고정밀 지도 업데이터 서버(S) 내에 마련된 업데이트부(140)는 서로 다른 복수의 고정밀 지도 업데이트 장치(100)로부터 동일 신규 랜드마크와 관련된 정보를 복수 회 수신할 수 있다. 이 경우, 업데이트부(140)는 공분산을 반영하여 수신된 복수의 신규 랜드마크 위치의 가중 평균(Weight Average)를 구할 수 있다. 일 실시예에 따른 업데이트부(140)는 수신된 신규 랜드마크 위치의 가중 평균을 구하기 위해 칼만 필터(Kalman Filter)를 이용할 수 있다. 칼만 필터를 사용하여 수신된 순서에 따라 순차적으로 신규 랜드마크 위치의 가중 평균을 구함으로써, 연산 속도를 높이고, 저장 공간을 보다 효율적으로 활용할 수 있다.
가중 평균을 구한 후, 업데이트부(140)는 구해진 가중 평균을 이용하여 고정밀 지도에 신규 랜드마크를 추가할지 여부를 결정할 수 있다. 일 실시예에 따른 업데이트부(140)는 신규 랜드마크 중 소정의 임계치 이상의 2차원 영상에 의해 신규 랜드마크로 결정된 것만을 고정밀 지도에 추가할 수 있다. 즉, 업데이트부(140)는 국부 랜드마크 지도 생성부(130)로부터 수신되어, 가중 평균을 구하는데 이용된 랜드마크 정보의 수가 소정의 임계치 이상인 경우, 해당 가중 평균을 위치로 하는 신규 랜드마크를 고정밀 지도에 추가할 수 있다.
이와는 달리, 다른 실시예에 따른 업데이트부(140)는 칼만 필터에 의해 획득된 신규 랜드마크 위치의 공분산이 소정의 임계치 이하일 때, 앞서 구한 가중 평균을 위치로 하여 해당 신규 랜드마크를 고정밀 지도에 추가할 수 있다. 상술한 실시예 들을 통해, 업데이트부(140)는 신뢰할 수 있는 랜드마크만을 고정밀 지도에 신규로 추가함으로써, 고정밀 지도 업데이트의 신뢰성을 높일 수 있다.
또한, 삭제 랜드마크를 삭제하기 위해, 업데이트부(140)는 국부 랜드마크 지도 생성부(130)로부터 특정 랜드마크가 삭제되었다는 정보를 수신할 수 있다. 예를 들어, 도 2a의 국부 랜드마크 지도 생성부(130)는 촬영 장치(110)에 의해 촬영되는 실제 영상과 고정밀 지도를 비교하여 인식되지 않는 랜드마크를 삭제 랜드마크라 판단하여, 이를 고정밀 지도 업데이트 장치(100) 내부에서 업데이트부(140)로 전송할 수 있다. 이와는 달리, 도 2b의 국부 랜드마크 지도 생성부(130)는 판단된 삭제 랜드마크에 대한 정보를 고정밀 지도 업데이트 장치(100) 내 통신 수단을 이용하여 고정밀 지도 업데이트 서버(S)에 마련된 업데이트부(140)로 전송할 수도 있다.
삭제 랜드마크에 대한 정보가 수신되면, 업데이트부(140)는 이를 기초로 고정밀 지도를 업데이트 할 수 있다. 구체적으로, 업데이트부(140)는 수신된 정보에 따라 고정밀 지도 상에서 삭제 랜드마크를 삭제할 수 있다.
한편, 도 2b의 실시예를 따를 때, 고정밀 지도 업데이터 서버(S) 내에 마련된 업데이트부(140)는 서로 다른 복수의 고정밀 지도 업데이트 장치(100)로부터 삭제 랜드마크에 대한 정보를 복수 회 수신할 수 있다. 이 경우, 일 실시예에 따른 업데이트부(140)는 삭제 랜드마크 중 소정의 임계치 이상의 2차원 영상에 의해 삭제 랜드마크로 결정된 것만을 고정밀 지도에서 삭제할 수 있다. 즉, 업데이트부(140)는 수신된 동일 삭제 랜드마크 정보의 수가 소정의 임계치 이상이면, 고정밀 지도 상에서 삭제 랜드마크를 삭제할 수도 있다.
한편, 고정밀 지도의 업데이트는 전술한 바와 같이 업데이트부(140)에 의해 자동으로 수행될 수도 있겠지만, 업데이트부(140)가 업데이트가 필요한 부분에 관한 정보(즉, 신규 랜드마크와 삭제 랜드마크에 대한 정보)를 관리자에게 제공하면 관리자가 이를 확인하여 최종적으로 업데이트를 승인하는 방식 역시 가능하다.
업데이트가 완료되면, 고정밀 지도 업데이트 장치는 업데이트된 고정밀 지도를 기초로 추후 업데이트를 수행할 수 있다. 이를 위해, 도 2b의 실시예를 따른 업데이트부(140)는 고정밀 지도 업데이트 서버(S)의 통신 수단을 통해 업데이트 완료된 고정밀 지도를 고정밀 지도 업데이트 장치(100)에 제공할 수 있다.
지금까지 설명한 본 발명의 일 실시예에 의하면, 고정밀 지도 업데이트의 효율이 비약적으로 증대될 수 있으며. 업데이트의 경제성 및 신뢰성 측면에서도 큰 효과를 달성할 수 있게 된다.
본 발명에 첨부된 블록도의 각 블록과 흐름도의 각 단계의 조합들은 컴퓨터 프로그램 인스트럭션들에 의해 수행될 수도 있다. 이들 컴퓨터 프로그램 인스트럭션들은 범용 컴퓨터, 특수용 컴퓨터 또는 기타 프로그램 가능한 데이터 프로세싱 장비의 인코딩 프로세서에 탑재될 수 있으므로, 컴퓨터 또는 기타 프로그램 가능한 데이터 프로세싱 장비의 인코딩 프로세서를 통해 수행되는 그 인스트럭션들이 블록도의 각 블록 또는 흐름도의 각 단계에서 설명된 기능들을 수행하는 수단을 생성하게 된다. 이들 컴퓨터 프로그램 인스트럭션들은 특정 방식으로 기능을 구현하기 위해 컴퓨터 또는 기타 프로그램 가능한 데이터 프로세싱 장비를 지향할 수 있는 컴퓨터 이용 가능 또는 컴퓨터 판독 가능 메모리에 저장되는 것도 가능하므로, 그 컴퓨터 이용가능 또는 컴퓨터 판독 가능 메모리에 저장된 인스트럭션들은 블록도의 각 블록 또는 흐름도 각 단계에서 설명된 기능을 수행하는 인스트럭션 수단을 내포하는 제조 품목을 생산하는 것도 가능하다. 컴퓨터 프로그램 인스트럭션들은 컴퓨터 또는 기타 프로그램 가능한 데이터 프로세싱 장비 상에 탑재되는 것도 가능하므로, 컴퓨터 또는 기타 프로그램 가능한 데이터 프로세싱 장비 상에서 일련의 동작 단계들이 수행되어 컴퓨터로 실행되는 프로세스를 생성해서 컴퓨터 또는 기타 프로그램 가능한 데이터 프로세싱 장비를 수행하는 인스트럭션들은 블록도의 각 블록 및 흐름도의 각 단계에서 설명된 기능들을 실행하기 위한 단계들을 제공하는 것도 가능하다.
또한, 각 블록 또는 각 단계는 특정된 논리적 기능(들)을 실행하기 위한 하나 이상의 실행 가능한 인스트럭션들을 포함하는 모듈, 세그먼트 또는 코드의 일부를 나타낼 수 있다. 또, 몇 가지 대체 실시예들에서는 블록들 또는 단계들에서 언급된 기능들이 순서를 벗어나서 발생하는 것도 가능함을 주목해야 한다. 예컨대, 잇달아 도시되어 있는 두 개의 블록들 또는 단계들은 사실 실질적으로 동시에 수행되는 것도 가능하고 또는 그 블록들 또는 단계들이 때때로 해당하는 기능에 따라 역순으로 수행되는 것도 가능하다.
이상의 설명은 본 발명의 기술 사상을 예시적으로 설명한 것에 불과한 것으로서, 본 발명이 속하는 기술 분야에서 통상의 지식을 가진 자라면 본 발명의 본질적인 품질에서 벗어나지 않는 범위에서 다양한 수정 및 변형이 가능할 것이다. 따라서, 본 발명에 개시된 실시예들은 본 발명의 기술 사상을 한정하기 위한 것이 아니라 설명하기 위한 것이고, 이러한 실시예에 의하여 본 발명의 기술 사상의 범위가 한정되는 것은 아니다. 본 발명의 보호 범위는 아래의 청구범위에 의하여 해석되어야 하며, 그와 균등한 범위 내에 있는 모든 기술사상은 본 발명의 권리범위에 포함되는 것으로 해석되어야 할 것이다.
본 발명의 일 실시예에 따르면, 자율 주행 등에 이용되는 고정밀 지도를 업데이트함에 있어서, 고정밀 지도의 업데이트를 위해 고가의 장비를 이용하여 다시 고정밀 지도를 생성하는 기존 방식과 같은 과정을 거칠 필요가 없어져, 고정밀 지도 업데이트의 효율이 비약적으로 증대될 수 있다. 또한, 도로를 주행하는 수많은 일반적인 차량들에 의해 수집된 방대한 양의 데이터를 확보할 수 있으므로, 경제성뿐만 아니라 업데이트의 신뢰성 측면에서도 큰 효과를 달성할 수 있게 된다.

Claims (20)

  1. 3차원의 고정밀 지도에 의해 표현된 영역 중 적어도 일부에 해당하는 대상 영역을 촬영한 2차원 영상을 획득하는 단계;
    상기 2차원 영상을 촬영한 촬영 장치의 위치 및 오리엔테이션(orientation)에 기초하여, 상기 2차원 영상 내 랜드마크(landmark)의 위치로부터 상기 대상 영역에 대한 3차원의 국부 랜드마크 지도를 생성하는 단계; 및
    상기 고정밀 지도의 대상 영역에 대응되는 상기 국부 랜드마크 지도를 참조하여, 상기 고정밀 지도를 업데이트하는 단계를 포함하는
    고정밀 지도 업데이트 방법.
  2. 제 1 항에 있어서,
    상기 고정밀 지도와 상기 2차원 영상 간의 정합 결과에 기초하여, 상기 촬영 장치의 위치 및 오리엔테이션을 연산하는 단계를 더 포함하는
    고정밀 지도 업데이트 방법.
  3. 제 2 항에 있어서,
    상기 연산하는 단계는, 상기 고정밀 지도의 좌표계와, 상기 촬영 장치를 기준으로 한 좌표계 간의 변환을 위한 변환 행렬을 산출하고, 상기 변환 행렬을 이용하여 상기 촬영 장치의 위치 및 오리엔테이션을 연산하는 것인
    고정밀 지도 업데이트 방법.
  4. 제 3 항에 있어서,
    상기 연산하는 단계는, 3차원 좌표계 간의 변환이 가능한 후보 변환 행렬 중에서, 상기 고정밀 지도 내의 데이터에 대해 상기 후보 변환 행렬을 적용한 결과를 2차원 평면에 투사(projection)하여 얻어진 영상과, 상기 2차원 영상 간의 차이가 최소가 되는 것을 상기 변환 행렬로 결정하는 단계를 포함하는
    고정밀 지도 업데이트 방법.
  5. 제 3 항에 있어서,
    상기 랜드마크는, 상기 2차원 영상 내 복수 개 존재하고,
    상기 연산하는 단계는,
    상기 2차원 영상 내의 상기 복수의 랜드마크 각각이, 상기 고정밀 지도 내의 랜드마크에 일대일로 대응되는 복수의 경우를 도출하는 단계; 및
    상기 각 경우 중, 상기 정합에 따른 오차가 최소가 되는 경우에서 상기 변환에 사용된 행렬을 상기 변환 행렬로 결정하는 단계를 포함하는
    고정밀 지도 업데이트 방법.
  6. 제 3 항에 있어서,
    상기 연산하는 단계는, 상기 촬영 장치가 장착된 차량의 주행 정보에 기초하여 상기 변환 행렬을 보정하는 단계를 포함하는
    고정밀 지도 업데이트 방법.
  7. 제 3 항에 있어서,
    상기 2차원 영상은, 촬영 당시 상기 촬영 장치의 위치가 서로 상이하도록 세 개 이상 존재하고, 상기 세 개 이상의 2차원 영상은 상기 촬영 장치가 장착된 차량의 주행 중에 시간 순서대로 순차적으로 획득되며,
    상기 연산하는 단계는,
    상기 세 개 이상의 2차원 영상 각각에 대해 상기 변환 행렬을 각각 산출하는 단계; 및
    상기 세 개 이상의 2차원 영상 중에서, 시간적으로 가장 앞서는 2차원 영상의 변환 행렬과 시간적으로 가장 뒤에 있는 2차원 영상의 변환 행렬을 이용하여, 나머지 2차원 영상의 변환 행렬을 보정하는 단계를 포함하는
    고정밀 지도 업데이트 방법.
  8. 제 1 항에 있어서,
    상기 2차원 영상은, 촬영 당시 상기 촬영 장치의 위치 및 오리엔테이션 중 적어도 하나가 서로 상이하도록 복수 개 존재하며,
    상기 생성하는 단계는,
    상기 복수 개의 2차원 영상 각각에 대응되는 촬영 장치의 위치 및 오리엔테이션과, 상기 복수 개의 2차원 영상에서의 상기 랜드마크의 위치에 기초하여, 상기 랜드마크의 상기 고정밀 지도 내에서의 위치를 추정하는 단계를 포함하는
    고정밀 지도 업데이트 방법.
  9. 제 8 항에 있어서,
    상기 생성하는 단계는,
    서로 다른 촬영 위치에서 촬영된 각각의 2차원 영상 내에서 동일한 랜드마크를 인식하는 단계; 및
    상기 서로 다른 촬영 위치로부터 상기 각각의 2차원 영상 내 상기 인식된 랜드마크에 대응되는 픽셀을 지나는 벡터의 교점을 상기 인식된 랜드마크의 상기 고정밀 지도 내에서의 위치로 추정하는 단계를 포함하는
    고정밀 지도 업데이트 방법.
  10. 제 8 항에 있어서,
    상기 추정하는 단계는, 상기 랜드마크의 위치를 확률변수의 형태로 나타내는 단계를 포함하며,
    상기 업데이트하는 단계는,
    상기 위치가 추정된 랜드마크와 상기 고정밀 지도 상의 랜드마크 간의 상기 확률변수에 따른 거리에 기초하여, 상기 위치가 추정된 랜드마크가 상기 고정밀 지도 상에 존재하지 않는 신규 랜드마크인지 여부를 결정하는 단계; 및
    상기 결정된 신규 랜드마크 중, 상기 확률변수 형태의 위치의 공분산(covariance)이 소정의 임계치 이하인 신규 랜드마크만을 이용하여 상기 고정밀 지도를 업데이트하는 단계를 포함하는
    고정밀 지도 업데이트 방법.
  11. 제 1 항에 있어서,
    상기 업데이트하는 단계는, 상기 2차원 영상에는 포함되어 있지만 상기 고정밀 지도 내의 대응되는 위치에 대응되는 랜드마크가 존재하지 않는 랜드마크인 신규 랜드마크와, 상기 고정밀 지도 중 상기 대상 영역에 대응되는 부분 내에 존재하지만 상기 2차원 영상 내의 대응되는 위치에 대응되는 랜드마크가 존재하지 않는 랜드마크인 삭제 랜드마크를 이용하여 상기 고정밀 지도를 업데이트하는 것인
    고정밀 지도 업데이트 방법.
  12. 제 11 항에 있어서,
    상기 2차원 영상은, 서로 다른 복수의 촬영 장치 각각에 의해 복수 개 획득되며,
    상기 업데이트하는 단계는, 상기 신규 랜드마크 중 소정의 제 1 임계치 이상의 상기 2차원 영상에 의해 상기 신규 랜드마크로 판단된 것만을 상기 고정밀 지도에 추가하고, 상기 삭제 랜드마크 중 소정의 제 2 임계 개수 이상의 상기 2차원 영상에 의해 상기 삭제 랜드마크로 판단된 것만을 상기 고정밀 지도로부터 제거하는 단계를 포함하는
    고정밀 지도 업데이트 방법.
  13. 제 12 항에 있어서,
    상기 업데이트하는 단계는, 동일한 상기 신규 랜드마크에 대하여 서로 다른 상기 2차원 영상을 기초로 결정된 위치의 가중 평균(Weight Average)을 상기 신규 랜드마크의 위치로 하여 상기 고정밀 지도를 업데이트 하는
    고정밀 지도 업데이트 방법.
  14. 3차원의 고정밀 지도에 의해 표현된 영역 중 적어도 일부에 해당하는 대상 영역을 촬영한 2차원 영상을 획득하는 촬영 장치(110);
    상기 2차원 영상을 촬영한 촬영 장치의 위치 및 오리엔테이션(orientation)에 기초하여, 상기 2차원 영상 내 랜드마크(landmark)의 위치 로부터 상기 대상 영역에 대한 3차원의 국부 랜드마크 지도를 생성하는 국부 랜드마크 지도 생성부(130); 및
    상기 고정밀 지도의 대상 영역에 대응되는 상기 국부 랜드마크 지도를 참조하여, 상기 고정밀 지도를 업데이트하는 업데이트부(140)를 포함하는
    고정밀 지도 업데이트 장치(100).
  15. 3차원의 고정밀 지도에 의해 표현된 영역 중 적어도 일부에 해당하는 대상 영역을 촬영한 2차원 영상을 획득하는 단계;
    상기 2차원 영상을 촬영한 촬영 장치의 위치 및 오리엔테이션(orientation)에 기초하여, 상기 2차원 영상 내 랜드마크(landmark)의 위치로부터 상기 대상 영역에 대한 3차원의 국부 랜드마크 지도를 생성하는 단계; 및
    상기 고정밀 지도의 대상 영역에 대응되는 상기 국부 랜드마크 지도를 참조하여, 상기 고정밀 지도를 업데이트하는 단계를 포함하는 고정밀 지도 업데이트 방법을 수행하도록 프로그램된
    컴퓨터 프로그램을 저장하는 컴퓨터 판독 가능 기록매체.
  16. 제 15 항에 있어서,
    상기 고정밀 지도와 상기 2차원 영상 간의 정합 결과에 기초하여, 상기 촬영 장치의 위치 및 오리엔테이션을 연산하는 단계를 더 포함하는 고정밀 지도 업데이트 방법을 수행하도록 프로그램된
    컴퓨터 프로그램을 저장하는 컴퓨터 판독 가능 기록매체.
  17. 제 16 항에 있어서,
    상기 연산하는 단계는, 상기 고정밀 지도의 좌표계와, 상기 촬영 장치를 기준으로 한 좌표계 간의 변환을 위한 변환 행렬을 산출하고, 상기 변환 행렬을 이용하여 상기 촬영 장치의 위치 및 오리엔테이션을 연산하는 것인 고정밀 지도 업데이트 방법을 수행하도록 프로그램된
    컴퓨터 프로그램을 저장하는 컴퓨터 판독 가능 기록매체.
  18. 제 15 항에 있어서,
    상기 2차원 영상은, 촬영 당시 상기 촬영 장치의 위치 및 오리엔테이션 중 적어도 하나가 서로 상이하도록 복수 개 존재하며,
    상기 생성하는 단계는,
    상기 복수 개의 2차원 영상 각각에 대응되는 촬영 장치의 위치 및 오리엔테이션과, 상기 복수 개의 2차원 영상에서의 상기 랜드마크의 위치에 기초하여, 상기 랜드마크의 상기 고정밀 지도 내에서의 위치를 추정하는 단계를 포함하는 고정밀 지도 업데이트 방법을 수행하도록 프로그램된
    컴퓨터 프로그램을 저장하는 컴퓨터 판독 가능 기록매체.
  19. 제 15 항에 있어서,
    상기 업데이트하는 단계는, 상기 2차원 영상에는 포함되어 있지만 상기 고정밀 지도 내의 대응되는 위치에 대응되는 랜드마크가 존재하지 않는 랜드마크인 신규 랜드마크와, 상기 고정밀 지도 중 상기 대상 영역에 대응되는 부분 내에 존재하지만 상기 2차원 영상 내의 대응되는 위치에 대응되는 랜드마크가 존재하지 않는 랜드마크인 삭제 랜드마크를 이용하여 상기 고정밀 지도를 업데이트하는 것인 고정밀 지도 업데이트 방법을 수행하도록 프로그램된
    컴퓨터 프로그램을 저장하는 컴퓨터 판독 가능 기록매체.
  20. 제 19 항에 있어서,
    상기 2차원 영상은, 서로 다른 복수의 촬영 장치 각각에 의해 복수 개 획득되며,
    상기 업데이트하는 단계는, 상기 신규 랜드마크 중 소정의 제 1 임계치 이상의 상기 2차원 영상에 의해 상기 신규 랜드마크로 판단된 것만을 상기 고정밀 지도에 추가하고, 상기 삭제 랜드마크 중 소정의 제 2 임계 개수 이상의 상기 2차원 영상에 의해 상기 삭제 랜드마크로 판단된 것만을 상기 고정밀 지도로부터 제거하는 단계를 포함하는 고정밀 지도 업데이트 방법을 수행하도록 프로그램된
    컴퓨터 프로그램을 저장하는 컴퓨터 판독 가능 기록매체.
PCT/KR2018/014005 2018-01-15 2018-11-15 자율주행을 위한 고정밀 지도의 업데이트 장치 및 방법 WO2019139243A1 (ko)

Priority Applications (2)

Application Number Priority Date Filing Date Title
CN201880068940.0A CN111263960B (zh) 2018-01-15 2018-11-15 用于更新高清晰度地图的设备和方法
US16/756,829 US11530924B2 (en) 2018-01-15 2018-11-15 Apparatus and method for updating high definition map for autonomous driving

Applications Claiming Priority (4)

Application Number Priority Date Filing Date Title
KR10-2018-0005181 2018-01-15
KR20180005181 2018-01-15
KR1020180097468A KR102221695B1 (ko) 2018-01-15 2018-08-21 자율주행을 위한 고정밀 지도의 업데이트 장치 및 방법
KR10-2018-0097468 2018-08-21

Publications (1)

Publication Number Publication Date
WO2019139243A1 true WO2019139243A1 (ko) 2019-07-18

Family

ID=67219688

Family Applications (1)

Application Number Title Priority Date Filing Date
PCT/KR2018/014005 WO2019139243A1 (ko) 2018-01-15 2018-11-15 자율주행을 위한 고정밀 지도의 업데이트 장치 및 방법

Country Status (2)

Country Link
CN (1) CN111263960B (ko)
WO (1) WO2019139243A1 (ko)

Cited By (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN112541049A (zh) * 2020-12-25 2021-03-23 北京百度网讯科技有限公司 高精地图处理方法、装置、设备、存储介质和程序产品
CN112556703A (zh) * 2020-12-01 2021-03-26 北京罗克维尔斯科技有限公司 更新高精地图的方法、装置及系统
CN112596981A (zh) * 2020-12-24 2021-04-02 深圳市汉森软件有限公司 三维打印进程的监测方法、装置、设备及存储介质
CN113701770A (zh) * 2021-07-16 2021-11-26 西安电子科技大学 一种高精地图生成方法及系统
CN113763731A (zh) * 2021-09-28 2021-12-07 苏州挚途科技有限公司 高精地图重建道路交叉口红绿灯信息的方法和系统
CN114018240A (zh) * 2021-10-29 2022-02-08 广州小鹏自动驾驶科技有限公司 一种地图数据的处理方法和装置

Families Citing this family (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN111984017A (zh) * 2020-08-31 2020-11-24 苏州三六零机器人科技有限公司 清扫设备控制方法、装置、系统及计算机可读存储介质
JP2022149051A (ja) * 2021-03-25 2022-10-06 本田技研工業株式会社 地図生成装置、地図生成システム、地図生成方法、およびプログラム

Citations (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US20140300621A1 (en) * 2013-04-08 2014-10-09 Hyundai Mnsoft, Inc. Navigation system and method for displaying map on navigation system
KR20150101009A (ko) * 2014-02-24 2015-09-03 주식회사 한화 무인 항공기 영상과 지도 영상에 대한 영상 정합 장치 및 방법
KR20170082165A (ko) * 2016-01-05 2017-07-14 한국전자통신연구원 차량 자율주행 서비스 시스템 및 이를 위한 클라우드 서버 및 그 동작 방법
KR20170119010A (ko) * 2016-04-15 2017-10-26 서울대학교산학협력단 와이파이 신호세기를 이용한 실내 지도 학습 방법 및 시스템
KR20170126909A (ko) * 2015-02-10 2017-11-20 모빌아이 비젼 테크놀로지스 엘티디. 자율 주행을 위한 약도

Family Cites Families (8)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP5471626B2 (ja) * 2010-03-09 2014-04-16 ソニー株式会社 情報処理装置、マップ更新方法、プログラム及び情報処理システム
CN104240297A (zh) * 2014-09-02 2014-12-24 东南大学 一种救援机器人三维环境地图实时构建方法
US9630319B2 (en) * 2015-03-18 2017-04-25 Irobot Corporation Localization and mapping using physical features
US9671236B2 (en) * 2015-10-29 2017-06-06 Here Global B.V. Tile versioning to improve usability of streamed navigation data
CN105758408A (zh) * 2016-01-05 2016-07-13 福州华鹰重工机械有限公司 局部地图构建方法及装置
CN106097243A (zh) * 2016-05-31 2016-11-09 上海美迪索科电子科技有限公司 一种利用摄像头拍摄的3d地图快速成型方法
CN107462226A (zh) * 2017-02-28 2017-12-12 苏州迪美格智能科技有限公司 一种三维地图测绘系统
CN107144285B (zh) * 2017-05-08 2020-06-26 深圳地平线机器人科技有限公司 位姿信息确定方法、装置和可移动设备

Patent Citations (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US20140300621A1 (en) * 2013-04-08 2014-10-09 Hyundai Mnsoft, Inc. Navigation system and method for displaying map on navigation system
KR20150101009A (ko) * 2014-02-24 2015-09-03 주식회사 한화 무인 항공기 영상과 지도 영상에 대한 영상 정합 장치 및 방법
KR20170126909A (ko) * 2015-02-10 2017-11-20 모빌아이 비젼 테크놀로지스 엘티디. 자율 주행을 위한 약도
KR20170082165A (ko) * 2016-01-05 2017-07-14 한국전자통신연구원 차량 자율주행 서비스 시스템 및 이를 위한 클라우드 서버 및 그 동작 방법
KR20170119010A (ko) * 2016-04-15 2017-10-26 서울대학교산학협력단 와이파이 신호세기를 이용한 실내 지도 학습 방법 및 시스템

Cited By (10)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN112556703A (zh) * 2020-12-01 2021-03-26 北京罗克维尔斯科技有限公司 更新高精地图的方法、装置及系统
CN112556703B (zh) * 2020-12-01 2023-06-06 北京罗克维尔斯科技有限公司 更新高精地图的方法、装置及系统
CN112596981A (zh) * 2020-12-24 2021-04-02 深圳市汉森软件有限公司 三维打印进程的监测方法、装置、设备及存储介质
CN112596981B (zh) * 2020-12-24 2023-04-28 深圳市汉森软件有限公司 三维打印进程的监测方法、装置、设备及存储介质
CN112541049A (zh) * 2020-12-25 2021-03-23 北京百度网讯科技有限公司 高精地图处理方法、装置、设备、存储介质和程序产品
CN112541049B (zh) * 2020-12-25 2024-03-01 北京百度网讯科技有限公司 高精地图处理方法、装置、设备、存储介质和程序产品
CN113701770A (zh) * 2021-07-16 2021-11-26 西安电子科技大学 一种高精地图生成方法及系统
CN113763731A (zh) * 2021-09-28 2021-12-07 苏州挚途科技有限公司 高精地图重建道路交叉口红绿灯信息的方法和系统
CN113763731B (zh) * 2021-09-28 2022-12-06 苏州挚途科技有限公司 高精地图重建道路交叉口红绿灯信息的方法和系统
CN114018240A (zh) * 2021-10-29 2022-02-08 广州小鹏自动驾驶科技有限公司 一种地图数据的处理方法和装置

Also Published As

Publication number Publication date
CN111263960A (zh) 2020-06-09
CN111263960B (zh) 2022-04-05

Similar Documents

Publication Publication Date Title
WO2019139243A1 (ko) 자율주행을 위한 고정밀 지도의 업데이트 장치 및 방법
KR20190087266A (ko) 자율주행을 위한 고정밀 지도의 업데이트 장치 및 방법
WO2019225817A1 (ko) 차량의 위치 추정 장치, 차량의 위치 추정 방법, 및 이러한 방법을 수행하도록 프로그램된 컴퓨터 프로그램을 저장하는 컴퓨터 판독 가능 기록매체
WO2021112462A1 (ko) 2차원 영상의 픽셀별 3차원 좌표값 추정 방법 및 이를 이용한 자율주행정보 추정 방법
JP5588812B2 (ja) 画像処理装置及びそれを用いた撮像装置
WO2020071619A1 (ko) 정밀 지도 업데이트 장치 및 방법
CN110462343A (zh) 基于地图的用于车辆的自动图像标记
WO2021037086A1 (zh) 定位方法及装置
US10416681B2 (en) Barcode: global binary patterns for fast visual inference
WO2021015435A1 (ko) 항공사진을 이용하여 3차원 지도를 생성하는 장치 및 방법
CN111830953A (zh) 车辆自定位方法、装置及系统
WO2020235734A1 (ko) 모노카메라를 이용한 자율주행 차량의 거리 및 위치 추정 방법
WO2021230466A1 (ko) 차량 위치 결정 방법 및 시스템
WO2022146000A1 (ko) 근미래 객체 위치 예측 시스템
JP2018077162A (ja) 車両位置検出装置、車両位置検出方法及び車両位置検出用コンピュータプログラム
CN103411587A (zh) 定位定姿方法及系统
WO2020189909A2 (ko) 3d-vr 멀티센서 시스템 기반의 도로 시설물 관리 솔루션을 구현하는 시스템 및 그 방법
Tao et al. Automated processing of mobile mapping image sequences
JPWO2016031229A1 (ja) 道路地図作成システム、データ処理装置および車載装置
CN113971697A (zh) 一种空地协同车辆定位定向方法
WO2021241847A1 (ko) 시각 특징 맵 생성 방법 및 시스템
WO2020180076A1 (ko) 차량용 센서의 보정 정보 획득 장치 및 방법
CN112528719A (zh) 推定装置、推定方法以及存储介质
WO2022116572A1 (zh) 一种目标定位方法及装置
KR102490520B1 (ko) Gps정보 및 라이다 신호를 기초로 형성되는 컬러 맵 생성 장치 및 그 제어방법

Legal Events

Date Code Title Description
121 Ep: the epo has been informed by wipo that ep was designated in this application

Ref document number: 18900492

Country of ref document: EP

Kind code of ref document: A1

NENP Non-entry into the national phase

Ref country code: DE

122 Ep: pct application non-entry in european phase

Ref document number: 18900492

Country of ref document: EP

Kind code of ref document: A1