CN117593887A - 信号灯的变更检测方法、装置及电子设备 - Google Patents
信号灯的变更检测方法、装置及电子设备 Download PDFInfo
- Publication number
- CN117593887A CN117593887A CN202311667865.9A CN202311667865A CN117593887A CN 117593887 A CN117593887 A CN 117593887A CN 202311667865 A CN202311667865 A CN 202311667865A CN 117593887 A CN117593887 A CN 117593887A
- Authority
- CN
- China
- Prior art keywords
- lamp
- signal lamp
- signal
- group
- lamp group
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Pending
Links
- 230000008859 change Effects 0.000 title claims abstract description 201
- 238000001514 detection method Methods 0.000 title claims abstract description 137
- 238000000034 method Methods 0.000 claims description 84
- 238000005070 sampling Methods 0.000 claims description 17
- 238000004590 computer program Methods 0.000 claims description 12
- 230000033001 locomotion Effects 0.000 claims description 8
- 230000004044 response Effects 0.000 claims description 8
- 238000012217 deletion Methods 0.000 claims description 6
- 230000037430 deletion Effects 0.000 claims description 6
- 238000013507 mapping Methods 0.000 claims description 5
- 238000012545 processing Methods 0.000 abstract description 16
- 238000013473 artificial intelligence Methods 0.000 abstract description 7
- 238000010586 diagram Methods 0.000 description 21
- 238000004458 analytical method Methods 0.000 description 18
- 238000004891 communication Methods 0.000 description 12
- 230000008569 process Effects 0.000 description 11
- 230000005540 biological transmission Effects 0.000 description 6
- 230000004927 fusion Effects 0.000 description 5
- 230000006870 function Effects 0.000 description 4
- 239000011159 matrix material Substances 0.000 description 3
- 238000012986 modification Methods 0.000 description 3
- 230000004048 modification Effects 0.000 description 3
- 230000003287 optical effect Effects 0.000 description 3
- 230000000007 visual effect Effects 0.000 description 3
- 238000004364 calculation method Methods 0.000 description 2
- 230000003993 interaction Effects 0.000 description 2
- 238000007726 management method Methods 0.000 description 2
- 238000012544 monitoring process Methods 0.000 description 2
- 239000013598 vector Substances 0.000 description 2
- 238000003491 array Methods 0.000 description 1
- 230000002457 bidirectional effect Effects 0.000 description 1
- 230000001413 cellular effect Effects 0.000 description 1
- 230000006835 compression Effects 0.000 description 1
- 238000007906 compression Methods 0.000 description 1
- 238000010276 construction Methods 0.000 description 1
- 238000007405 data analysis Methods 0.000 description 1
- 238000013461 design Methods 0.000 description 1
- 230000000694 effects Effects 0.000 description 1
- 239000004973 liquid crystal related substance Substances 0.000 description 1
- 238000010801 machine learning Methods 0.000 description 1
- 238000003058 natural language processing Methods 0.000 description 1
- 239000013307 optical fiber Substances 0.000 description 1
- 238000011160 research Methods 0.000 description 1
- 239000004065 semiconductor Substances 0.000 description 1
- 230000001953 sensory effect Effects 0.000 description 1
- 238000006467 substitution reaction Methods 0.000 description 1
Classifications
-
- G—PHYSICS
- G08—SIGNALLING
- G08G—TRAFFIC CONTROL SYSTEMS
- G08G1/00—Traffic control systems for road vehicles
- G08G1/01—Detecting movement of traffic to be counted or controlled
- G08G1/0104—Measuring and analyzing of parameters relative to traffic conditions
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
- G06V10/00—Arrangements for image or video recognition or understanding
- G06V10/40—Extraction of image or video features
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
- G06V10/00—Arrangements for image or video recognition or understanding
- G06V10/70—Arrangements for image or video recognition or understanding using pattern recognition or machine learning
- G06V10/74—Image or video pattern matching; Proximity measures in feature spaces
-
- G—PHYSICS
- G08—SIGNALLING
- G08G—TRAFFIC CONTROL SYSTEMS
- G08G1/00—Traffic control systems for road vehicles
- G08G1/01—Detecting movement of traffic to be counted or controlled
- G08G1/0104—Measuring and analyzing of parameters relative to traffic conditions
- G08G1/0125—Traffic data processing
-
- G—PHYSICS
- G08—SIGNALLING
- G08G—TRAFFIC CONTROL SYSTEMS
- G08G1/00—Traffic control systems for road vehicles
- G08G1/09—Arrangements for giving variable traffic instructions
- G08G1/095—Traffic lights
Landscapes
- Engineering & Computer Science (AREA)
- Physics & Mathematics (AREA)
- General Physics & Mathematics (AREA)
- Theoretical Computer Science (AREA)
- Chemical & Material Sciences (AREA)
- Analytical Chemistry (AREA)
- Computer Vision & Pattern Recognition (AREA)
- Multimedia (AREA)
- Computing Systems (AREA)
- Databases & Information Systems (AREA)
- Evolutionary Computation (AREA)
- General Health & Medical Sciences (AREA)
- Medical Informatics (AREA)
- Software Systems (AREA)
- Artificial Intelligence (AREA)
- Health & Medical Sciences (AREA)
- Traffic Control Systems (AREA)
Abstract
本公开提供了一种信号灯的变更检测方法、装置及电子设备,人工智能技术领域,尤其涉及自动驾驶、图像处理和云计算领域。具体实现方案为:接收车载终端发送的第一灯组的N帧变更检测数据,其中N为大于1且小于等于设定值的自然数,N帧变更检测数据为车辆在不同行驶位置上所检测到的第一灯组的多帧数据;基于N帧变更检测数据对信号灯进行3D建模,得到第一灯组内的第一信号灯;识别第一灯组内第一信号灯中发生变更的第一目标信号灯。
Description
技术领域
本公开涉及人工智能技术领域,具体涉及自动驾驶、图像处理和云计算领域,尤其涉及一种信号灯的变更检测方法、装置及电子设备。
背景技术
信号灯有时也叫红绿灯,作为高精地图中最为重要的地图要素,在车辆自动驾驶过程中发挥着重要的作用,由于信号灯在现实生活中存在较高的变更频率,为了保证自动驾驶车辆的安全运行,需要保证信号灯的变更能够被及时发现,并在高精地图中进行快速更新或修复。
发明内容
本公开提供了一种信号灯的变更检测方法、装置及电子设备。
根据本公开的一方面,提供了一种信号灯的变更检测方法,执行主体为服务器,所述方法包括:
接收车载终端发送的第一灯组的N帧变更检测数据,其中所述N为大于1且小于等于设定值的自然数,所述N帧变更检测数据为所述车辆在不同行驶位置上所检测到的所述第一灯组的多帧数据;
基于所述N帧变更检测数据对信号灯进行3D建模,得到所述第一灯组内的第一信号灯;
识别所述第一灯组内第一信号灯中发生变更的第一目标信号灯。
根据本公开的另一方面,提供了一种信号灯的变更检测方法,由车载终端执行,所述方法包括:
获取车辆当前位置处的第一灯组的图像,所述第一灯组包括至少一个第一信号灯;
基于所述车辆当前位置,获取电子地图上与所述第一灯组匹配的第二灯组,所述第二灯组包括至少一个第二信号灯;
判断所述第一灯组与所述第二灯组是否一致,若所述第一灯组与所述第二灯组不一致,向服务器发送所述第一灯组的N帧变更检测数据;
其中所述N为大于1且小于等于设定值的自然数,所述N帧变更检测数据为所述车辆在不同行驶位置上所检测到的所述第一灯组的多帧数据,并用于信号灯进行3D建模。
根据本公开的第三方面,提供了一种信号灯的变更检测装置,执行主体为服务器,包括:
接收模块,用于接收车载终端发送的第一灯组的N帧变更检测数据,其中所述N为大于1且小于等于设定值的自然数,所述N帧变更检测数据为所述车辆在不同行驶位置上所检测到的所述第一灯组的多帧数据;
获取模块,用于基于所述N帧变更检测数据对信号灯进行3D建模,得到所述第一灯组内的第一信号灯;
识别模块,用于识别所述第一灯组中发生变更的第一目标信号灯。
根据本公开的第四方面,提供了一种信号灯的变更检测装置,由车载终端执行,包括:
图像获取模块,用于获取车辆当前位置处的第一灯组的图像,所述第一灯组包括至少一个第一信号灯;
匹配模块,用于基于所述车辆当前位置,获取电子地图上与所述第一灯组匹配的第二灯组,所述第二灯组包括至少一个第二信号灯;
判断模块,用于判断所述第一灯组与所述第二灯组是否一致,若所述第一灯组与所述第二灯组不一致,向服务器发送所述第一灯组的N帧变更检测数据;
其中所述N为大于1且小于等于设定值的自然数,所述N帧变更检测数据为所述车辆在不同行驶位置上所检测到的所述第一灯组的多帧数据,并用于信号灯进行3D建模。
根据本公开的第五方面,提供了一种电子设备,包括:至少一个处理器;以及与所述至少一个处理器通信连接的存储器;所述存储器存储有可被所述至少一个处理器执行的指令,所述指令被所述至少一个处理器执行,以使所述至少一个处理器能够执行第一方面或第二方面所述的方法。
根据本公开的第六方面,提供了一种存储有计算机指令的非瞬时计算机可读存储介质,所述计算机指令用于使所述计算机执行第一方面或第二方面所述的方法。
根据本公开的第七方面,提出了一种计算机程序产品,包括计算机程序,所述计算机程序在被处理器执行时,实现第一方面或第二方面所述方法的步骤。
应当理解,本部分所描述的内容并非旨在标识本公开的实施例的关键或重要特征,也不用于限制本公开的范围。本公开的其它特征将通过以下的说明书而变得容易理解。
附图说明
附图用于更好地理解本方案,不构成对本公开的限定。其中:
图1是本公开实施例所提供的一种信号灯的变更检测方法的示意图;
图2是本公开实施例所提供的另一种信号灯的变更检测方法的示意图;
图3是本公开实施例所提供的另一种信号灯的变更检测方法的示意图;
图4是本公开实施例所提供的另一种信号灯的变更检测方法的示意图;
图5是本公开实施例所提供的另一种信号灯的变更检测方法的示意图;
图6是本公开实施例所提供的另一种信号灯的变更检测方法的示意图;
图7是本公开实施例所提供的另一种信号灯的变更检测方法的示意图;
图8是本公开实施例所提供的一种信号灯的变更检测装置的结构示意图;
图9是本公开实施例所提供的另一种信号灯的变更检测装置的结构示意图;
图10是用来实现本公开实施例的信号灯的变更检测方法的电子设备的框图。
具体实施方式
以下结合附图对本公开的示范性实施例做出说明,其中包括本公开实施例的各种细节以助于理解,应当将它们认为仅仅是示范性的。因此,本领域普通技术人员应当认识到,可以对这里描述的实施例做出各种改变和修改,而不会背离本公开的范围和精神。同样,为了清楚和简明,以下的描述中省略了对公知功能和结构的描述。
人工智能(Artificial Intelligence,AI),是研究、开发用于模拟、延伸和扩展人的智能的理论、方法、技术及应用系统的一门新的技术科学,是智能学科重要的组成部分。该领域的研究包括机器人、语言识别、图像识别、自然语言处理和专家系统等,人工智能可以对人的意识、思维的信息过程的模拟。
自动驾驶(Autonomous Driving),是指采用先进的通信、计算机、网络和控制技术,对列车实现实时、连续控制。采用现代通信手段,直接面对列车,可实现车地间的双向数据通信,传输速率块,信息量大,后续追踪列车和控制中心可以及时获知前行列车的确切位置,使得运行管理更加灵活,控制更为有效,更加适应列车自动驾驶的需求。
图像处理(Image Processing),用计算机对图像进行分析,以达到所需结果的技术。又称影像处理。图像处理一般指数字图像处理。数字图像是指用工业相机、摄像机、扫描仪等设备经过拍摄得到的一个大的二维数组,该数组的元素称为像素,其值称为灰度值。图像处理技术一般包括图像压缩,增强和复原,匹配、描述和识别等部分。
云计算(Cloud computing),是分布式计算的一种,指的是通过网络“云”将巨大的数据计算处理程序分解成无数个小程序;云计算可以通过计算机网络形成计算能力极强的系统,可存储、集合相关资源并可以按需配置,向用户提供个性化服务。
图1是本公开实施例所提供的一种信号灯的变更检测方法的示意图。如图1所示,执行主体为服务器,该方法包括:
S101,接收车载终端发送的第一灯组的N帧变更检测数据。
其中N为大于1且小于等于设定值的自然数,N帧变更检测数据为车辆在不同行驶位置上所检测到的第一灯组的多帧数据。
在一些实现中,车载终端是车辆监控管理系统的前端设备,也可以称为车辆调度监控终端,具有定位、通信、车辆行驶记录等多项功能,可以用于记录行驶过程中的相关数据,例如行驶路线,行驶位置以及行驶当前所处环境等。
在一些实现中,服务器可以是用于提供运算和分析等服务的计算机,可以对接收到的数据进行存储、计算和处理。
可以理解的是,车载终端可以对第一灯组进行检测和初步识别,例如通过车载终端携带的相机拍摄行驶过程中的图像,该图像中包括信号灯,对拍摄的图像进行目标识别确定图像中的信号灯,第一灯组中可以是车载终端初步判断后的可能发生变更的信号灯,信号灯的变更可以指信号灯的位置变动、信号灯的新增或者信号灯的删除等,第一灯组中可以包括一个或多个信号灯。
可选地,车载终端中可以包括标准的地图数据或路况数据,以便于根据该地图数据或者路况数据作为标准数据,对比车载终端实时获取的数据是否为变更数据。在一些实现中,变更检测数据可以是指车载终端在识别到信号灯时采集的数据。
可选地,变更检测数据可以是图像数据或者是点云数据等能够反映信号灯所在位置的数据。可选地,信号灯的N帧变更检测数据可以是该信号灯周围环境中,不同车辆位置上检测的数据,也就是不同车辆位置上采集的图像数据或者是点云数据。
S102,基于N帧变更检测数据对信号灯进行3D建模,得到第一灯组内的第一信号灯。
可选地,可以通过常用的建模软件或者通过摄影测量等方法进行3D建模,例如采用目标检测模型(DETR3D),将采集到的2D数据反投影回3D空间,实现3D信息的重建。
可以理解的是,N帧变更检测数据是车辆在不同位置检测的数据,因此通过对N帧变更检测数据进行3D建模,可以还原出该信号灯附近的真实情况,得到第一信号灯,第一信号灯的数量至少为一个。其中,第一信号灯可能是正常信号灯,也可能是发生变更的信号灯,因此需要对第一信号灯进行确定,判断其是否为发生变更的信号灯。
S103,识别第一灯组内第一信号灯中发生变更的第一目标信号灯。
在确定出第一灯组内的第一信号灯之后,对第一信号灯是否为发生变更的信号灯进行确定。可选地,可以将根据3D建模确定的第一信号灯,与标准的地图数据或路况数据进行对比,例如将第一信号灯从3D空间投影到地图上,判断是否存在与该第一信号灯对应的信号灯,由于地图数据或路况数据中包括了信号灯的位置,因此可以根据确定是否存在对应的信号灯,确定第一信号灯是否确定发生变更,例如第一信号灯投影到地图上不存在相对应的信号灯,则可以确定该第一信号灯为发生变更的第一目标信号灯。
本公开实施例中,通过接收车载终端发送的第一灯组的N帧变更检测数据进行分析,减少了对大量数据分析的计算成本,并基于变更检测数据进行3D建模,根据重建的3D信息得到第一信号灯并进行识别,去诶的那个第一信号灯是否为发生变更的第一目标信号灯,以3D信息进行信号灯变更检测的识别,提高对信号灯变更检测的效率和准确性。
图2为本公开实施例所提供的另一种信号灯的变更检测方法的示意图。如图2所示,执行主体为服务器,该方法包括:
S201,接收车载终端发送的第一灯组的N帧变更检测数据。
本公开实施例中,步骤S201的实现方法可以分别采用本公开的各实施例中的任一种方式实现,在此并不对此作出限定,也不再赘述。
S202,基于N帧变更检测数据对信号灯进行3D建模,得到第一灯组内的第一信号灯。
本公开实施例中,步骤S202的实现方法可以分别采用本公开的各实施例中的任一种方式实现,在此并不对此作出限定,也不再赘述。
S203,识别第一灯组内第一信号灯中发生变更的第一目标信号灯。
本公开实施例中,步骤S203的实现方法可以分别采用本公开的各实施例中的任一种方式实现,在此并不对此作出限定,也不再赘述。
S204,从电子地图中确定与第一灯组匹配的第二灯组。
可选地,电子地图可以是高精地图或者卫星地图等,用于辅助车辆进行自动驾驶的地图。在一些实现中,电子地图中可以包括信号灯相关信息,例如信号灯所在位置和信号灯数量等信息。在一些实现中,电子地图可以存储于服务器中,或者是存储于车载终端中,车载终端可以将该电子地图发送给服务器。
进一步的,可以在电子地图中确定与第一灯组匹配的第二灯组,也就是说,将车载终端检测到的信号灯与电子地图中存在的信号灯进行匹配,确定第一灯组中每个信号灯在电子地图中对应的信号灯,得到第二灯组。
可选地,第一灯组和第二灯组的匹配方法可以是将第一灯组投影至电子地图中,确定第一灯组在电子地图中的位置,从而得到电子地图中与第一灯组匹配的第二灯组。
S205,基于第一目标信号灯,对第二灯组内的信号灯进行更新操作。
可以理解的是,第一灯组中可能存在发生变更的第一目标信号灯,因此在第一灯组和第二灯组进行匹配时,第一灯组中发生变更的第一目标信号灯可能不存在对应的第二灯组,也就是说,电子地图中的第二灯组可能不够完整,因此可以基于第一目标信号灯对第二灯组内的信号灯进行更新。
可选地,可以基于第一目标信号灯的变更类型,对第二灯组内的信号灯进行更新操作。
可选地,变更类型可以包括但不限于:信号灯新增、信号灯删除和信号灯移动,在不同变更类型下对第二灯组内的信号灯进行针对性的更新,更新效果更好。
在一些实现中,响应于变更类型为信号灯新增,基于第一目标信号灯的第一3D位置,在第二灯组中增加与第一目标信号灯匹配的第二目标信号灯。也就是说,若此时第一目标信号灯的变更类型为信号灯新增,则在第二灯组中增加与第一目标信号灯匹配的第二目标信号灯,该第二目标信号灯的位置可以由第一目标信号灯的第一3D位置投影到电子地图中得到;其中,第一目标信号灯的第一3D位置是在3D建模时得到的位置。
在另一些实现中,响应于变更类型为信号灯删除,确定第二灯组中与第一目标信号灯匹配的第二目标信号灯,并从第二灯组中删除第二目标信号灯。也就是说,若此时第一目标信号灯的变更类型为信号灯删除,则在第二灯组中删除与第一目标信号灯匹配的第二目标信号灯。
在另一些实现中,响应于变更类型为信号灯移动,确定第二灯组中与第一目标信号灯匹配的第二目标信号灯,并基于第二目标信号灯的第二3D位置,对第二目标信号灯进行位置移动。也就是说,若此时第一目标信号灯的变更类型为信号灯移动,则确定第二灯组中与第一目标信号灯匹配的第二目标信号灯,并将第二目标信号灯移动至该第二目标信号灯对应的第二3D位置上;其中,第二3D位置可以是基于第一目标信号灯的第一3D位置投影在电子地图上得到的位置。
本公开实施例中,在确定出第一灯组中发生变更的第一目标信号灯之后,根据发生变更的第一目标信号灯对电子地图进行更新,去诶的那个电子地图中与第一灯组对应的第二灯组,根据第一目标信号灯的新增、删除或移动灯不同的变更类型,在电子地图中对第二灯组中的第二目标信号灯进行对应更新,对电子地图的更新确保电子地图中信号灯的精确度,以保证自动驾驶车辆基于电子地图的行驶安全性,并为后续的信号灯变更提供良好依据。
图3是本公开实施例所提供的另一种信号灯的变更检测方法的示意图。如图3所示,执行主体为服务器,该方法包括:
S301,接收车载终端发送的第一灯组的N帧变更检测数据。
可选地,变更检测数据可以包括第一灯组的采样图像和相机内外参数,能够真实获取信号灯周围的数据以及图像与现实的对应关系;可以理解的是,第一灯组的采样图像可以是在对应信号灯周围采集的图像;例如车辆的视野前方出现信号灯时,在车辆的行驶过程中采集不同车辆位置的多张图像,作为采样图像;相机内参是与相机自身特性相关的参数,例如相机的焦距、相机大小等,相机外参是在世界坐标系中的参数,比如相机的位置和旋转方向等;相机内外参可以用于获取投影矩阵,以反映图像和现实之间的对应关系。
可选地,变更检测数据还可以包括从全局点云数据中截取的第一信号灯的局部点云数据。可以理解的是,点云数据是指在一个三维坐标系中的一组向量的集合,每一个点可以包含有三维坐标、颜色信息或者反射强度信息。
在一些实现中,全局点云数据是包括背景和信号灯的全局的点云数据,为了减少数据传输量,提高处理效率,可以对全局点云数据进行裁剪,仅保留信号灯周围的局部点云数据,也就是截取第一信号灯的局部点云数据,对局部点云数据进行后续分析。
本公开实施例中,步骤S301的实现方法可以分别采用本公开的各实施例中的任一种方式实现,在此并不对此作出限定,也不再赘述。
S302,根据局部点云数据,确定第一信号灯的虚拟3D位置,并基于虚拟3D位置,从局部点云数据中提取第一特征信息。
在一些实现中,在进行3D建模时,可以根据局部点云数据生成第一信号灯的虚拟3D位置,以该虚拟3D位置进行后续分析。
可选地,可以采用稀疏卷积模型(Sparse Convolution)进行第一特征信息的提取。第一特征信息是根据局部点云数据提取出的点云特征信息,例如点的法向量、曲率或者点云密度、点云分布等特征。
S303,基于虚拟3D位置和相机内外参,从采样图像中提取第一信号灯的第二特征信息。
在一些实现中,可以基于虚拟3D位置和相机内外参,获取虚拟3D位置在图像中的2D位置;可选地,可以基于相机内外参生成投影矩阵,根据该投影矩阵将虚拟3D位置投影到图像中,得到虚拟3D位置在图像中的2D位置,基于2D位置可以有针对性的从采样图像中提取第二特征信息。第二特征信息是根据采样图像提取出的图像特征信息。可选地,第二特征信息可以是图像的纹理特征、颜色特征或轮廓特征等信息。
S304,基于第一特征信息和第二特征信息对信号灯进行3D建模,得到第一灯组内的第一信号灯的第一3D位置。
可选地,可以对第一特征信息和第二特征信息进行融合,得到融合特征。在一些实现中,可以将第一特征信息和第二特征信息相加实现融合,还可以对第一特征信息和第二特征信息进行拼接实现融合,得到融合特征。
进一步地,根据融合特征对信号灯进行3D建模,融合特征中包括了图像特征和点云特征,能够更加准确的对信号灯进行3D建模,得到第一灯组内的第一信号灯以及第一信号灯的第一3D位置。
在一些实现中,若变更检测数据中不存在点云数据,也就是变更检测数据只包括采样图像和相机内外参数,则根据采样图像和相机内外参数进行3D建模,提供建模处理速率,进而更加快捷的得到第一信号灯的第一3D位置。
S305,识别第一灯组内第一信号灯中发生变更的第一目标信号灯。
本公开实施例中,步骤S305的实现方法可以分别采用本公开的各实施例中的任一种方式实现,在此并不对此作出限定,也不再赘述。
本公开实施例中,在进行3D建模时,增加点云特征信息进行信号灯变更的分析,通过点云数据提取第一特征信息,并确定在图像中对应的第二特征信息,将第一特征信息和第二特征信息融合,也就是将点云特征和图像特征融合进行3D建模,提高3D信息重建的完整性和精度,进而可以基于更加准确的3D信息进行变更信号灯的检测和识别,提高信号灯检测的准确性。
图4是本公开实施例所提供的另一种信号灯的变更检测方法的示意图。如图4所示,执行主体为服务器,该方法包括:
S401,接收车载终端发送的第一灯组的N帧变更检测数据。
本公开实施例中,步骤S401的实现方法可以分别采用本公开的各实施例中的任一种方式实现,在此并不对此作出限定,也不再赘述。
S402,基于N帧变更检测数据对信号灯进行3D建模,得到第一灯组内的第一信号灯。
本公开实施例中,步骤S402的实现方法可以分别采用本公开的各实施例中的任一种方式实现,在此并不对此作出限定,也不再赘述。
S403,确定电子地图中与第一灯组匹配的第二灯组,其中第二灯组包括第二信号灯。
可选地,电子地图可以是高精地图或者卫星地图等,用于辅助车辆进行自动驾驶的地图。
在一些实现中,电子地图中可以包括信号灯相关信息,例如信号灯所在位置和信号灯数量等信息。在一些实现中,电子地图可以存储于服务器中,或者是存储于车载终端中,车载终端可以将该电子地图发送给服务器。
进一步的,可以在电子地图中确定与第一灯组匹配的第二灯组,也就是说,将车载终端检测到的信号灯与电子地图中存在的信号灯进行匹配,确定第一灯组中每个信号灯在电子地图中对应的信号灯,得到第二灯组。
可选地,第一灯组和第二灯组的匹配方法可以是将第一灯组投影至电子地图中,确定第一灯组在电子地图中的位置,从而得到电子地图中与第一灯组匹配的第二灯组,第二灯组中包括第二信号灯。
S404,对第一信号灯和第二信号灯进行匹配,识别第一信号灯中发生变更的第一目标信号灯。
在一些实现中,可以基于第一信号灯的3D建模,确定第一信号灯的第一3D位置;从电子地图中确定第二信号灯的第二3D位置;对第一3D位置和第二3D位置进行匹配,识别第一灯组中发生变更的第一目标信号灯。
第一3D位置是指信号灯在3D建模时的位置信息,第二3D位置是指信号灯在电子地图中的位置信息;将第一3D位置和第二3D位置进行匹配,可以理解的是,若第一3D位置和第二3D位置可以匹配成功,则确定第一信号灯和第二信号灯匹配成功,可以确定第一信号灯未发生变更。
可选地,可以将第一3D位置向电子地图上投影,确定在电子地图上的投影位置是否有对应的第二信号灯,若存在,则说明第一3D位置存在匹配的第二3D位置,确定该第一3D位置对应的第一信号灯未发生变更;相应的,若不存在,则说明第一3D位置不存在匹配的第二3D位置,确定该第一3D位置对应的第一信号灯是发生变更的第一目标信号灯。
在一些实现中,还可以获取车载终端发送的变更指示信息,变更指示信息用于指示发生变更的第一目标信号灯的2D位置。也就是说,车载终端可以基于采集到的变更检测数据与其所存储的地图数据进行对比,若识别到当前采集的图像中的第一信号灯在地图数据中不存在对应的信号灯,则车载终端可以生成变更指示信息,该变更指示信息指示当前位置的信号灯为发生变更的第一目标信号灯。
本公开实施例中,通过第一灯组和第二灯组进行匹配,确定第二信号灯,并基于第一3D位置和第二3D位置匹配,确定不存在匹配的第二信号灯的第一信号灯,从而确定发送变更的第一目标信号灯,提高变更信号灯检测的准确性;还可以直接接收车载终端发送的变更指示信息,基于变更指示信息确定变更信号灯的位置,基于3D建模或车载终端两种方式确定变更信号灯,实现信号灯变更检测的效率,并保证对变更信号灯检测的准确率。
图5是本公开实施例所提供的另一种信号灯的变更检测方法的示意图。如图5所示,执行主体为服务器,该方法包括:
S501,接收车载终端发送的第一灯组的N帧变更检测数据。
本公开实施例中,步骤S501的实现方法可以分别采用本公开的各实施例中的任一种方式实现,在此并不对此作出限定,也不再赘述。
S502,根据局部点云数据,确定第一信号灯的虚拟3D位置,并基于虚拟3D位置,从局部点云数据中提取第一特征信息。
本公开实施例中,步骤S502的实现方法可以分别采用本公开的各实施例中的任一种方式实现,在此并不对此作出限定,也不再赘述。
S503,基于虚拟3D位置和相机内外参,从采样图像中提取第一信号灯的第二特征信息。
本公开实施例中,步骤S503的实现方法可以分别采用本公开的各实施例中的任一种方式实现,在此并不对此作出限定,也不再赘述。
S504,基于第一特征信息和第二特征信息对信号灯进行3D建模,得到第一灯组内的第一信号灯的第一3D位置。
本公开实施例中,步骤S504的实现方法可以分别采用本公开的各实施例中的任一种方式实现,在此并不对此作出限定,也不再赘述。
S505,确定电子地图中与第一灯组匹配的第二灯组,其中第二灯组包括第二信号灯。
本公开实施例中,步骤S505的实现方法可以分别采用本公开的各实施例中的任一种方式实现,在此并不对此作出限定,也不再赘述。
S506,对第一信号灯和第二信号灯进行匹配,识别第一信号灯中发生变更的第一目标信号灯。
本公开实施例中,步骤S506的实现方法可以分别采用本公开的各实施例中的任一种方式实现,在此并不对此作出限定,也不再赘述。
S507,基于第一目标信号灯,对第二灯组内的信号灯进行更新操作。
本公开实施例中,步骤S507的实现方法可以分别采用本公开的各实施例中的任一种方式实现,在此并不对此作出限定,也不再赘述。
本公开实施例中,在进行3D建模时,增加点云特征信息,将点云特征和图像特征融合进行3D建模,提高3D信息重建的完整性和精度,基于第一3D位置和第二3D位置匹配,确定不存在匹配的第二信号灯的第一信号灯,从而确定发送变更的第一目标信号灯,提高变更信号灯检测的准确性;在确定出第一目标信号灯之后,还可以对电子地图进行更新,确保电子地图中信号灯的精确度,以保证自动驾驶车辆基于电子地图的行驶安全性。
图6是本公开实施例所提供的另一种信号灯的变更检测方法的示意图。如图6所示,由车载终端执行,该方法包括:
S601,获取车辆当前位置处的第一灯组的图像。
其中,第一灯组包括至少一个第一信号灯。
可选地,第一灯组的图像可以是车辆所携带的摄像装置实时采集得到的;在一些实现中,可以在车辆行驶中识别到信号灯时进行图像采集,该图像中包括信号灯。
在一些实现中,为了提高分析准确性,可以采集多帧图像对信号灯进行分析。其中,多帧图像为同一个信号灯所对应的图像,为了保证采集图像具有分析意义,应确保多帧图像为车辆行驶中不同位置采集的同一个信号灯所对应的图像,例如不同视角的信号灯图像,以便于基于图像进行准确建模。
S602,基于车辆当前位置,获取电子地图上与第一灯组匹配的第二灯组。
可选地,车载终端中可以携带电子地图,该电子地图用于辅助车辆进行自动驾驶和路径规划等。
可选地,电子地图可以是高精地图或者卫星地图等。可以理解的是,该电子地图中包括信号灯以及信号灯所在位置,因此根据车辆当前位置,可以在电子地图上确定与第一灯组匹配的第二灯组。
在一些实现中,第一灯组中第一信号灯与匹配的第二灯组中第二信号灯应当是同一位置的信号灯;其中,第二灯组中包括至少一个第二信号灯。
S603,判断第一灯组与第二灯组是否一致,若第一灯组与第二灯组不一致,向服务器发送第一灯组的N帧变更检测数据。
其中,N为大于1且小于等于设定值的自然数,N帧变更检测数据为车辆在不同行驶位置上所检测到的第一灯组的多帧数据,并用于信号灯进行3D建模。
当信号灯不存在变更时,车辆行驶中采集的第一灯组应当与电子地图中所包括的第二灯组一致,也就是说,车辆行驶中识别到的第一信号灯,在电子地图中均可以确定对应位置的第二信号灯。
当信号灯存在变更时,例如信号灯的新增、删除或者移动,则车辆行驶中采集的第一灯组于电子地图中的第二灯组会存在差异,例如第一灯组和第二灯组中的信号灯数量不同或者信号灯的位置无法全部对应,也就是第一灯组中存在发生变更的信号灯。
进一步地,的那个第一灯组于第二灯组不一致时,将车载终端采集到的第一灯组的相关数据作为变更检测数据发送给服务器进行分析;变更检测数据可以是N帧第一灯组的图像数据。
本公开实施例中,在车辆行驶过程中根据车载终端采集的图像数据和携带的电子地图进行信号灯的匹配分析,确定采集的第一灯组和电子地图中的第二地图是否一致,从而对信号灯是否发生变更进行初步判断,并将第一灯组的相关变更检测数据上传至服务器进行分析,将初步判断变更的数据进行上传分析,避免了大量数据上传的时间消耗,减少分析成本的同时,确保信号灯变更检测的精度。
图7为本公开实施例所提供的另一种信号灯的变更检测方法的示意图。如图7所示,由车载终端执行,该方法包括:
S701,获取车辆当前位置处的第一灯组的图像。
本公开实施例中,步骤S701的实现方法可以分别采用本公开的各实施例中的任一种方式实现,在此并不对此作出限定,也不再赘述。
S702,基于车辆当前位置,获取电子地图上与第一灯组匹配的第二灯组。
本公开实施例中,步骤S702的实现方法可以分别采用本公开的各实施例中的任一种方式实现,在此并不对此作出限定,也不再赘述。
S703,从电子地图中确定第二灯组内第二信号灯的第二3D位置。
可以理解的是,电子地图上每个位置点具有对应的坐标信息,因此根据电子地图中每个第二信号灯所对应的点,确定该第二信号灯的第二3D位置。
S704,基于相机内外参将第二3D位置向图像上进行映射,得到第二信号灯的2D位置。
在一些实现中,相机内外参可以用于反映图像和现实之间的映射关系,因此可以基于相机内参和相机外参,将电子地图上第二3D位置向相机采集图像上映射,得到第二信号灯在图像上的2D位置。
S705,根据第一信号灯的2D位置和第二信号灯的2D位置,确定第一灯组与第二灯组是否一致。
可以理解的是,第一信号灯的2D位置也就是图像中第一信号灯的位置,将第二信号灯的3D位置投影到图像之后,得到对应第二信号灯的2D位置;若第一信号灯的2D位置和第二信号灯的2D位置重合,则可以确定该第一信号灯和第二信号灯为同一个信号灯。
在一些实现中,若第一灯组中所有第一信号灯的2D位置和第二灯组中所有第二信号灯的2D位置均存在对应,则确定第一灯组和第二灯组一致。
在另一些实现中,若第一灯组和第二灯组中存在不对应的第一信号灯和第二信号灯,例如存在第一信号灯的2D位置没有对应的第二信号灯,或者第二信号灯的2D位置不存在对应的第一信号灯,则确定第一灯组和第二灯组不一致。
S706,若第一灯组与第二灯组不一致,向服务器发送第一灯组的N帧变更检测数据。
第一灯组和第二灯组不一致时,说明可能存在第一信号灯的2D位置没有对应的第二信号灯,或者第二信号灯的2D位置不存在对应的第一信号灯的情况,也就是第一灯组可能存在信号灯删除或新增的情况,将第一灯组的N帧变更检测数据发送至服务器进行分析。
在一些实现中,向服务器发送第一灯组的N帧变更检测数据之前,还可以获取第一灯组与第二灯组不一致的判定时刻,并基于判定时刻,确定N帧变更检测数据。可选地,可以选择判定时刻之前的多帧数据作为变更检测数据,还可以选择判定时刻之后的多帧数据作为变更检测数据,或者选择判定时刻前后各多帧数据作为变更检测数据,提供多种可能的变更检测数据选择,适用性更强。
可选地,变更检测数据可以包括第一灯组的采样图像和相机内外参数;以便于根据采样图像和相机内外参数进行3D建模分析,得到较为准确的信号灯变更检测结果。
可选地,变更检测数据还可以包括第一灯组的采样图像和相机内外参数,以及从全局点云数据中截取的第一信号灯的局部点云数据;结合局部点云数据分析,提高对信号灯变更检测的准确性。其中,局部点云数据可以是从全局点云数据中截取的第一信号灯的点云数据,以减少全局点云数据传输的传输压力,仅发送第一信号灯的局部点云数据,提高数据传输的效率。
在一些实现中,还可以向服务器发送变更指示信息,其中变更指示信息用于指示发生变更的第一目标信号灯的2D位置。也就是说,当车载终端确定第一灯组和第二灯组不一致时,生成变更指示信息,该变更指示信息用于指示发生变更的第一目标信号灯的2D位置,由车载终端直接确定信号灯的变更,提高信号灯检测效率。
本公开实施例中,在电子地图中确定与第一灯组匹配的第二灯组后,可以基于电子地图确定第二灯组中每个第二信号灯的第二3D位置,进而投影确定第二信号灯的2D位置,根据第一信号灯的2D位置和第二信号灯的2D位置,判断第一灯组和第二灯组是否一致,从而确定是否向服务器发送变更检测数据,减少无意义数据的传输,提高对信号灯变更检测的效率,在变更检测数据中可以包括图像数据、相机内外参和点云数据,以增加对信号灯变更检测的精度。
图8是本公开实施例所提供的一种信号灯的变更检测装置的结构示意图。如图8所示,执行主体为服务器,该信号灯的变更检测装置800包括:
接收模块801,用于接收车载终端发送的第一灯组的N帧变更检测数据,其中N为大于1且小于等于设定值的自然数,N帧变更检测数据为车辆在不同行驶位置上所检测到的第一灯组的多帧数据;
获取模块802,用于基于N帧变更检测数据对信号灯进行3D建模,得到第一灯组内的第一信号灯;
识别模块803,用于识别第一灯组内第一信号灯中发生变更的第一目标信号灯。
在一些实现中,识别模块之后,还包括:
从电子地图中确定与第一灯组匹配的第二灯组;
基于第一目标信号灯,对第二灯组内的信号灯进行更新操作。
在一些实现中,识别模块803,包括:
基于第一目标信号灯的变更类型,对第二灯组内的信号灯进行更新操作。
在一些实现中,识别模块803,包括:
响应于变更类型为信号灯新增,基于第一目标信号灯的第一3D位置,在第二灯组中增加与第一目标信号灯匹配的第二目标信号灯;或者,
响应于变更类型为信号灯删除,确定第二灯组中与第一目标信号灯匹配的第二目标信号灯,并从第二灯组中删除第二目标信号灯;或者,
响应于变更类型为信号灯移动,确定第二灯组中与第一目标信号灯匹配的第二目标信号灯,并基于第二目标信号灯的第二3D位置,对第二目标信号灯进行位置移动。
在一些实现中,变更检测数据包括第一灯组的采样图像和相机内外参数。
在一些实现中,获取模块802,包括:
对采样图像和相机内外参数进行3D建模,得到第一信号灯的第一3D位置。
在一些实现中,变更检测数据还包括从全局点云数据中截取的第一信号灯的局部点云数据,其中,获取模块802,包括:
根据局部点云数据,确定第一信号灯的虚拟3D位置,并基于虚拟3D位置,从局部点云数据中提取第一特征信息;
基于虚拟3D位置和相机内外参,从采样图像中提取第一信号灯的第二特征信息;
基于第一特征信息和第二特征信息对信号灯进行3D建模,得到第一灯组内的第一信号灯的第一3D位置。
在一些实现中,获取模块802,包括:
基于虚拟3D位置和相机内外参,获取虚拟3D位置在图像中的2D位置;
基于2D位置从采样图像中提取第二特征信息。
在一些实现中,识别模块803,包括:
确定电子地图中与第一灯组匹配的第二灯组,其中第二灯组包括第二信号灯;
对第一信号灯和第二信号灯进行匹配,识别第一信号灯中发生变更的第一目标信号灯。
在一些实现中,识别模块803,包括:
基于第一信号灯的3D建模,确定第一信号灯的第一3D位置;
从电子地图中确定第二信号灯的第二3D位置;
对第一3D位置和第二3D位置进行匹配,识别第一灯组中发生变更的第一目标信号灯。
在一些实现中,识别模块803,包括:
获取车载终端发送的变更指示信息,变更指示信息用于指示发生变更的第一目标信号灯的2D位置。
本公开实施例中,通过接收车载终端发送的第一灯组的N帧变更检测数据进行分析,减少了对大量数据分析的计算成本,并基于变更检测数据进行3D建模,根据重建的3D信息得到第一信号灯并进行识别,去诶的那个第一信号灯是否为发生变更的第一目标信号灯,以3D信息进行信号灯变更检测的识别,提高对信号灯变更检测的效率和准确性。
图9是本公开实施例所提供的另一种信号灯的变更检测装置的结构示意图。如图9所示,由车载终端执行,该信号灯的变更检测装置900包括:
图像获取模块901,用于获取车辆当前位置处的第一灯组的图像,第一灯组包括至少一个第一信号灯;
匹配模块902,用于基于车辆当前位置,获取电子地图上与第一灯组匹配的第二灯组,第二灯组包括至少一个第二信号灯;
判断模块903,用于判断第一灯组与第二灯组是否一致,若第一灯组与第二灯组不一致,向服务器发送第一灯组的N帧变更检测数据;
其中N为大于1且小于等于设定值的自然数,N帧变更检测数据为车辆在不同行驶位置上所检测到的第一灯组的多帧数据,并用于信号灯进行3D建模。
在一些实现中,判断模块903,包括:
从电子地图中确定第二灯组内第二信号灯的第二3D位置;
基于相机内外参将第二3D位置向图像上进行映射,得到第二信号灯的2D位置;
根据第一信号灯的2D位置和第二信号灯的3D2D位置,确定第一灯组与第二灯组是否一致。
在一些实现中,判断模块903,还包括:
获取第一灯组与第二灯组不一致的判定时刻,并基于判定时刻,确定N帧变更检测数据。
在一些实现中,变更检测数据包括第一灯组的采样图像和相机内外参数;或者,变更检测数据包括第一灯组的采样图像和相机内外参数,以及从全局点云数据中截取的第一信号灯的局部点云数据。
在一些实现中,装置900还包括:
获取全局点云数据,并从全局点云数据中截取第一信号灯的局部点云数据。
在一些实现中,装置900还包括:
向服务器发送变更指示信息,其中变更指示信息用于指示发生变更的第一目标信号灯的2D位置。
本公开实施例中,在车辆行驶过程中根据车载终端采集的图像数据和携带的电子地图进行信号灯的匹配分析,确定采集的第一灯组和电子地图中的第二地图是否一致,从而对信号灯是否发生变更进行初步判断,并将第一灯组的相关变更检测数据上传至服务器进行分析,将初步判断变更的数据进行上传分析,避免了大量数据上传的时间消耗,减少分析成本的同时,确保信号灯变更检测的精度。
本公开的技术方案中,所涉及的用户个人信息的获取,存储和应用等,均符合相关法律法规的规定,且不违背公序良俗。
根据本公开的实施例,本公开还提供了一种电子设备、一种可读存储介质和一种计算机程序产品。
图10示出了可以用来实施本公开的实施例的示例电子设备1000的示意性框图。电子设备旨在表示各种形式的数字计算机,诸如,膝上型计算机、台式计算机、工作台、个人数字助理、服务器、刀片式服务器、大型计算机、和其它适合的计算机。电子设备还可以表示各种形式的移动装置,诸如,个人数字处理、蜂窝电话、智能电话、可穿戴设备和其它类似的计算装置。本文所示的部件、它们的连接和关系、以及它们的功能仅仅作为示例,并且不意在限制本文中描述的和/或者要求的本公开的实现。
如图10所示,设备1000包括计算单元1001,其可以根据存储在只读存储器(ROM)1002中的计算机程序或者从存储单元1008加载到随机访问存储器(RAM)1003中的计算机程序,来执行各种适当的动作和处理。在RAM 1003中,还可存储设备1000操作所需的各种程序和数据。计算单元1001、ROM 1002以及RAM 1003通过总线1004彼此相连。输入/输出(I/O)接口1005也连接至总线1004。
设备1000中的多个部件连接至I/O接口1005,包括:输入单元1006,例如键盘、鼠标等;输出单元1007,例如各种类型的显示器、扬声器等;存储单元1008,例如磁盘、光盘等;以及通信单元1009,例如网卡、调制解调器、无线通信收发机等。通信单元1009允许设备1000通过诸如因特网的计算机网络和/或各种电信网络与其他设备交换信息/数据。
计算单元1001可以是各种具有处理和计算能力的通用和/或专用处理组件。计算单元1001的一些示例包括但不限于中央处理单元(CPU)、图形处理单元(GPU)、各种专用的人工智能(AI)计算芯片、各种运行机器学习模型算法的计算单元、数字信号处理器(DSP)、以及任何适当的处理器、控制器、微控制器等。计算单元1001执行上文所描述的各个方法和处理,例如信号灯的变更检测方法。例如,在一些实施例中,信号灯的变更检测方法可被实现为计算机软件程序,其被有形地包含于机器可读介质,例如存储单元1008。在一些实施例中,计算机程序的部分或者全部可以经由ROM 1002和/或通信单元1009而被载入和/或安装到设备1000上。当计算机程序加载到RAM 1003并由计算单元1001执行时,可以执行上文描述的信号灯的变更检测方法的一个或多个步骤。备选地,在其他实施例中,计算单元1001可以通过其他任何适当的方式(例如,借助于固件)而被配置为执行信号灯的变更检测方法。
本文中以上描述的系统和技术的各种实施方式可以在数字电子电路系统、集成电路系统、场可编程门阵列(FPGA)、专用集成电路(ASIC)、专用标准产品(ASSP)、芯片上系统的系统(SOC)、负载可编程逻辑设备(CPLD)、计算机硬件、固件、软件、和/或它们的组合中实现。这些各种实施方式可以包括:实施在一个或者多个计算机程序中,该一个或者多个计算机程序可在包括至少一个可编程处理器的可编程系统上执行和/或解释,该可编程处理器可以是专用或者通用可编程处理器,可以从存储系统、至少一个输入装置、和至少一个输出装置接收数据和指令,并且将数据和指令传输至该存储系统、该至少一个输入装置、和该至少一个输出装置。
用于实施本公开的方法的程序代码可以采用一个或多个编程语言的任何组合来编写。这些程序代码可以提供给通用计算机、专用计算机或其他可编程数据处理装置的处理器或控制器,使得程序代码当由处理器或控制器执行时使流程图和/或框图中所规定的功能/操作被实施。程序代码可以完全在机器上执行、部分地在机器上执行,作为独立软件包部分地在机器上执行且部分地在远程机器上执行或完全在远程机器或服务器上执行。
在本公开的上下文中,机器可读介质可以是有形的介质,其可以包含或存储以供指令执行系统、装置或设备使用或与指令执行系统、装置或设备结合地使用的程序。机器可读介质可以是机器可读信号介质或机器可读储存介质。机器可读介质可以包括但不限于电子的、磁性的、光学的、电磁的、红外的、或半导体系统、装置或设备,或者上述内容的任何合适组合。机器可读存储介质的更具体示例会包括基于一个或多个线的电气连接、便携式计算机盘、硬盘、随机存取存储器(RAM)、只读存储器(ROM)、可擦除可编程只读存储器(EPROM或快闪存储器)、光纤、便捷式紧凑盘只读存储器(CD-ROM)、光学储存设备、磁储存设备、或上述内容的任何合适组合。
为了提供与用户的交互,可以在计算机上实施此处描述的系统和技术,该计算机具有:用于向用户显示信息的显示装置(例如,CRT(阴极射线管)或者LCD(液晶显示器)监视器);以及键盘和指向装置(例如,鼠标或者轨迹球),用户可以通过该键盘和该指向装置来将输入提供给计算机。其它种类的装置还可以用于提供与用户的交互;例如,提供给用户的反馈可以是任何形式的传感反馈(例如,视觉反馈、听觉反馈、或者触觉反馈);并且可以用任何形式(包括声输入、语音输入或者、触觉输入)来接收来自用户的输入。
可以将此处描述的系统和技术实施在包括后台部件的计算系统(例如,作为数据服务器)、或者包括中间件部件的计算系统(例如,应用服务器)、或者包括前端部件的计算系统(例如,具有图形用户界面或者网络浏览器的用户计算机,用户可以通过该图形用户界面或者该网络浏览器来与此处描述的系统和技术的实施方式交互)、或者包括这种后台部件、中间件部件、或者前端部件的任何组合的计算系统中。可以通过任何形式或者介质的数字数据通信(例如,通信网络)来将系统的部件相互连接。通信网络的示例包括:局域网(LAN)、广域网(WAN)和互联网。
计算机系统可以包括客户端和服务器。客户端和服务器一般远离彼此并且通常通过通信网络进行交互。通过在相应的计算机上运行并且彼此具有客户端-服务器关系的计算机程序来产生客户端和服务器的关系。服务器可以是云服务器,也可以为分布式系统的服务器,或者是结合了区块链的服务器。
应该理解,可以使用上面所示的各种形式的流程,重新排序、增加或删除步骤。例如,本公开中记载的各步骤可以并行地执行也可以顺序地执行也可以不同的次序执行,只要能够实现本公开公开的技术方案所期望的结果,本文在此不进行限制。
上述具体实施方式,并不构成对本公开保护范围的限制。本领域技术人员应该明白的是,根据设计要求和其他因素,可以进行各种修改、组合、子组合和替代。任何在本公开的精神和原则之内所作的修改、等同替换和改进等,均应包含在本公开保护范围之内。
Claims (37)
1.一种信号灯的变更检测方法,其中,执行主体为服务器,所述方法包括:
接收车载终端发送的第一灯组的N帧变更检测数据,其中所述N为大于1且小于等于设定值的自然数,所述N帧变更检测数据为所述车辆在不同行驶位置上所检测到的所述第一灯组的多帧数据;
基于所述N帧变更检测数据对信号灯进行3D建模,得到所述第一灯组内的第一信号灯;
识别所述第一灯组内第一信号灯中发生变更的第一目标信号灯。
2.根据权利要求1所述的方法,其中,所述识别所述第一灯组内第一信号灯中发生变更的第一目标信号灯之后,还包括:
从电子地图中确定与所述第一灯组匹配的第二灯组;
基于所述第一目标信号灯,对所述第二灯组内的信号灯进行更新操作。
3.根据权利要求2所述的方法,其中,所述基于所述第一目标信号灯,对所述第二灯组内的信号灯进行更新操作,包括:
基于所述第一目标信号灯的变更类型,对所述第二灯组内的信号灯进行更新操作。
4.根据权利要求3所述的方法,其中,所述根据所述变更类型,对所述第二灯组内的信号灯进行更新操作,包括:
响应于所述变更类型为信号灯新增,基于所述第一目标信号灯的第一3D位置,在所述第二灯组中增加与所述第一目标信号灯匹配的第二目标信号灯;或者,
响应于所述变更类型为信号灯删除,确定所述第二灯组中与所述第一目标信号灯匹配的第二目标信号灯,并从所述第二灯组中删除所述第二目标信号灯;或者,
响应于所述变更类型为信号灯移动,确定所述第二灯组中与所述第一目标信号灯匹配的第二目标信号灯,并基于所述第二目标信号灯的第二3D位置,对所述第二目标信号灯进行位置移动。
5.根据权利要求1所述的方法,其中,所述变更检测数据包括所述第一灯组的采样图像和相机内外参数。
6.根据权利要求5所述的方法,其中,所述基于所述N帧变更检测数据对信号灯进行3D建模,得到所述第一灯组内的第一信号灯,包括:
对所述采样图像和所述相机内外参数进行3D建模,得到所述第一信号灯的第一3D位置。
7.根据权利要求5所述的方法,其中,所述变更检测数据还包括从全局点云数据中截取的所述第一信号灯的局部点云数据,其中,所述基于所述N帧变更检测数据进行信号灯3D建模,得到所述第一灯组内的第一信号灯,包括:
根据所述局部点云数据,确定所述第一信号灯的虚拟3D位置,并基于所述虚拟3D位置,从所述局部点云数据中提取第一特征信息;
基于所述虚拟3D位置和所述相机内外参,从所述采样图像中提取所述第一信号灯的第二特征信息;
基于所述第一特征信息和所述第二特征信息对信号灯进行3D建模,得到所述第一灯组内的第一信号灯的第一3D位置。
8.根据权利要求7所述的方法,其中,所述基于所述虚拟3D位置和所述相机内外参,从所述采样图像中提取所述第一信号灯的第二特征信息,包括:
基于所述虚拟3D位置和所述相机内外参,获取所述虚拟3D位置在图像中的2D位置;
基于所述2D位置从所述采样图像中提取所述第二特征信息。
9.根据权利要求1所述的方法,其中,所述识别所述第一灯组内第一信号灯中发生变更的第一目标信号灯,包括:
确定电子地图中与所述第一灯组匹配的第二灯组,其中所述第二灯组包括第二信号灯;
对所述第一信号灯和所述第二信号灯进行匹配,识别所述第一信号灯中发生变更的第一目标信号灯。
10.根据权利要求9所述的方法,其中,所述对所述第一信号灯和所述第二信号灯进行匹配,识别所述第一信号灯中发生变更的第一目标信号灯,包括:
基于所述第一信号灯的3D建模,确定所述第一信号灯的第一3D位置;
从所述电子地图中确定所述第二信号灯的第二3D位置;
对所述第一3D位置和所述第二3D位置进行匹配,识别所述第一灯组中发生变更的第一目标信号灯。
11.根据权利要求1所述的方法,其中,所述识别所述第一灯组内第一信号灯中发生变更的第一目标信号灯,包括:
获取所述车载终端发送的变更指示信息,所述变更指示信息用于指示发生变更的所述第一目标信号灯的2D位置。
12.一种信号灯的变更检测方法,其中,由车载终端执行,所述方法包括:
获取车辆当前位置处的第一灯组的图像,所述第一灯组包括至少一个第一信号灯;
基于所述车辆当前位置,获取电子地图上与所述第一灯组匹配的第二灯组,所述第二灯组包括至少一个第二信号灯;
判断所述第一灯组与所述第二灯组是否一致,若所述第一灯组与所述第二灯组不一致,向服务器发送所述第一灯组的N帧变更检测数据;
其中所述N为大于1且小于等于设定值的自然数,所述N帧变更检测数据为所述车辆在不同行驶位置上所检测到的所述第一灯组的多帧数据,并用于信号灯进行3D建模。
13.根据权利要求12所述的方法,其中,所述判断所述第一灯组与所述第二灯组是否一致,包括:
从所述电子地图中确定所述第二灯组内第二信号灯的第二3D位置;
基于相机内外参将所述第二3D位置向图像上进行映射,得到所述第二信号灯的2D位置;
根据所述第一信号灯的2D位置和所述第二信号灯的2D位置,确定所述第一灯组与所述第二灯组是否一致。
14.根据权利要求12所述的方法,其中,所述向服务器发送所述第一灯组的N帧变更检测数据之前,还包括:
获取所述第一灯组与所述第二灯组不一致的判定时刻,并基于所述判定时刻,确定所述N帧变更检测数据。
15.根据权利要求12-14中任一项所述的方法,其中,所述变更检测数据包括所述第一灯组的采样图像和相机内外参数;或者,所述变更检测数据包括所述第一灯组的采样图像和相机内外参数,以及从全局点云数据中截取的所述第一信号灯的局部点云数据。
16.根据权利要求15所述的方法,其中,所述方法还包括:
获取全局点云数据,并从所述全局点云数据中截取所述第一信号灯的局部点云数据。
17.根据权利要求15所述的方法,其中,所述方法还包括:
向所述服务器发送变更指示信息,其中所述变更指示信息用于指示发生变更的所述第一目标信号灯的2D位置。
18.一种信号灯的变更检测装置,执行主体为服务器,包括:
接收模块,用于接收车载终端发送的第一灯组的N帧变更检测数据,其中所述N为大于1且小于等于设定值的自然数,所述N帧变更检测数据为所述车辆在不同行驶位置上所检测到的所述第一灯组的多帧数据;
获取模块,用于基于所述N帧变更检测数据对信号灯进行3D建模,得到所述第一灯组内的第一信号灯;
识别模块,用于识别所述第一灯组内第一信号灯中发生变更的第一目标信号灯。
19.根据权利要求18所述的装置,其中,所述识别模块之后,还包括:
从电子地图中确定与所述第一灯组匹配的第二灯组;
基于所述第一目标信号灯,对所述第二灯组内的信号灯进行更新操作。
20.根据权利要求19述的装置,其中,所述识别模块,包括:
基于所述第一目标信号灯的变更类型,对所述第二灯组内的信号灯进行更新操作。
21.根据权利要求20所述的装置,其中,所述识别模块,包括:
响应于所述变更类型为信号灯新增,基于所述第一目标信号灯的第一3D位置,在所述第二灯组中增加与所述第一目标信号灯匹配的第二目标信号灯;或者,
响应于所述变更类型为信号灯删除,确定所述第二灯组中与所述第一目标信号灯匹配的第二目标信号灯,并从所述第二灯组中删除所述第二目标信号灯;或者,
响应于所述变更类型为信号灯移动,确定所述第二灯组中与所述第一目标信号灯匹配的第二目标信号灯,并基于所述第二目标信号灯的第二3D位置,对所述第二目标信号灯进行位置移动。
22.根据权利要求18所述的装置,其中,所述变更检测数据包括所述第一灯组的采样图像和相机内外参数。
23.根据权利要求22所述的装置,其中,所述获取模块,包括:
对所述采样图像和所述相机内外参数进行3D建模,得到所述第一信号灯的第一3D位置。
24.根据权利要求22所述的装置,其中,所述变更检测数据还包括从全局点云数据中截取的所述第一信号灯的局部点云数据,其中,所述获取模块,包括:
根据所述局部点云数据,确定所述第一信号灯的虚拟3D位置,并基于所述虚拟3D位置,从所述局部点云数据中提取第一特征信息;
基于所述虚拟3D位置和所述相机内外参,从所述采样图像中提取所述第一信号灯的第二特征信息;
基于所述第一特征信息和所述第二特征信息对信号灯进行3D建模,得到所述第一灯组内的第一信号灯的第一3D位置。
25.根据权利要求24所述的装置,其中,所述获取模块,包括:
基于所述虚拟3D位置和所述相机内外参,获取所述虚拟3D位置在图像中的2D位置;
基于所述2D位置从所述采样图像中提取所述第二特征信息。
26.根据权利要求18所述的装置,其中,所述识别模块,包括:
确定电子地图中与所述第一灯组匹配的第二灯组,其中所述第二灯组包括第二信号灯;
对所述第一信号灯和所述第二信号灯进行匹配,识别所述第一信号灯中发生变更的第一目标信号灯。
27.根据权利要求26所述的装置,其中,所述识别模块,包括:
基于所述第一信号灯的3D建模,确定所述第一信号灯的第一3D位置;
从所述电子地图中确定所述第二信号灯的第二3D位置;
对所述第一3D位置和所述第二3D位置进行匹配,识别所述第一灯组中发生变更的第一目标信号灯。
28.根据权利要求18所述的装置,其中,所述识别模块,包括:
获取所述车载终端发送的变更指示信息,所述变更指示信息用于指示发生变更的所述第一目标信号灯的2D位置。
29.一种信号灯的变更检测装置,由车载终端执行,包括:
图像获取模块,用于获取车辆当前位置处的第一灯组的图像,所述第一灯组包括至少一个第一信号灯;
匹配模块,用于基于所述车辆当前位置,获取电子地图上与所述第一灯组匹配的第二灯组,所述第二灯组包括至少一个第二信号灯;
判断模块,用于判断所述第一灯组与所述第二灯组是否一致,若所述第一灯组与所述第二灯组不一致,向服务器发送所述第一灯组的N帧变更检测数据;
其中所述N为大于1且小于等于设定值的自然数,所述N帧变更检测数据为所述车辆在不同行驶位置上所检测到的所述第一灯组的多帧数据,并用于信号灯进行3D建模。
30.根据权利要求29所述的装置,其中,所述判断模块,包括:
从所述电子地图中确定所述第二灯组内第二信号灯的第二3D位置;
基于相机内外参将所述第二3D位置向图像上进行映射,得到所述第二信号灯的2D位置;
根据所述第一信号灯的2D位置和所述第二信号灯的2D位置,确定所述第一灯组与所述第二灯组是否一致。
31.根据权利要求29所述的装置,其中,所述判断模块,还包括:
获取所述第一灯组与所述第二灯组不一致的判定时刻,并基于所述判定时刻,确定所述N帧变更检测数据。
32.根据权利要求29-31中任一项所述的装置,其中,所述变更检测数据包括所述第一灯组的采样图像和相机内外参数;或者,所述变更检测数据包括所述第一灯组的采样图像和相机内外参数,以及从全局点云数据中截取的所述第一信号灯的局部点云数据。
33.根据权利要求32所述的装置,其中,所述装置还包括:
获取全局点云数据,并从所述全局点云数据中截取所述第一信号灯的局部点云数据。
34.根据权利要求32所述的装置,其中,所述装置还包括:
向所述服务器发送变更指示信息,其中所述变更指示信息用于指示发生变更的所述第一目标信号灯的2D位置。
35.一种电子设备,包括:
至少一个处理器;以及
与所述至少一个处理器通信连接的存储器;其中,
所述存储器存储有可被所述至少一个处理器执行的指令,所述指令被所述至少一个处理器执行,以使所述至少一个处理器能够执行权利要求1-11或12-17中任一项所述的方法。
36.一种存储有计算机指令的非瞬时计算机可读存储介质,其中,所述计算机指令用于使所述计算机执行根据权利要求1-11或12-17中任一项所述的方法。
37.一种计算机程序产品,包括计算机程序,所述计算机程序在被处理器执行时,实现根据权利要求1-11或12-17中任一项所述方法的步骤。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202311667865.9A CN117593887A (zh) | 2023-12-06 | 2023-12-06 | 信号灯的变更检测方法、装置及电子设备 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202311667865.9A CN117593887A (zh) | 2023-12-06 | 2023-12-06 | 信号灯的变更检测方法、装置及电子设备 |
Publications (1)
Publication Number | Publication Date |
---|---|
CN117593887A true CN117593887A (zh) | 2024-02-23 |
Family
ID=89915024
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN202311667865.9A Pending CN117593887A (zh) | 2023-12-06 | 2023-12-06 | 信号灯的变更检测方法、装置及电子设备 |
Country Status (1)
Country | Link |
---|---|
CN (1) | CN117593887A (zh) |
-
2023
- 2023-12-06 CN CN202311667865.9A patent/CN117593887A/zh active Pending
Similar Documents
Publication | Publication Date | Title |
---|---|---|
EP3506161A1 (en) | Method and apparatus for recovering point cloud data | |
CN112785625B (zh) | 目标跟踪方法、装置、电子设备及存储介质 | |
CN111415409B (zh) | 一种基于倾斜摄影的建模方法、系统、设备和存储介质 | |
CN113177968A (zh) | 目标跟踪方法、装置、电子设备及存储介质 | |
EP3951741A2 (en) | Method for acquiring traffic state, relevant apparatus, roadside device and cloud control platform | |
CN115578433B (zh) | 图像处理方法、装置、电子设备及存储介质 | |
CN113378605B (zh) | 多源信息融合方法及装置、电子设备和存储介质 | |
CN112528974A (zh) | 测距方法、装置、电子设备及可读存储介质 | |
CN114186007A (zh) | 高精地图生成方法、装置、电子设备和存储介质 | |
CN114111813B (zh) | 高精地图元素更新方法、装置、电子设备及存储介质 | |
CN113591580B (zh) | 图像标注方法、装置、电子设备和存储介质 | |
CN113932796A (zh) | 高精地图车道线生成方法、装置和电子设备 | |
CN113177980A (zh) | 用于自动驾驶的目标对象速度确定方法、装置及电子设备 | |
CN115880555B (zh) | 目标检测方法、模型训练方法、装置、设备及介质 | |
CN113781653B (zh) | 对象模型生成方法、装置、电子设备及存储介质 | |
EP4156124A1 (en) | Dynamic gesture recognition method and apparatus, and device and storage medium | |
CN117593887A (zh) | 信号灯的变更检测方法、装置及电子设备 | |
CN115575931A (zh) | 标定方法、装置、电子设备及存储介质 | |
CN114119973A (zh) | 一种基于图像语义分割网络的空间距离预测方法及系统 | |
CN114708498A (zh) | 图像处理方法、装置、电子设备以及存储介质 | |
CN111783609A (zh) | 行人再识别的方法、装置、设备和计算机可读存储介质 | |
CN115049895B (zh) | 一种图像属性识别方法、属性识别模型训练方法及装置 | |
CN116051925B (zh) | 训练样本采集方法、装置、设备以及存储介质 | |
CN116229209B (zh) | 目标模型的训练方法、目标检测方法及装置 | |
CN117710456A (zh) | 定位和建图模型的训练方法、装置、电子设备及存储介质 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination |