CN112896879B - 一种用于智能环卫车的环境感知系统 - Google Patents
一种用于智能环卫车的环境感知系统 Download PDFInfo
- Publication number
- CN112896879B CN112896879B CN202110206807.0A CN202110206807A CN112896879B CN 112896879 B CN112896879 B CN 112896879B CN 202110206807 A CN202110206807 A CN 202110206807A CN 112896879 B CN112896879 B CN 112896879B
- Authority
- CN
- China
- Prior art keywords
- garbage
- clamping arm
- monocular
- fisheye camera
- intelligent
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Active
Links
Images
Classifications
-
- B—PERFORMING OPERATIONS; TRANSPORTING
- B65—CONVEYING; PACKING; STORING; HANDLING THIN OR FILAMENTARY MATERIAL
- B65F—GATHERING OR REMOVAL OF DOMESTIC OR LIKE REFUSE
- B65F3/00—Vehicles particularly adapted for collecting refuse
-
- B—PERFORMING OPERATIONS; TRANSPORTING
- B65—CONVEYING; PACKING; STORING; HANDLING THIN OR FILAMENTARY MATERIAL
- B65F—GATHERING OR REMOVAL OF DOMESTIC OR LIKE REFUSE
- B65F3/00—Vehicles particularly adapted for collecting refuse
- B65F3/02—Vehicles particularly adapted for collecting refuse with means for discharging refuse receptacles thereinto
- B65F3/08—Platform elevators or hoists with guides or runways for raising or tipping receptacles
-
- B—PERFORMING OPERATIONS; TRANSPORTING
- B65—CONVEYING; PACKING; STORING; HANDLING THIN OR FILAMENTARY MATERIAL
- B65F—GATHERING OR REMOVAL OF DOMESTIC OR LIKE REFUSE
- B65F3/00—Vehicles particularly adapted for collecting refuse
- B65F3/02—Vehicles particularly adapted for collecting refuse with means for discharging refuse receptacles thereinto
- B65F3/08—Platform elevators or hoists with guides or runways for raising or tipping receptacles
- B65F3/10—Arrangement and disposition of fluid actuators
Abstract
本发明涉及一种用于智能环卫车的环境感知系统,包括两个单目鱼眼相机、智驾控制器、单线激光雷达和单点超声波雷达。所有传感器均连接至智驾控制器,并于其中完成数据处理和融合,同时将感知结果提醒驾驶员。两个鱼眼相机分别采集环卫车周围的广角环境图像,通过视角差异完成垃圾桶的精确定位。智驾控制器内部设有相应的深度学习网络框架,利用单目鱼眼视角范围大的优势,提醒驾驶员避免事故。在垃圾桶精确定位过程中,根据离线查表法,将垃圾桶的像素坐标转换至世界坐标系下的空间坐标,进而驱动机械臂完成垃圾桶的夹持工作。与现有技术相比,本发明引入人工智能技术,极大提高环卫车的智能化水平,在确保安全的同时更有效地完成垃圾转移作业。
Description
技术领域
本发明涉及特种汽车技术领域,尤其是涉及一种用于智能环卫车的环境感知系统。
背景技术
环卫车可高效率地将垃圾迅速转移至垃圾处理中心,为城市环境卫生的改善提供重要的帮助。在人工智能学科迅速发展的时期,人工智能引领的新一轮科技和产业变革方兴未艾,正在对经济发展、社会进步、全球治理等方面产生重大而深远的影响。同时,智慧城市建设的概念提出,为全国城市发展方向提供了标杆,使国内逐渐朝着智能化方向发展。智慧环卫是智慧城市的重要组成部分之一,是指用深度学习、移动互联网以及大数据相关技术等新一代的信息技术,来改进城市环卫清扫中的工作方式,并改善环卫部门、普通民众和相关企业交互的方式。具体来说,可以实现对环卫清扫中所涉及到的人、车、物实现全过程实时管理,提升环卫作业质量,降低环卫运营成本。通过人工智能的手段使生活垃圾等废弃物的收集、运输、加工和利用全过程的成本更低、效益更高、污染更小,并能实现可视、可控、可互动和可循环,最终实现整个环卫产业的智慧化升级。
智能驾驶技术在多个汽车技术领域充分展开,进一步巩固人工智能的实际应用。而对于特种车或专用车的特殊工作环境和特殊作业任务,同样可引入人工智能领域的解决方案,使其更好地顺利完成作业。传统的环卫车通常未搭载任何智能系统,主要完全依赖环卫工人搬运垃圾桶至车辆的举升装置,再将垃圾桶内的垃圾翻入至环卫车存储容器。该方式由于作业环境存在大量的细菌,将严重影响环卫工人的身体健康。另外,传统环卫车虽然进行过较大的改良,已存在部分加装机械臂的车型,但在进行垃圾收集时仍然将带来部分问题,主要体现如下:
第一、部分车型的机械臂仍然需要多人共同协作完成任务。该车型机械臂自由度有限,智能依靠环卫工人将垃圾桶挂钩在机械臂上,在由翻斗机构将垃圾桶内的垃圾清空至车载容器。
其二、部分车型虽加装足够自由度的机械臂,但由于未加装传感器和感知系统,使机械臂无法对垃圾桶实现精确定位。该方式通常依靠驾驶员的驾驶经验,使车辆停靠时同时保证机械臂对正,从而完全依赖驾驶员的熟练程度,而常出现错夹使机械手臂将垃圾桶碰倒,带来极大的不便利性。
第三、无法检测机械臂与目标垃圾桶之间的障碍物,尤其是附近的行人或骑行者。同样由于未加装感知传感器,环卫车在工作过程中无法实时检测周围动态物体的信息,使行人和骑行者有可能将无意间闯入工作区域,从而威胁周围路过行人的安全。
环境感知系统是智能汽车的重要系统之一,可提供丰富的环境目标和周围信息,从而顺利完成行驶以及特种作业。智能环卫车的环境感知系统研究具有重要实际应用价值。
发明内容
本发明的目的就是为了克服上述现有技术存在的缺陷而提供一种用于智能环卫车的环境感知系统。
本发明的目的可以通过以下技术方案来实现:
一种用于智能环卫车的环境感知系统,包括夹臂基座、水平伸缩缸、夹臂支架、夹臂、举升链条、导轨、单点超声波雷达、上侧单目鱼眼相机、智驾控制器、下侧单目鱼眼相机、单线激光雷达,所述夹臂基座安装在环卫车垃圾存储容器外侧,通过所述水平伸缩缸推动所述夹臂基座靠近或远离待夹持垃圾桶,所述夹臂支架通过两根所述导轨与所述夹臂基座相连,使所述夹臂支架可相对于所述夹臂基座上下滑动,进一步通过所述举升链条使所夹持的垃圾桶能够举升至环卫车垃圾储存器装载处并完成垃圾倾倒,所述夹臂通过活动销与所述夹臂支架相连,并通过液压连杆机构完成所述夹臂对待夹垃圾桶的加紧和放松。
进一步地,所述单点超声波雷达固定于所述夹臂基座中间靠下方,使在靠近待夹垃圾桶时所述单点超声波雷达可实时反馈所述夹臂支架与待夹垃圾桶之间的距离,所述上侧单目鱼眼相机俯视45度角安装在所述夹臂基座侧面上方,所述智驾控制器固定于所述上侧单目鱼眼相机的下侧,所述下侧单目鱼眼相机水平固定在所述单线激光雷达上测,该两个传感器共同固定于所述夹臂基座侧面下方。
进一步地,所述单点超声波雷达和所述单线激光雷达在夹臂支架最低端作业位置时,传感器的视野不会被机械臂所遮挡。
进一步地,所述智驾控制器采用NVIDIA开发板Jetson Nano,是体积非常小巧的Jetson设备,可以并行运行多个神经网络,同时处理多个高分辨率传感器,内部配置Linux系统,其周围设有USB、HDMI和Ethernet信号接口,用以传输信号和调试开发。
进一步地,所述智驾控制器内部集成CAN卡,通过CAN卡发送或接收整车控制器的CAN线控制信号。
进一步地,所述智驾控制器内部设有深度学习目标检测网络架构,实时处理所述上侧单目鱼眼相机的鱼眼图像,并获得待夹垃圾桶在图像中的像素坐标,同时还需要额外记录将物体的底端位置信息。
进一步地,所述智驾控制器内配置的Linux系统设有图像处理算法,该图像处理算法采用深度学习的目标检测网络模型,从检测网络中学到目标区域内行人和骑行者的像素位置,并可同时用于鱼眼图像和单线激光雷达点云的信息进行融合。
进一步地,所述的目标检测网络模型,包括特征编码主干网络,检测器,其中,检测器包分类器和位置回归器,网络在训练好后实时输出相机视野中物体的空间坐标。
进一步地,所述的目标检测网络模型需要采集数据集完成监督学习,所采集的数据集包括很多种不同天气情况下的数据,根据天气的不同分为晴天,雨天,阴天,根据时间段的不同分为早晨,正午,傍晚及夜晚等,数据集均有对应的标注。
进一步地,在制作所述的数据集过程中,需要重新设计一套数据集采集平台,用于获取原始图像和对应的实际垃圾桶真值位置,同时标定行人及骑行者的位置,用于微调预训练网络的权重参数。
进一步地,所述重新设计的一套数据集采集平台与实际智能环卫车感知系统的传感器布置相近,并加装一个16线激光雷达,所述16线激光雷达生成的点云信息通过人工分割,可进一步获取较为精确的垃圾桶实际3D位置。
进一步地,所述的目标检测网络模型在训练过程中,通过数据集尺寸和颜色噪声的数据增广提高网络的鲁棒性,并且利用结构相同的网络训练所述上侧单目鱼眼相机的鱼眼图像和所述下侧单目鱼眼相机的鱼眼图像,最后将两个鱼眼图像中所检测出来的垃圾桶逐个对应起来。
进一步地,所述上侧单目鱼眼相机的鱼眼图像和所述下侧单目鱼眼相机的鱼眼图像识别出来的待夹垃圾桶,提取待夹垃圾桶的像素坐标,并根据提前建立好的离线查找表转化为待夹垃圾桶在世界坐标系下的空间坐标,再利用所述单点激光雷达的采集到的深度信息进一步融合待夹垃圾桶的空间坐标。
与现有技术相比,本发明具有以下优点:
(1)本发明解决了部分传统环卫车对垃圾桶的检测和夹持等难题,实用性较强,只需加装部分低成本的相机传感器,开发成本低。
(2)本发明所开发的环境感知系统能够不仅可完成垃圾桶的检测和精确定位,同时可检测周围动态行人和骑行者的状态,从而提供工作过程中的安全性。
附图说明
为了更清楚地说明本发明实施例的技术方案,下面将对实施例中所需要使用的附图作简单地介绍,应当理解,以下附图仅示出了本发明的某些实施例,因此不应被看作是对范围的限定,对于本领域普通技术人员来讲,在不付出创造性劳动的前提下,还可以根据这些附图获得其他相关的附图。
图1为智能环卫车的环境感知系统硬件结构;
图2为智能环卫车的环境感知系统软件架构;
图3为逆透视变换原理图;
图4为数据集采集平台硬件结构;
图5为感知任务的神经网络结构;
图中,1为夹臂基座,2为水平伸缩缸,3为夹臂支架,4为夹臂,5为举升链条,6为导轨,7为单点超声波雷达,8为上侧单目鱼眼相机,9为智驾控制器,10为下侧单目鱼眼相机,11为单线激光雷达。
具体实施方式
下面将结合本发明实施例中的附图,对本发明实施例中的技术方案进行清楚、完整地描述,显然,所描述的实施例是本发明的一部分实施例,而不是全部实施例。基于本发明中的实施例,本领域普通技术人员在没有做出创造性劳动的前提下所获得的所有其他实施例,都应属于本发明保护的范围。
因此,以下对在附图中提供的本发明的实施例的详细描述并非旨在限制要求保护的本发明的范围,而是仅仅表示本发明的选定实施例。基于本发明中的实施例,本领域普通技术人员在没有作出创造性劳动前提下所获得的所有其他实施例,都属于本发明保护的范围。
应注意到:相似的标号和字母在下面的附图中表示类似项,因此,一旦某一项在一个附图中被定义,则在随后的附图中不需要对其进行进一步定义和解释。
在本发明的描述中,需要说明的是,术语“中心”、“上”、“下”、“左”、“右”、“竖直”、“水平”、“内”、“外”等指示的方位或位置关系为基于附图所示的方位或位置关系,或者是该发明产品使用时惯常摆放的方位或位置关系,仅是为了便于描述本发明和简化描述,而不是指示或暗示所指的装置或元件必须具有特定的方位、以特定的方位构造和操作,因此不能理解为对本发明的限制。此外,术语“第一”、“第二”、“第三”等仅用于区分描述,而不能理解为指示或暗示相对重要性。
此外,术语“水平”、“竖直”等术语并不表示要求部件绝对水平或悬垂,而是可以稍微倾斜。如“水平”仅仅是指其方向相对“竖直”而言更加水平,并不是表示该结构一定要完全水平,而是可以稍微倾斜。
在本发明的描述中,还需要说明的是,除非另有明确的规定和限定,术语“设置”、“安装”、“相连”、“连接”应做广义理解,例如,可以是固定连接,也可以是可拆卸连接,或一体地连接;可以是机械连接,也可以是电连接;可以是直接相连,也可以通过中间媒介间接相连,可以是两个元件内部的连通。对于本领域的普通技术人员而言,可以具体情况理解上述术语在本发明中的具体含义。
本发明提供一种用于智能环卫车的环境感知系统,首先按照图1所示传感器配置,如图所示,整个系统包括夹臂基座1,夹臂基座1上设有水平伸缩缸2、夹臂支架3、夹臂4、举升链条5、导轨6、单点超声波雷达7、上侧单目鱼眼相机8、智驾控制器9、下侧单目鱼眼相机10和单线激光雷达11,夹臂基座1安装在环卫车垃圾存储容器外侧,通过水平伸缩缸2推动夹臂基座1靠近或远离待夹持垃圾桶,夹臂支架3通过导轨6与夹臂基座1相连接,以使得夹臂支架3能够相对于夹臂基座1上下滑动,夹臂4设置于夹臂支架3的两端,通过液压连杆机构完成对待夹持垃圾桶的夹紧和放松,并进一步通过举升链条5使得所夹持的垃圾桶能够举升至环卫车垃圾存储容器的装载处并完成垃圾倾倒。
上侧单目鱼眼相机8、智驾控制器9、下侧单目鱼眼相机10和单线激光雷达11按顺序从上往下依次设置于夹臂基座1的侧面位置处,智驾控制器9分别与单点超声波雷达7、上侧单目鱼眼相机8、下侧单目鱼眼相机10和单线激光雷达11相连接,将各传感器安装在智能环卫车夹臂底座侧面,并通过外参标定方法获取各传感器之间的外参,本实施例将各传感器的数据均与下侧单目鱼眼相机建立数据对准。另外,本发明可实现通过两个单目鱼眼相机和一个单点激光雷达完成物体的检测,检测流程框图如图2所示。所采用的智驾控制器集成有基于深度学习目标检测网络算法,可对车载相机的图像进行处理,可以完成场景监控与停车引导功能,多传感器冗余的垃圾桶、行人、遮挡物检测功能,基于摄像头和激光雷达的纵向垃圾桶精准定位功能,以及基于3D场景重建的机械臂运动碰撞检测功能。
由于上侧单目鱼眼相机具有广角的视场角,不仅可用于检测垃圾桶的精确位置,还可实时采集车辆周边的环境情况,检测周边行人和骑行者是否进入作业范围,从而提醒驾驶员避免发生安全事故。所有的环境感知系列检测算法均通过智驾控制器内部处理,而相机采集的图像通过USB传输至智驾控制器。
在实际作业过程中,驾驶员通过驾驶舱内显示器的上侧单目鱼眼相机的场景监控与停车引导功能图像信号,将环卫车停靠在待夹垃圾桶附近,此时图像中能够实时显示待夹垃圾桶是否在可夹持范围以及距离夹臂智驾的粗略位置。在满足可夹持条件后,驾驶员发送夹持命令,此时上侧单目鱼眼相机图像和下侧单目鱼眼图像导入至网络架构中,精确获取待夹垃圾桶的三维位置,该三维位置与单线激光雷达获取的距离融合,获取最终的三维位置。所获取的三维位置通过坐标变换至机械臂坐标系统,驱动机械臂完成抓取任务。在抓取过程中,单点超声波雷达实时反馈与待夹垃圾桶的距离。
智能环卫车的环境感知系统利用光流法,在实时获取上侧单目鱼眼相机视频流后实现车辆速度估计,可保证仅当环卫车在低速或完全静止时,才触发垃圾桶的检测任务,可避免系统长时间工作而引起系统偶然性故障。从而保证系统正常工作的稳定性。
如图3所示,上侧单目鱼眼相机提供了深度测距的功能,利用相机的俯拍特点进行深度测距,该模块将上侧单目鱼眼相机安装在车厢上部,即图3位置E处,相机离地面安装高度H及俯视角α在安装完成之后均为固定参数。根据相应的几何模型,在相机的安装高度H和安装角度α确定的基础上,并且假定抓取的目标垃圾桶底端都位于水平地面,则目标垃圾桶与环卫车的距离可以通过逆透视变换进行粗略估算出来。
考虑到相机在环卫车工作的过程中会产生污损,为了保证系统的工作可靠性,增加了深度的冗余测量,增加了一个单线激光雷达,将该单线激光雷达的安装于下侧单目鱼眼相机附近,可反馈目标物体的深度距离,进一步保证物体深度方向数值的准确性。
数据集采集平台,如图4所示,的传感器配置与安装位置与环卫车的配置完全相似。在标注数据的过程中,为进一步获取垃圾桶的真实3D位置,在配置结构中增加16线激光雷达,通过垃圾桶对应的3D点云生成目标垃圾桶的3D框。采集程序均集成在ROS系统,能够保存传感器的原始数据以及对应的时间戳,以达到所有传感器的数据同步。
同时,本发明提供对应基于深度学习的目标检测网络架构,如图5所示,采用孪生架构实现对应的功能,相对于其他深度学习的区域网络,基于孪生网络的有独特的优势。具有优势如下:
第一、孪生网络可以利用现有2D目标检测网络的算法,2D检测目标检测算法发展较为成熟,能够根据现有的数据集格式对采集的数据进行标注,可以很方便地将现有的2D目标检测网络迁移至采集的数据集。
第二、孪生网络可以同时输入来自两个相机的图像,能够很好地将不同传感器的数据的特征对应起来,充分发挥多传感器的优势。
实施例:
本发明提供一种用于智能环卫车的环境感知系统。该系统针对智能环卫车的特殊作业环境,合理设计对应的感知模块,使环卫车能够在实际的工作环境中实时完成垃圾桶的检测与精确定位,并检测周围的行人和骑行者是否进入作业区域。该方法包括如下步骤:
步骤(1)上侧单目鱼眼相机和下侧单目鱼眼相机实时采集车辆周围的环境图像,并将采集的图像通过USB传输至智驾控制器中完成基于深度学习的图像处理,提取图像中的语义信息。
步骤(2)智能驾驶控制器集成有环境感知算法,该算法主要将相机图像作为输入,输出两个相机中所检测到的物体位置的像素坐标,上侧单目鱼眼相机图像中的垃圾桶在检测出其底端像素坐标后,还需要将图像进行逆透视变换转化为鸟瞰视图,最后得到垃圾桶底端距离图像底端的像素距离。在得到两个视图中垃圾桶的像素坐标后,需要将对应垃圾桶关联起来,最后得到每个垃圾桶的二维坐标。最后根据模型建立的离线查找表,找到鱼眼图像,去畸变图像,鸟瞰视图中的像素坐标与空间坐标的对应关系,得到每个垃圾桶的三维坐标。
在步骤(2)中,智能环卫车的环境感知系统中的图像处理算法采用基于深度学习的孪生网络框架。如图5所示,主要包含两个并行的目标检测网络,分别输入上侧单目鱼眼相机和下侧单目鱼眼相机所采集的图像,孪生网络实现方法如下:
1-1、制作用于孪生网络训练的数据集,需要的数据集主要包含:各种天气,各个时段下的两个相机的图像数据,并且每张图像都是一一对应,每张图像上的物体都有相对应的标注。
1-2、预训练孪生网络两个分支中的权值参数。使得两个分支在单独推理时都能保证相应的精度,并且利用相应的方法将两个鱼眼图像所检测到的同一物体对应起来,上侧单目鱼眼图像提供物体的深度信息,下侧单目鱼眼图像提供物体在水平方向上的位置信息,最后将两个相机的检测数据结果进一步与单线激光雷达进行融合,得到物体的三维位置。
1-3、网络的应用孪生网络中所有权重参数训练完毕后,可以直接使用该网络完成物体3D目标检测的功能。
本发明主要面向智能环卫,可通过检测与精确定位系统算法计算平台直接检测物体的位置,仅使用两个普通的车载鱼眼相机和一个保证系统鲁棒性工作的单点激光雷达能够完成3D目标检测,无需额外添加其他成本更高的传感器。
总之,本发明提供一种基于深度学习目标检测网络的智能环卫车视觉感知系统,区别于传统目标检测方法,本发明可实现通过视觉相机完成物体的3D检测。检测与精确定位系统算法计算平台中集成有基于深度学习的目标检测网络架构,可对车载鱼眼相机的图像进行目标检测,得到目标物体的3D位置信息。
以上所述,仅为本发明的具体实施方式,但本发明的保护范围并不局限于此,任何熟悉本技术领域的技术人员在本发明揭露的技术范围内,可轻易想到各种等效的修改或替换,这些修改或替换都应涵盖在本发明的保护范围之内。因此,本发明的保护范围应以权利要求的保护范围为准。
Claims (7)
1.一种用于智能环卫车的环境感知系统,其特征在于,包括夹臂基座(1),所述夹臂基座(1)上设有水平伸缩缸(2)、夹臂支架(3)、夹臂(4)、举升链条(5)、导轨(6)、单点超声波雷达(7)、上侧单目鱼眼相机(8)、智驾控制器(9)、下侧单目鱼眼相机(10)和单线激光雷达(11),所述夹臂基座(1)安装在环卫车垃圾存储容器外侧,通过所述水平伸缩缸(2)推动所述夹臂基座(1)靠近或远离待夹持垃圾桶,所述夹臂支架(3)通过所述导轨(6)与所述夹臂基座(1)相连接,以使得所述夹臂支架(3)能够相对于所述夹臂基座(1)上下滑动,所述夹臂(4)设置于所述夹臂支架(3)的两端,通过液压连杆机构完成对待夹持垃圾桶的夹紧和放松,并进一步通过所述举升链条(5)使得所夹持的垃圾桶能够举升至所述环卫车垃圾存储容器的装载处并完成垃圾倾倒;
所述的上侧单目鱼眼相机(8)、智驾控制器(9)、下侧单目鱼眼相机(10)和单线激光雷达(11)按顺序从上往下依次设置于所述夹臂基座(1)的侧面位置处,所述单点超声波雷达(7)固定于所述夹臂基座(1)中间靠下方,使在靠近待夹垃圾桶时所述单点超声波雷达(7)可实时反馈所述夹臂支架(3)与待夹垃圾桶之间的距离,所述上侧单目鱼眼相机(8)俯视45度角安装在所述夹臂基座(1)侧面上方,所述智驾控制器(9)固定于所述上侧单目鱼眼相机(8)的下侧,所述下侧单目鱼眼相机(10)水平固定在所述单线激光雷达(11)上侧,下侧单目鱼眼相机(10)和单线激光雷达(11)共同固定于所述夹臂基座(1)侧面下方,所述智驾控制器(9)分别与所述单点超声波雷达(7)、上侧单目鱼眼相机(8)、下侧单目鱼眼相机(10)和单线激光雷达(11)相连接;
所述的智驾控制器(9)内置有深度学习目标检测网络架构,用于实时处理所述上侧单目鱼眼相机(8)的鱼眼图像,上侧单目鱼眼相机图像中的垃圾桶在检测出其底端像素坐标后,还需要将图像进行逆透视变换转化为鸟瞰视图,最后得到垃圾桶底端距离图像底端的像素距离,进而获得待夹持的垃圾桶于鱼眼图像中的像素坐标,同时还额外记录对应的底端位置信息,所述上侧单目鱼眼相机(8)具有广角的视场角,用于检测垃圾桶的精确位置,并实时采集车辆周边的环境情况,检测周边行人和骑行者是否进入作业范围;
在实际作业过程中,驾驶员通过驾驶舱内显示器的上侧单目鱼眼相机(8)的场景监控与停车引导功能图像信号,将环卫车停靠在待夹垃圾桶附近,此时图像中能够实时显示待夹垃圾桶是否在可夹持范围以及距离夹臂智驾的粗略位置,在满足可夹持条件后,驾驶员发送夹持命令,此时上侧单目鱼眼相机图像和下侧单目鱼眼图像导入至网络架构中,精确获取待夹垃圾桶的三维位置,该三维位置与单线激光雷达(11)获取的距离融合,获取最终的三维位置。
2.根据权利要求1所述的一种用于智能环卫车的环境感知系统,其特征在于,所述的智驾控制器(9)采用NVIDIA开发板Jetson Nano,其内置Linux系统,并设有用于传输信号和调试开发的USB、HDMI和Ethernet信号接口。
3.根据权利要求1所述的一种用于智能环卫车的环境感知系统,其特征在于,所述的智驾控制器(9)内部集成CAN卡,用于发送或接收整车控制器的CAN线控制信号。
4.根据权利要求2所述的一种用于智能环卫车的环境感知系统,其特征在于,所述的Linux系统内置有图像处理算法,所述图像处理算法采用深度学习的目标检测网络模型,从检测网络中学到目标区域内行人和骑行者的像素位置,并可同时用于鱼眼图像和单线激光雷达点云的信息进行融合,所述的目标检测网络模型,包括特征编码主干网络和检测器,其中,所述检测器包括分类器和位置回归器,网络模型在训练好后实时输出相机视野中物体的空间坐标。
5.根据权利要求4所述的一种用于智能环卫车的环境感知系统,其特征在于,所述的目标检测网络模型所采用的用于完成监督学习的数据集包括多种不同天气情况下的数据,根据天气的不同分为晴天、雨天和阴天,根据时间段的不同分为早晨、正午、傍晚及夜晚,并均有对应的标注。
6.根据权利要求4所述的一种用于智能环卫车的环境感知系统,其特征在于,所述的目标检测网络模型在训练过程包括以下步骤:
步骤1:通过数据集尺寸和颜色噪声的数据增广提高网络的鲁棒性;
步骤2:利用结构相同的网络训练所述上侧单目鱼眼相机(8)的鱼眼图像和所述下侧单目鱼眼相机(10)的鱼眼图像,最后将两个鱼眼图像中所检测出的垃圾桶逐个对应。
7.根据权利要求5所述的一种用于智能环卫车的环境感知系统,其特征在于,该系统在制作所述的数据集时采用数据集采集平台,用于获取原始图像和对应的实际垃圾桶真值位置,同时标定行人及骑行者的位置,以微调预训练网络的权重参数,所述数据集采集平台包括加装于原系统中的16线激光雷达,用于将自身所生成的点云信息通过人工分割,进一步获取垃圾桶实际3D位置。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202110206807.0A CN112896879B (zh) | 2021-02-24 | 2021-02-24 | 一种用于智能环卫车的环境感知系统 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202110206807.0A CN112896879B (zh) | 2021-02-24 | 2021-02-24 | 一种用于智能环卫车的环境感知系统 |
Publications (2)
Publication Number | Publication Date |
---|---|
CN112896879A CN112896879A (zh) | 2021-06-04 |
CN112896879B true CN112896879B (zh) | 2022-11-18 |
Family
ID=76106919
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN202110206807.0A Active CN112896879B (zh) | 2021-02-24 | 2021-02-24 | 一种用于智能环卫车的环境感知系统 |
Country Status (1)
Country | Link |
---|---|
CN (1) | CN112896879B (zh) |
Families Citing this family (4)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN113836790B (zh) * | 2021-08-25 | 2024-02-02 | 成都鲁易科技有限公司 | 电动单车智能化等级的测评方法、装置及计算机设备 |
CN114821283B (zh) * | 2022-06-29 | 2022-09-09 | 山东施卫普环保科技有限公司 | 一种基于视觉感知的清扫车垃圾清扫方法及系统 |
CN115057139A (zh) * | 2022-07-29 | 2022-09-16 | 徐州威卡电子控制技术有限公司 | 一种垃圾车上使用的自动垃圾桶识别系统及识别方法 |
CN117485771B (zh) * | 2024-01-02 | 2024-04-19 | 徐州徐工环境技术有限公司 | 一种垃圾桶抓举收集装置、控制方法及车辆 |
Family Cites Families (12)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US10019654B1 (en) * | 2017-06-28 | 2018-07-10 | Accenture Global Solutions Limited | Image object recognition |
WO2019043831A1 (ja) * | 2017-08-30 | 2019-03-07 | 日産自動車株式会社 | 運転支援車両の位置誤差補正方法及び位置誤差補正装置 |
CN107576960B (zh) * | 2017-09-04 | 2021-03-16 | 赵建辉 | 视觉雷达时空信息融合的目标检测方法及系统 |
CN109872483B (zh) * | 2019-02-22 | 2020-09-29 | 华中光电技术研究所(中国船舶重工集团有限公司第七一七研究所) | 一种入侵警戒光电监测系统及方法 |
CN209852177U (zh) * | 2019-02-23 | 2019-12-27 | 同济大学 | 一种用于自动驾驶清扫车的环境感知系统 |
CN110246159B (zh) * | 2019-06-14 | 2023-03-28 | 湖南大学 | 基于视觉和雷达信息融合的3d目标运动分析方法 |
CN110738121A (zh) * | 2019-09-17 | 2020-01-31 | 北京科技大学 | 一种前方车辆检测方法及检测系统 |
CN110789888A (zh) * | 2019-10-29 | 2020-02-14 | 佛山科学技术学院 | 一种无人上料垃圾车的作业系统、方法和垃圾车 |
CN110920552B (zh) * | 2019-11-15 | 2020-10-30 | 吉林大学 | 防止高速路上碰撞后发生连环事故的车辆安全系统及方法 |
CN111858347A (zh) * | 2020-07-23 | 2020-10-30 | 深圳慕智科技有限公司 | 一种基于智能交通模型正确性的蜕变测试方法 |
CN112124825B (zh) * | 2020-09-22 | 2022-10-25 | 同济大学 | 一种垃圾转运装备机械爪定位控制系统 |
CN112288667A (zh) * | 2020-11-02 | 2021-01-29 | 上海智驾汽车科技有限公司 | 一种基于激光雷达与摄像头融合的三维目标检测方法 |
-
2021
- 2021-02-24 CN CN202110206807.0A patent/CN112896879B/zh active Active
Also Published As
Publication number | Publication date |
---|---|
CN112896879A (zh) | 2021-06-04 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
CN112896879B (zh) | 一种用于智能环卫车的环境感知系统 | |
CN107226087B (zh) | 一种结构化道路自动驾驶运输车及控制方法 | |
CN106926800B (zh) | 多摄像头适配的车载视觉感知系统 | |
CN105210128B (zh) | 地图构建活跃的和不活跃的施工地带以用于自主驾驶 | |
CN104260723B (zh) | 一种后方车辆运动状态追踪预测装置及预测方法 | |
CN110009765A (zh) | 一种自动驾驶车辆场景数据系统及场景格式转化方法 | |
CN107653775A (zh) | 悬挂式单轨交通轨道梁外部智能检查维修车 | |
CN102476619A (zh) | 用于检测机动车周围环境的方法 | |
CN113348122A (zh) | 从传感器视场排除车辆的模型 | |
CN111413983A (zh) | 一种无人驾驶车辆的环境感知方法及控制端 | |
CN218949048U (zh) | 一种垃圾清运车智能盲区行人检测及预警装置 | |
CN103714603A (zh) | 基于红外测距传感器的公交车客流统计系统 | |
CN103879404A (zh) | 可追踪移动物体的防撞警示方法及其装置 | |
CN110083099B (zh) | 一种符合汽车功能安全标准自动驾驶架构系统和工作方法 | |
CN115273028B (zh) | 一种基于全域感知的智慧停车场语义地图构建方法及系统 | |
CN115909092A (zh) | 轻量化输电通道隐患测距方法及隐患预警装置 | |
CN108705977A (zh) | 一种互联网无人驾驶汽车 | |
CN113449650A (zh) | 一种车道线检测系统及方法 | |
CN114818819A (zh) | 一种基于毫米波雷达与视觉信号的道路障碍物检测方法 | |
CN111645047A (zh) | 基于图像处理的用于环卫车的智能控制机械臂及控制方法 | |
CN211628411U (zh) | 一种全自动交通监测系统 | |
CN112489125A (zh) | 一种堆场行人自动检测方法及装置 | |
CN109874099B (zh) | 一种联网车载设备流量控制系统 | |
CN217801729U (zh) | 一种室外机器人 | |
CN110696016A (zh) | 一种适用于地铁车辆列检工作的智能机器人 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination | ||
GR01 | Patent grant | ||
GR01 | Patent grant |