CN112784814B - 车辆倒车入库的姿态识别方法及输送车倒车入库引导系统 - Google Patents

车辆倒车入库的姿态识别方法及输送车倒车入库引导系统 Download PDF

Info

Publication number
CN112784814B
CN112784814B CN202110188115.8A CN202110188115A CN112784814B CN 112784814 B CN112784814 B CN 112784814B CN 202110188115 A CN202110188115 A CN 202110188115A CN 112784814 B CN112784814 B CN 112784814B
Authority
CN
China
Prior art keywords
information
vehicle
image
gesture
acquiring
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
CN202110188115.8A
Other languages
English (en)
Other versions
CN112784814A (zh
Inventor
付玲
曾杨
范卿
刘延斌
邓立波
廖超
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Zoomlion Heavy Industry Science and Technology Co Ltd
Original Assignee
Zoomlion Heavy Industry Science and Technology Co Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Zoomlion Heavy Industry Science and Technology Co Ltd filed Critical Zoomlion Heavy Industry Science and Technology Co Ltd
Priority to CN202110188115.8A priority Critical patent/CN112784814B/zh
Publication of CN112784814A publication Critical patent/CN112784814A/zh
Application granted granted Critical
Publication of CN112784814B publication Critical patent/CN112784814B/zh
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V20/00Scenes; Scene-specific elements
    • G06V20/50Context or environment of the image
    • G06V20/56Context or environment of the image exterior to a vehicle by using sensors mounted on the vehicle
    • G06V20/58Recognition of moving objects or obstacles, e.g. vehicles or pedestrians; Recognition of traffic objects, e.g. traffic signs, traffic lights or roads
    • G06V20/586Recognition of moving objects or obstacles, e.g. vehicles or pedestrians; Recognition of traffic objects, e.g. traffic signs, traffic lights or roads of parking space
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F18/00Pattern recognition
    • G06F18/20Analysing
    • G06F18/24Classification techniques
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V10/00Arrangements for image or video recognition or understanding
    • G06V10/20Image preprocessing
    • G06V10/25Determination of region of interest [ROI] or a volume of interest [VOI]
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V10/00Arrangements for image or video recognition or understanding
    • G06V10/20Image preprocessing
    • G06V10/26Segmentation of patterns in the image field; Cutting or merging of image elements to establish the pattern region, e.g. clustering-based techniques; Detection of occlusion
    • G06V10/267Segmentation of patterns in the image field; Cutting or merging of image elements to establish the pattern region, e.g. clustering-based techniques; Detection of occlusion by performing operations on regions, e.g. growing, shrinking or watersheds
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V10/00Arrangements for image or video recognition or understanding
    • G06V10/40Extraction of image or video features
    • G06V10/44Local feature extraction by analysis of parts of the pattern, e.g. by detecting edges, contours, loops, corners, strokes or intersections; Connectivity analysis, e.g. of connected components

Landscapes

  • Engineering & Computer Science (AREA)
  • Theoretical Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Multimedia (AREA)
  • Data Mining & Analysis (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • Bioinformatics & Cheminformatics (AREA)
  • Evolutionary Computation (AREA)
  • Evolutionary Biology (AREA)
  • General Engineering & Computer Science (AREA)
  • Bioinformatics & Computational Biology (AREA)
  • Artificial Intelligence (AREA)
  • Life Sciences & Earth Sciences (AREA)
  • Image Analysis (AREA)
  • Image Processing (AREA)

Abstract

本发明公开一种车辆倒车入库的姿态识别方法及输送车倒车入库引导系统,该方法包括:实时采集入库场景的图像信息,图像信息包括第一图像,第一图像为入库场景出入口的图像,第一图像包括第一视图和第二视图;对第一视图和第二视图进行预处理,获得第一预处理信息和第二预处理信息;按照第一预设规则对第一预处理信息和第二预处理信息进行叠加处理,获得车辆的叠加图像;按照第二预设规则对叠加图像进行处理,获得姿态信息。通过在入库场景配置监测系统,而不是在每辆车辆上都安装图像采集装置或距离监测装置,从而根据车辆的表面特征获得车辆的准确姿态信息,在后续倒车入库引导过程中辅助驾驶人员进行倒车入库,降低控制复杂度,提高用户体验。

Description

车辆倒车入库的姿态识别方法及输送车倒车入库引导系统
技术领域
本发明涉及车辆控制技术领域,具体地涉及一种车辆倒车入库的姿态识别方法、一种输送车倒车入库引导系统、一种输送车倒车入库的引导方法、一种车辆倒车入库的姿态识别装置、一种输送车倒车入库的引导装置以及一种计算机可读存储介质。
背景技术
随着科学技术的不断发展,智能化、无人化成为车辆控制领域的应用热点。在传统的车辆倒车入库的过程中,驾驶员主要通过后视镜以及车窗对车辆周围的环境进行查看,并根据查看结果结合自己的驾驶经验进行倒车入库,然而一方面,上述方法对驾驶员的个人驾驶能力以及驾驶经验要求较高,因此对于一般驾驶员来讲,在倒车入库的过程中存在车辆被擦挂或碰撞的风险;另一方面,采用手动驾驶的方式已经无法满足用户的实际需求。
而在对用户的倒车入库进行引导的过程中,首先需要对车辆当前的姿态进行识别,并根据车辆的姿态信息提供对应的引导信息,然而在实际应用过程中至少存在如下技术问题:
不同类型的车辆其形状、特征各不一样,例如对于家用轿车、货车、搅拌车等车辆,其形状和特征差别较大,而现有技术中尚未有对所有类型的车辆的姿态都能够进行很好识别的技术方案;
针对运输车的倒车入库过程,由于在该过程中还涉及到运输车倒车姿态的校正以及倒车到位的确定等过程,而现有技术中往往通过配置专门的引导人员在现场进行引导或由驾驶员不断下车查看以实现运输车的准确倒车入库,因此费时费力,提高了企业运营成本,降低了驾驶员的工作效率。
发明内容
为了克服现有技术中无法对任意类型的车辆姿态进行识别,以及现有的倒车入库方法无法满足用户需求的技术问题,本发明实施例提供一种车辆倒车入库的姿态识别方法及一种输送车倒车入库引导系统,通过对现有的输送车引导方法进行改进,根据输送车的实际运行姿态生成精确的引导信息,从而大大提高了输送车的停车精确性,降低了控制难度,提高了工作效率。
为了实现上述目的,本发明实施例提供一种车辆倒车入库的姿态识别方法,所述姿态识别方法包括:实时采集入库场景的图像信息,所述图像信息包括第一图像,所述第一图像为所述入库场景出入口的图像,所述第一图像包括第一视图和第二视图;对所述第一视图和所述第二视图进行预处理,获得第一预处理信息和第二预处理信息;按照第一预设规则对所述第一预处理信息和所述第二预处理信息进行叠加处理,获得所述车辆的叠加图像;按照第二预设规则对所述叠加图像进行处理,获得姿态信息。
优选地,所述按照第二预设规则对所述叠加图像进行处理,获得所述姿态信息,包括:在所述叠加图像中提取多个特征点;基于所述多个特征点生成姿态拟合信息,所述姿态拟合信息为拟合直线或拟合平面;基于所述姿态拟合信息获得所述姿态信息。
优选地,所述基于所述姿态拟合信息获得所述姿态信息,包括:基于所述拟合直线获取所述车辆的姿态角度信息和位置信息;基于所述姿态角度信息和所述位置信息生成所述姿态信息。
优选地,所述在所述叠加图像中提取多个特征点,包括:获取所述车辆的车体信息;在所述车体信息为表面规则车体的情况下,基于所述第一点信息和所述第二点信息获得所述多个特征点;在所述车体信息为表面不规则车体的情况下:按照预设筛选规则对所述叠加图像进行筛选,获得候选感兴趣区域;基于预设训练模型对所述候选感兴趣区域进行处理,获得处理后感兴趣区域;在所述处理后感兴趣区域中随机获取N个点作为所述特征点,其中N为大于三的正整数。
优选地,所述基于所述多个特征点生成姿态拟合信息,包括:在所述车体信息为所述表面规则车体的情况下:对所述多个特征点执行第一平面拟合操作,获得局部平面;对所述多个特征点执行排序操作,基于排序后的所述多个特征点对所述局部平面执行区域生长操作,获得联通平面;按照预设分割算法对所述联通平面进行处理,获得所述拟合平面;在所述车体信息为所述表面不规则车体的情况下:获取所述特征信息的三维信息;基于所述三维信息执行第二平面拟合操作,获得所述拟合平面。
优选地,所述基于所述拟合平面获得所述姿态信息,包括:获取所述拟合平面对应的车辆法向量;获取预设基准法向量;基于所述车辆法向量和所述预设基准法向量生成所述姿态信息。
优选地,所述按照第一预设规则对所述第一预处理信息和所述第二预处理信息进行叠加处理,获得所述车辆的叠加图像,包括:分别提取所述第一预处理信息中的第一点信息和所述第二预处理信息中的第二点信息;按照第一预设算法获取在所述第一点信息和所述第二点信息中的重叠点;按照预设成像规则对所述重叠点进行处理,获得每个所述重叠点的深度信息;基于所述深度信息对所述第一预处理信息和所述第二预处理信息执行叠加操作,生成所述车辆的所述叠加图像。
优选地,所述姿态识别方法还包括:在所述对所述第一视图和所述第二视图进行预处理之前,基于所述第一视图判断是否有车辆进入所述入库场景;在有车辆进入所述入库场景的情况下,对所述第一视图和所述第二视图进行预处理。
优选地,所述姿态识别方法还包括:在按照预设成像规则对所述重叠点进行处理之前,按照第二预设算法对所述重叠点进行筛选,获得筛选后重叠点;按照所述预设成像规则对所述筛选后重叠点进行处理。
另一方面,本发明实施例还提供一种输送车倒车入库引导系统,所述引导系统包括:图像采集装置,配置于输送场景,用于采集所述输送场景的图像信息;图像处理装置,与所述图像采集装置电连接,用于基于所述图像信息获得所述输送车的姿态信息,基于所述姿态信息生成对应的倒车引导信息;信息提示装置,与所述图像处理装置电连接,用于基于所述倒车引导信息生成并输出对应的引导提示信息。
优选地,所述图像采集装置包括配置于所述输送场景的出入口的第一图像采集装置和配置于所述输送场景的装卸点的第二图像采集装置。
优选地,所述第一图像采集装置为双目相机,用于获取所述出入口的第一图像信息,所述第一图像信息为所述输送场景出入口的图像信息,所述第二图像采集装置为单目相机,用于获取所述装卸点的第二图像信息。
优选地,所述信息提示装置配置于所述输送场景内并与所述图像处理装置电连接。
优选地,所述信息提示装置配置于所述输送车内并与所述图像处理装置无线连接。
另一方面,本发明实施例还提供一种输送车倒车入库的引导方法,应用于输送车的输送场景,所述输送场景包括配置于出入口的第一图像采集装置和配置于装卸点的第二图像采集装置,所述引导方法包括:通过所述第一图像采集装置获取输送车的入场姿态信息,所述入场姿态信息与所述第一图像采集装置的设置位置相关联;对所述入场姿态信息进行坐标变换,获得变换后信息,所述变换后信息与所述第二图像采集装置的设置位置相关联;基于所述变换后信息生成对应的倒车引导信息。
优选地,所述基于所述变换后信息生成对应的倒车引导信息,包括:获取所述装卸点对应的目的位置;基于所述目的位置和所述变换后信息生成对应的倒车引导信息。
优选地,所述输送车包括装货结构,所述引导方法还包括:获取所述输送车基于所述倒车引导信息的姿态变化信息;基于所述姿态变化信息判断所述装货结构与所述目的位置是否匹配;在所述装货结构与所述目的位置匹配的情况下,确定完成倒车引导;在所述装货结构与所述目的位置不匹配的情况下,基于所述姿态变化信息对所述倒车引导信息进行调整,获得调整后引导信息。
优选地,所述基于所述姿态变化信息判断所述装货结构与所述目的位置是否匹配,包括:基于所述姿态变化信息获取所述装货结构与所述目的位置之间的位置偏差;判断所述位置偏差是否小于预设偏差阈值;若是,则确定所述装货结构与所述目的位置匹配;否则,确定所述装货结构与所述目的位置不匹配。
优选地,所述基于所述姿态变化信息判断所述装货结构与所述目的位置是否匹配,包括:提取所述装货结构的第一特征和所述装卸点的第二特征;判断所述第一特征和所述第二特征是否重合;若是,则确定所述装货结构与所述目的位置匹配;否则,确定所述装货结构与所述目的位置不匹配。
优选地,所述引导方法还包括:输出或播放所述倒车引导信息。
相应的,本发明实施例还提供一种车辆倒车入库的姿态识别装置,所述姿态识别装置包括:图像采集模块,用于实时采集车辆场景的图像信息,所述图像信息包括第一图像,所述第一图像为所述车辆场景出入口的图像,所述第一图像包括第一视图和第二视图;预处理模块,用于对所述第一视图和所述第二视图进行预处理,获得第一预处理信息和第二预处理信息;叠加模块,用于按照第一预设规则对所述第一预处理信息和所述第二预处理信息进行叠加处理,获得所述车辆的叠加图像;第一处理模块,用于按照第二预设规则对所述叠加图像进行处理,获得所述姿态信息。
优选地,所述第一处理模块包括:第一提取单元,用于在所述叠加图像中提取多个特征点;拟合单元,用于基于所述多个特征点生成姿态拟合信息,所述姿态拟合信息为拟合直线或拟合平面;姿态生成单元,用于基于所述姿态拟合信息获得所述姿态信息。
优选地,所述姿态生成单元用于:基于所述拟合直线获取所述车辆的姿态角度信息和位置信息;基于所述姿态角度信息和所述位置信息生成所述姿态信息。
优选地,所述第一提取单元用于:获取所述车辆的车体信息;在所述车体信息为表面规则车体的情况下,基于所述第一点信息和所述第二点信息获得所述多个特征点;在所述车体信息为表面不规则车体的情况下:按照预设筛选规则对所述叠加图像进行筛选,获得候选感兴趣区域;基于预设训练模型对所述候选感兴趣区域进行处理,获得处理后感兴趣区域;在所述处理后感兴趣区域中随机获取N个点作为所述特征点,其中N为大于三的正整数。
优选地,所述拟合单元用于:在所述车体信息为所述表面规则车体的情况下:对所述多个特征点执行第一平面拟合操作,获得局部平面;对所述多个特征点执行排序操作,基于排序后的所述多个特征点对所述局部平面执行区域生长操作,获得联通平面;按照预设分割算法对所述联通平面进行处理,获得所述拟合平面;在所述车体信息为所述表面不规则车体的情况下:获取所述特征信息的三维信息;基于所述三维信息执行第二平面拟合操作,获得所述拟合平面。
优选地,所述姿态生成单元用于:获取所述拟合平面对应的车辆法向量;获取预设基准法向量;基于所述车辆法向量和所述预设基准法向量生成所述姿态信息。
优选地,所述叠加模块包括:第二提取单元,用于分别提取所述第一预处理信息中的第一点信息和所述第二预处理信息中的第二点信息;重叠点获取单元,用于按照第一预设算法获取在所述第一点信息和所述第二点信息中的重叠点;处理单元,用于按照预设成像规则对所述重叠点进行处理,获得每个所述重叠点的深度信息;叠加单元,用于基于所述深度信息对所述第一预处理信息和所述第二预处理信息执行叠加操作,生成所述车辆的所述叠加图像。
优选地,所述姿态识别装置还包括车辆识别模块,所述车辆识别模块用于:在所述对所述第一视图和所述第二视图进行预处理之前,基于所述第一视图判断是否有车辆进入入库场景;在有车辆进入所述入库场景的情况下,对所述第一视图和所述第二视图进行预处理。
优选地,所述叠加模块还包括筛选单元,所述筛选单元用于:在按照预设成像规则对所述重叠点进行处理之前,按照第二预设算法对所述重叠点进行筛选,获得筛选后重叠点;按照所述预设成像规则对所述筛选后重叠点进行处理。
相应的,本发明实施例还提供一种输送车倒车入库的引导装置,应用于输送车的输送场景,所述输送场景包括配置于出入口的第一图像采集装置和配置于装卸点的第二图像采集装置,所述引导装置包括:姿态获取模块,用于通过所述第一图像采集装置获取输送车的入场姿态信息,所述入场姿态信息与所述第一图像采集装置的设置位置相关联;变换模块,用于对所述入场姿态信息进行坐标变换,获得变换后信息,所述变换后信息与所述第二图像采集装置的设置位置相关联;引导模块,用于基于所述变换后信息生成对应的倒车引导信息。
优选地,所述引导模块包括:目的位置获取单元,用于获取所述装卸点对应的目的位置;引导单元,用于基于所述目的位置和所述变换后信息生成对应的倒车引导信息。
优选地,所述输送车包括装货结构,所述引导装置还包括调整引导模块,所述调整引导模块包括:变化获取单元,用于获取所述输送车基于所述倒车引导信息的姿态变化信息;匹配单元,用于基于所述姿态变化信息判断所述装货结构与所述目的位置是否匹配;确定单元,用于在所述装货结构与所述目的位置匹配的情况下,确定完成倒车引导;调整单元,用于在所述装货结构与所述目的位置不匹配的情况下,基于所述姿态变化信息对所述倒车引导信息进行调整,获得调整后引导信息。
优选地,所述匹配单元用于:基于所述姿态变化信息获取所述装货结构与所述目的位置之间的位置偏差;判断所述位置偏差是否小于预设偏差阈值;若是,则确定所述装货结构与所述目的位置匹配;否则,确定所述装货结构与所述目的位置不匹配。
优选地,所述匹配单元用于:提取所述装货结构的第一特征和所述装卸点的第二特征;判断所述第一特征和所述第二特征是否重合;若是,则确定所述装货结构与所述目的位置匹配;否则,确定所述装货结构与所述目的位置不匹配。
优选地,所述引导装置还用于:输出或播放所述倒车引导信息。
另一方面,本发明实施例还提供一种计算机可读存储介质,其上存储有计算机程序,该程序被处理器执行时实现本发明实施例提供的方法。
通过本发明提供的技术方案,本发明至少具有如下技术效果:
一方面,通过在倒车入库的入库场景配置监测系统,而不是在每辆车辆上都安装图像采集装置或距离监测装置,对车辆的表面特征进行识别和提取,并生成与车辆的表面特征对应的拟合姿态信息,从而在降低了车辆姿态识别的实现成本的同时,能够根据该拟合姿态信息获得该车辆的准确姿态信息;
另一方面,通过获取的车辆的精确姿态信息,对现有的停车引导方法进行改进,根据该精确姿态信息生成对应精确的引导信息,从而大大提高了输送车在输送货物的过程中的停车精确性,降低了控制难度,同时有效减少了驾驶员在输送场景的停止和挪动时间,大大提高了工作效率。
本发明实施例的其它特征和优点将在随后的具体实施方式部分予以详细说明。
附图说明
附图是用来提供对本发明实施例的进一步理解,并且构成说明书的一部分,与下面的具体实施方式一起用于解释本发明实施例,但并不构成对本发明实施例的限制。在附图中:
图1是本发明实施例提供的车辆倒车入库的姿态识别方法的具体实现流程图;
图2是本发明实施例提供的车辆倒车入库的姿态识别方法中获取姿态信息的示意图;
图3是本发明实施例提供的输送车倒车入库引导系统的结构示意图;
图4是本发明实施例提供的输送车倒车入库引导系统的示意图;
图5是本发明实施例提供的输送车倒车入库的引导方法的具体实现流程图;
图6是本发明实施例提供的车辆倒车入库的姿态识别装置的结构示意图;
图7是本发明实施例提供的输送车倒车入库的引导装置的结构示意图。
附图标记说明
100图像采集装置 101第一图像采集装置
102第二图像采集装置 200图像处理装置
300信息提示装置
具体实施方式
为了克服现有技术中无法对任意类型的车辆姿态进行识别,以及现有的倒车入库方法无法满足用户需求的技术问题,本发明实施例提供一种车辆倒车入库的姿态识别方法及一种输送车倒车入库引导系统,通过对现有的输送车引导方法进行改进,根据输送车的实际运行姿态生成精确的引导信息,从而大大提高了输送车的停车精确性,降低了控制难度,提高了工作效率。
以下结合附图对本发明实施例的具体实施方式进行详细说明。应当理解的是,此处所描述的具体实施方式仅用于说明和解释本发明实施例,并不用于限制本发明实施例。
本发明实施例中的术语“系统”和“网络”可被互换使用。“多个”是指两个或两个以上,鉴于此,本发明实施例中也可以将“多个”理解为“至少两个”。“和/或”,描述关联对象的关联关系,表示可以存在三种关系,例如,A和/或B,可以表示:单独存在A,同时存在A和B,单独存在B这三种情况。另外,字符“/”,如无特殊说明,一般表示前后关联对象是一种“或”的关系。另外,需要理解的是,在本发明实施例的描述中,“第一”、“第二”等词汇,仅用于区分描述的目的,而不能理解为指示或暗示相对重要性,也不能理解为指示或暗示顺序。
请参见图1,本发明实施例提供一种车辆倒车入库的姿态识别方法,所述姿态识别方法包括:
S10)实时采集入库场景的图像信息,所述图像信息包括第一图像,所述第一图像为所述入库场景出入口的图像,所述第一图像包括第一视图和第二视图;
S20)对所述第一视图和所述第二视图进行预处理,获得第一预处理信息和第二预处理信息;
S30)按照第一预设规则对所述第一预处理信息和所述第二预处理信息进行叠加处理,获得所述车辆的叠加图像;
S40)按照第二预设规则对所述叠加图像进行处理,获得姿态信息。
在本发明实施例中,所述车辆包括但不限于汽车、小轿车、运输车、工程车辆等车辆。
请参见图2,在一种可能的实施方式中,在该入库场景内配置有第一图像采集装置101,第一图像采集装置101与图像处理装置200连接,例如第一图像采集装置101可以为设置于入库场景的出入口的双目摄像头,用于采集第一视图,在实际应用中,通过第一图像采集装置101对车辆的运行姿态进行识别。
需要说明的是,在本发明实施例中,第一图像采集装置101可以配置在上述出入口位于车辆的侧面(例如可以配置于该出入口的侧墙上),也可以配置于上述出入口位于车辆的顶部(例如可以配置于该出入口的顶板上)等位置,都应该属于本领域技术人员根据本发明实施例容易想到的,都应该属于本发明实施例的保护范围,在此不做过多赘述。
在本发明实施例中,为了降低识别过程中的能耗,以及提高识别的精确性,图像处理装置200在获取到第一图像采集装置101实时采集的图像信息后,例如该图像信息为出入口的灰度图像信息,首先利用图像帧差分法将该灰度图像信息与预设图像信息进行对比,以获取入库场景内的运动物体,提取对应的前景目标,根据该前景目标判断该实时采集的图像信息中图像内容的变化比例是否大于预设比例阈值,例如在本发明实施例中,该预设比例阈值为40%,若第一图像采集装置101采集的图像信息的图像内容变化比例大于40%,则确定有车辆进入当前的入库场景,则立即获取该车辆的姿态信息。
例如在实际应用过程中,图像处理装置200立即对第一图像中的第一视图和第二视图进行预处理,例如可以采用灰度均衡直方图、高斯滤波等方法对上述第一视图和第二视图进行预处理,以减少光照、噪声等因素对图片的干扰,同时减少第一视图和第二视图中的点云数量,然后按照第一预设规则对处理后的第一预处理信息和所述第二预处理信息进行叠加处理,从而获得该车辆的叠加图像,最后按照第二预设规则对该叠加图像进行处理,从而获得车辆的姿态信息。
在本发明实施例中,通过在入库场景的出入口配置图像采集装置并实时采集出入口的图像信息,从而实现对入库场景的实时监控,同时,采用双目摄像头对入库场景进行实时监控,并通过将实时采集的第一视图和第二视图进行合并后确定为该车辆的叠加图像后进行后续的姿态识别,能够克服现有技术中因入库场景的光线影响或堆叠杂物等的影响而导致对车辆的识别精确性降低的技术问题,大大提高了对车辆的姿态信息的识别精确性,为后续生成精确、可靠的引导信息提供了准确的数据基础。
在本发明实施例中,所述按照第二预设规则对所述叠加图像进行处理,获得所述姿态信息,包括:在所述叠加图像中提取多个特征点;基于所述多个特征点生成姿态拟合信息,所述姿态拟合信息为拟合直线或拟合平面;基于所述姿态拟合信息获得所述姿态信息。
在本发明实施例中,所述基于所述姿态拟合信息获得所述姿态信息,包括:基于所述拟合直线获取所述车辆的姿态角度信息和位置信息;基于所述姿态角度信息和所述位置信息生成所述姿态信息。
在一种可能的实施方式中,在获取到上述重叠图像后,进一步获取多个特征点,例如在本发明实施例中,取第一图像采集装置101横向轴向上检测到的多个点作为特征点,对上述多个特征点进行降噪后生成对应的姿态拟合信息,例如该特征点为一条拟合直线,根据该拟合直线就能够获得货车车身相对于第一图像采集装置101的实时姿态信息,例如根据该拟合直线与相机横向轴线之间的相对位置关系以及夹角关系以获得上述实时姿态信息,该实时姿态信息可以包括该货车的实时位置信息以及货车与相机之间的实时姿态角度信息。
在本发明实施例中,通过对传统的车辆姿态识别方法进行改进,在车辆上实时生成一参考线,并根据固定设置的相机与该参考线之间的关系获得该车辆的精确姿态信息,有效提高了姿态识别方法的识别精确性。
在本发明实施例中,所述在所述叠加图像中提取多个特征点,包括:获取所述车辆的车体信息;在所述车体信息为表面规则车体的情况下,基于所述第一点信息和所述第二点信息获得所述多个特征点;在所述车体信息为表面不规则车体的情况下:按照预设筛选规则对所述叠加图像进行筛选,获得候选感兴趣区域;基于预设训练模型对所述候选感兴趣区域进行处理,获得处理后感兴趣区域;在所述处理后感兴趣区域中随机获取N个点作为所述特征点,其中N为大于三的正整数。
在本发明实施例中,所述基于所述多个特征点生成姿态拟合信息,包括:在所述车体信息为所述表面规则车体的情况下:对所述多个特征点执行第一平面拟合操作,获得局部平面;对所述多个特征点执行排序操作,基于排序后的所述多个特征点对所述局部平面执行区域生长操作,获得联通平面;按照预设分割算法对所述联通平面进行处理,获得所述拟合平面;在所述车体信息为所述表面不规则车体的情况下:获取所述特征信息的三维信息;基于所述三维信息执行第二平面拟合操作,获得所述拟合平面。
在本发明实施例中,所述基于所述拟合平面获得所述姿态信息,包括:获取所述拟合平面对应的车辆法向量;获取预设基准法向量;基于所述车辆法向量和所述预设基准法向量生成所述姿态信息。
由于车辆可能为具有规则表面(例如矩形表面)或不规则表面(例如搅拌车的椭圆球体表面)的车辆,因此在一种可能的实施方式中,针对不同的车体采用不同的处理方式,以优化过程,例如在本发明实施例中,首先获取车辆的车体信息,例如可以首先对车辆的车体进行简单识别,以判断该车辆的车体是否为表面规则的车体,例如在一种实施例中,识别出当前车辆为表面规则车体,因此将上述第一预处理信息和第二预处理信息作为特征点;在另一种实施例中,识别出当前车辆的车体为表面不规则车体,例如该车辆为大型运输车,因此,首先按照预设筛选规则对上述叠加图像进行筛选,例如对叠加图像进行霍夫园筛选以获得叠加图像中的椭圆物体,并生成对应的候选感兴趣区域,然后通过预先训练好的SVM+SIFT特征对上述候选感兴趣区域进行分类处理,以进一步获得处理后感兴趣区域,例如筛选出轮胎感兴趣区域,然后在该轮胎感兴趣区域中随机获取N个点作为特征点,例如在本发明实施例中,可以根据该轮胎感兴趣区域的中心位置,确定采样点的感兴趣区域,例如针对两桥运输车可以选定后方一个轮胎所在区域作为采样点的感兴趣区域,针对四桥运输车可以选定后方两个轮胎所在区域作为采样点的感兴趣区域,然后在上述采样点的感兴趣区域中随机获取N个点作为特征点,例如可以随机获取三个点或者五个点作为特征点。
在一种可能的实施方式中,针对表面规则的车体,在获取到上述特征点后,基于上述特征点执行第一平面拟合操作,从而获得对应的局部平面,该局部平面可以为多个互不相接的局部平面,然后对上述多个特征点进行排序操作,例如进行树结构排序操作,然后基于排序后的多个特征点对局部平面进行区域生长,从而获得联通平面,该联通平面为一整块平面,此时进一步采用预设分割算法(例如该预设分割算法为一致性分割算法)对联通平面进行处理,以获得对应的车身平面模型和墙平面模型,此时通过距离阈值对车身平面模型和墙平面模型进行处理,例如将与车身平面模型的距离大于该距离阈值的墙平面模型剔除,从而将最终获得的车身平面模型作为该拟合平面。
在另一种可能的实施方式中,针对表面不规则的车体,在获取到上述特征点后,由于上述特征点是通过第一视图和第二视图获取的,因此将上述特征点转换至对应的点云图像,并提取特征点的三维信息,然后按照特征点的三维信息执行第二平面拟合操作,从而获得对应的拟合平面。
在获取到上述拟合平面后,获取该拟合平面对应的车辆法向量,例如可以采用最小二乘法获取到拟合平面的车辆法向量,然后进一步获取预设基准法向量,例如该预设基准法向量可以为拍摄第一视图和第二视图的摄像头所在平面的法向量,此时根据上述车辆法向量和预设基准法向量就可以获得车辆的姿态信息,例如该姿态信息包括该车辆相对于摄像头的夹角及该车辆相对于摄像头的位置。
在本发明实施例中,通过对车辆的侧面进行平面拟合,并根据固定设置的相机与该拟合平面之间的关系获得该车辆的精确姿态信息,即使车辆的表面属于不规则表面,也能够精确无误地检测出该输送车的实时运行姿态,有效提高了姿态识别方法的识别精确性以及可应用范围。
在本发明实施例中,所述按照第一预设规则对所述第一预处理信息和所述第二预处理信息进行叠加处理,获得所述输送车的叠加图像,包括:分别提取所述第一预处理信息中的第一点信息和所述第二预处理信息中的第二点信息;按照第一预设算法获取在所述第一点信息和所述第二点信息中的重叠点;按照预设成像规则对所述重叠点进行处理,获得每个所述重叠点的深度信息;基于所述深度信息对所述第一预处理信息和所述第二预处理信息执行叠加操作,生成所述输送车的所述叠加图像。
在本发明实施例中,所述姿态识别方法还包括:在所述对所述第一视图和所述第二视图进行预处理之前,基于所述第一视图判断是否有车辆进入所述入库场景;在有车辆进入所述入库场景的情况下,对所述第一视图和所述第二视图进行预处理。
进一步地,在本发明实施例中,所述姿态识别方法还包括:在按照预设成像规则对所述重叠点进行处理之前,按照第二预设算法对所述重叠点进行筛选,获得筛选后重叠点;按照所述预设成像规则对所述筛选后重叠点进行处理。
在一种可能的实施方式中,分别从第一视图和第二视图中提取车辆最近边的点云信息,然后图像处理装置200进一步对点云信息进行处理。首先分别根据上述点云信息提取第一视图和第二视图中的特征点信息,例如在本发明实施例中,分别提取第一视图和第二视图中的SIFT角点信息,此时图像处理装置200根据第一视图的SIFT角点和第二视图的SIFT角点,按照特征匹配技术获得第一视图和第二视图的重叠点。
为了进一步提高对车辆识别的精确性,在获得上述重叠点后,图像处理装置200进一步根据随机抽样一致性(RANSAC,RANdomSAmple Consensus)方法对上述重叠点进行筛选,并获得筛选后重叠点。然后图像处理装置200再按照预设成像规则对筛选后重叠点进行处理,从而获得每个筛选后重叠点的深度信息,例如在本发明实施例中,按照如下计算规则计算深度信息:
其中,Z为深度距离,B为基线,f为相机的焦距。此时图像处理装置200进一步根据上述筛选后重叠点以及对应的深度信息生成对第一视图和第二视图的叠加图像。
在本发明实施例中,通过采用多个算法对获取到的第一视图和第二视图进行处理,并根据提取出的特征点和深度信息对第一视图和第二视图进行叠加,从而获得用于表征车辆的实际三维信息的叠加图像,从而大大提高在后续对车辆的姿态进行识别的识别精确性,同时,为了进一步提高计算精确性,还根据随机抽样一致性算法对重叠点进行筛选,从而进一步保证筛选出的重叠点的精确性。
另一方面,请参见图3,本发明实施例还提供一种输送车倒车入库引导系统,所述引导系统包括:图像采集装置100,配置于输送场景,用于采集所述输送场景的图像信息;图像处理装置200,与图像采集装置100电连接,用于基于所述图像信息获得所述输送车的姿态信息,基于所述姿态信息生成对应的倒车引导信息;信息提示装置300,与图像处理装置200电连接,用于基于所述倒车引导信息生成并输出对应的引导提示信息。
在一种可能的实施方式中,本发明实施例应用于搅拌站场景,在该搅拌站场景中包括一搅拌站卸料仓,在所述搅拌站卸料仓配置一个图像采集装置100,该图像采集装置100为配置于搅拌站卸料仓的出入口的双目相机,当有输送车进入搅拌站卸料仓时,图像处理装置200通过图像采集装置100实时采集的出入口处的图像信息识别出有输送车进入,因此立即对该输送车进行识别,例如在本发明实施例中,对该输送车进行姿态识别,例如实时识别出该输送车相对于图像采集装置100所在墙面的偏转角度以及距离信息,然后根据该输送车期望到达的目的地生成对应的倒车引导信息,并通过信息提示装置300向驾驶员播报该装倒车引导信息,例如提示该输送车转向对应角度并向内移动对应距离,从而达到目的地。
在本发明实施例中,图像采集装置100包括配置于所述输送场景的出入口的第一图像采集装置101和配置于所述输送场景的装卸点的第二图像采集装置102。
在本发明实施例中,第一图像采集装置101为双目相机,用于获取所述出入口的第一图像信息,所述第一图像信息为所述输送场景出入口的图像信息,第二图像采集装置102为单目相机,用于获取所述装卸点的第二图像信息。
请参见图4,在一种可能的实施方式中,第一图像采集装置101为一个双目相机,该双目相机设置在搅拌站卸料仓的入口处,第二图像采集装置102为一个单目相机,该单目相机设置在装卸点附近,图像处理装置200配置于搅拌站的控制中心。
在本发明实施例中,信息提示装置300包括但不限于显示器、喇叭等信息提示装置。
在实际应用过程中,通过第一图像采集装置101实时监控是否有输送车进入搅拌站卸料仓,例如在某一时刻,某输送车进入当前搅拌站卸料仓并进行混凝土装卸操作。此时第一图像采集装置101和第二图像采集装置102将实时采集到的图像信息发送至图像处理装置200,图像处理装置200在获取到上述图像信息后立即进行处理,从而生成对该输送车的倒车引导信息,例如图像处理装置200可以根据上述图像信息首先生成该输送车的姿态信息,例如该姿态信息为该输送车车身的侧面信息,然后根据该输送车的姿态信息以及待装卸货物的位置信息生成对该输送车的倒车引导信息,并通过上述信息提示装置300播放该倒车引导信息,例如通过在显示器上显示当前场景的实时监控画面,并在该实时监控画面上叠加显示引导输送车移动的倒车引导信息,从而辅助输送车移动到装卸点进行混凝土的装载操作。
需要说明的是,在本发明实施例中,也可以采用喇叭或显示器和喇叭的方式构成本发明实施例提供的信息提示装置300。
在本发明实施例中,通过对传统的输送车引导过程进行优化改进,通过构建一套输送车倒车入库的自动引导系统,当有输送车进入当前输送场景时,引导系统立即自动根据输送车的实时姿态信息生成对应的引导信息,驾驶员根据该引导信息能够快速、精确的将输送车驾驶到目的位置,而不再需要频繁下车查看或为驾驶员配备专门的指挥人员,大大降低了运营成本,提高了驾驶员的控制精确性以及工作效率。
同时,通过采用在输送场景布设引导系统的方式,相比于传统方法中在每辆汽车上设置图像监控系统或距离检测装置,还大大降低了企业的运营成本,提高了企业的经营效益。
在本发明实施例中,优选地,所述双目相机可以为中科慧眼smarteye,所述单目相机可以为海康威视DS-2CD3T46DWD-I5。
在本发明实施例中,优选地,图像处理装置200可以为研华IPC810。
在本发明实施例中,信息提示装置300配置于所述装卸货场景内并与所述图像处理装置200电连接。
在本发明实施例中,信息提示装置300配置于所述输送车内并与所述图像处理装置200无线连接。
另一方面,请参见图5,本发明实施例还提供一种输送车倒车入库的引导方法,应用于输送车的输送场景,所述输送场景包括配置于出入口的第一图像采集装置和配置于装卸点的第二图像采集装置,所述引导方法包括:
S10)通过所述第一图像采集装置获取输送车的入场姿态信息,所述入场姿态信息与所述第一图像采集装置的设置位置相关联;
S20)对所述入场姿态信息进行坐标变换,获得变换后信息,所述变换后信息与所述第二图像采集装置的设置位置相关联;
S30)基于所述变换后信息生成对应的倒车引导信息。
在一种可能的实施方式中,所述输送车为搅拌车,应用于混凝土搅拌站场景,首先在混凝土搅拌站场景布设倒车入库引导系统,在实际应用过程中,通过倒车入库引导系统中的第一图像采集装置101获取搅拌车的入场姿态信息,例如该第一图像采集装置101可以为双目摄像头。
由于第一图像采集装置101主要对装卸货场景的入口处的输送车进行识别和判断,因此在本发明实施例中,在获取到输送车的姿态信息后,为了进一步对输送车进行精确的引导,需要将输送车的姿态信息按照第二图像采集装置102的视角进行转换,并基于第二图像采集装置102的实时图像信息对输送车在装卸货场景内提供精确的引导。
在本发明实施例中,第一图像采集装置101和第二图像采集装置102固定设置,例如在本发明实施例中,第二图像采集装置102固定设置于搅拌站的出砼口上方并面向出砼口和搅拌站的入口设置,在通过第一图像采集装置101获取到输送车的姿态信息后,立即根据第一图像采集装置101和第二图像采集装置102的位置信息获取到第一图像和第二图像之间的位置关联信息,并根据该位置关联信息对上述姿态信息进行转换,例如对上述入场姿态信息进行坐标变换,即获得了基于第二图像采集装置102的输送车的姿态信息,即获得了变换后信息,此时进一步地,可以获取目的位置,例如在本发明实施例中,目的位置为出砼口位置,因此自动根据该目的位置和转换后姿态信息生成对输送车的倒车引导信息,例如生成输送车向左旋转30°然后向里行驶8m的倒车引导信息。
在本发明实施例中,通过在输送车进入运输场景的过程中,实时对输送车进行姿态分析和监控,从而根据运输场景的实际情况生成对该输送车的精确的引导信息,并用于对输送车的驾驶员进行精确的引导,而不再需要驾驶员频繁下来查看或配备专人指挥,从而一方面降低企业的运营成本,另一方面大大提高了驾驶员的停车精确性和控制难度,由于降低了输送车在运输场景频繁挪车所耗费的时间,因此同时还提高了驾驶员或搅拌站的工作效率,提高了企业的经营效益。
在本发明实施例中,所述基于所述变换后信息生成对应的倒车引导信息,包括:获取所述装卸点对应的目的位置;基于所述目的位置和所述变换后信息生成对应的倒车引导信息。
在本发明实施例中,所述输送车包括装货结构,所述引导方法还包括:获取所述输送车基于所述倒车引导信息的姿态变化信息;基于所述姿态变化信息判断所述装货结构与所述目的位置是否匹配;在所述装货结构与所述目的位置匹配的情况下,确定完成倒车引导;在所述装货结构与所述目的位置不匹配的情况下,基于所述姿态变化信息对所述倒车引导信息进行调整,获得调整后引导信息。
在本发明实施例中,所述基于所述姿态变化信息判断所述装货结构与所述目的位置是否匹配,包括:基于所述姿态变化信息获取所述装货结构与所述目的位置之间的位置偏差;判断所述位置偏差是否小于预设偏差阈值;若是,则确定所述装货结构与所述目的位置匹配;否则,确定所述装货结构与所述目的位置不匹配。
在本发明实施例中,所述基于所述姿态变化信息判断所述装货结构与所述目的位置是否匹配,包括:提取所述装货结构的第一特征和所述装卸点的第二特征;判断所述第一特征和所述第二特征是否重合;若是,则确定所述装货结构与所述目的位置匹配;否则,确定所述装货结构与所述目的位置不匹配。
在本发明实施例中,所述引导方法还包括:输出或播放所述倒车引导信息。
在一种可能的实施方式中,在生成倒车引导信息后,可以将该倒车引导信息向驾驶员播报或展示,例如在本发明实施例中,通过在搅拌站的入口设置喇叭,当根据输送车的姿态信息生成对应的引导信息后,通过该喇叭播报该引导信息。例如驾驶员在驾驶输送车进入当前场景时,喇叭播报“有车入库”的信息,并在获取到该输送车的精确姿态信息后,提示“请向右转动20°后直线往内行走6m”,此时驾驶员可以按照该倒车引导信息驾驶搅拌车进入当前搅拌站,而不必下车查看或配备专门的引导人员。
由于驾驶员在驾驶过程中,运输车的姿态在动态变化,因此为了进一步确保对驾驶员的引导的精确性和可靠性,在本发明实施例中,在输送车运行的过程中,根据输送车的实时姿态信息对引导信息进行实时变更,例如在输送车转动5°后,将引导信息更新为“请向右转动15°后直线往内行走5m”,并通过喇叭播报出来以向驾驶员进行指引。同时,还实时监控该运输车是否运行到位。
例如在本发明实施例中,将装卸点对应的位置作为目的位置,例如该装卸点为出砼口,在运输车的运行过程中,对输送车与出砼口之间的距离偏差进行实时监控,当输送车与出砼口之间的距离达到0.5m时,提示驾驶员“降低速度缓慢移动”,并在输送车与出砼口之间的距离偏差达到预设偏差距离(例如预设偏差距离为0.1m)时,生成并提示“您已运行到位,请停车”的移动到位提示信息。
在另一种可能的实施方式中,信息提示装置300包括配置于驾驶员的驾驶室的显示屏幕,该显示屏幕与图像处理装置200无线连接,在生成对输送车的引导信息后,图像处理装置200将对输送车的实时监控视频实时发送到该显示屏幕,并将引导信息叠加显示在该监控视频上同时对驾驶员进行显示,例如根据引导信息,将输送车与出砼口之间的角度和距离偏差进行可视化实时显示,驾驶员可以直接根据显示屏幕上的提示信息进行输送车的驾驶,并慢慢行驶到出砼口,直到提示移动到位提示信息为止。在对输送车进行实时监控的过程中,图像处理装置200通过提取输送车上装货结构的第一特征,例如在本发明实施例中,所述第一特征为搅拌车的入料口形状特征,以及提取出砼口的第二特征,例如所述第二特征为出砼口的形状特征,图像处理装置200实时监控上述出砼口的形状特征与输送车的入料口特征是否发生重合,若发生重合,则确定该输送车移动到位,并生成“您已运行到位,请停车”的移动到位提示信息。
在本发明实施例中,通过在传统的输送场景构建输送车倒车入库的自动引导系统,能够自动对装卸货场景进行实时监控,当有输送车进入当前装卸货场景时,能够自动根据输送车的实时运行姿态生成对应的引导信息,从而替代传统的驾驶员频繁下车查看或配备专人指挥的方式,大大减少了驾驶员的劳动前度,有效避免了因视觉盲区或指挥不当而导致的撞人或压壁事故的发生,提高了使用安全性。
另外,由于引导系统根据输送车的姿态信息进行实时的驾驶引导,因此大大提高了驾驶员对输送车在装卸货场景内的控制精确性,有效减少了因控制不精确而导致的频繁挪车所耗费的时间,因此大大提高了驾驶员或搅拌站的工作效率。
再者,通过采用自动化控制系统替代传统的人工控制,大大提高了装卸货场景的自动化智能化程度,进一步提高了企业的生产效率和经营效益,提高了控制精确性。
下面结合附图对本发明实施例所提供的车辆倒车入库的姿态识别装置和输送车倒车入库的自动引导装置进行说明。
请参见图6,基于同一发明构思,本发明实施例提供一种车辆倒车入库的姿态识别装置,所述姿态识别装置包括:图像采集模块,用于实时采集车辆场景的图像信息,所述图像信息包括第一图像,所述第一图像为所述车辆场景出入口的图像,所述第一图像包括第一视图和第二视图;预处理模块,用于对所述第一视图和所述第二视图进行预处理,获得第一预处理信息和第二预处理信息;叠加模块,用于按照第一预设规则对所述第一预处理信息和所述第二预处理信息进行叠加处理,获得所述车辆的叠加图像;第一处理模块,用于按照第二预设规则对所述叠加图像进行处理,获得所述姿态信息。
在本发明实施例中,所述第一处理模块包括:第一提取单元,用于在所述叠加图像中提取多个特征点;拟合单元,用于基于所述多个特征点生成姿态拟合信息,所述姿态拟合信息为拟合直线或拟合平面;姿态生成单元,用于基于所述姿态拟合信息获得所述姿态信息。
在本发明实施例中,所述姿态生成单元用于:基于所述拟合直线获取所述车辆的姿态角度信息和位置信息;基于所述姿态角度信息和所述位置信息生成所述姿态信息。
在本发明实施例中,所述第一提取单元用于:获取所述车辆的车体信息;在所述车体信息为表面规则车体的情况下,基于所述第一点信息和所述第二点信息获得所述多个特征点;在所述车体信息为表面不规则车体的情况下:按照预设筛选规则对所述叠加图像进行筛选,获得候选感兴趣区域;基于预设训练模型对所述候选感兴趣区域进行处理,获得处理后感兴趣区域;在所述处理后感兴趣区域中随机获取N个点作为所述特征点,其中N为大于三的正整数。
在本发明实施例中,所述拟合单元用于:在所述车体信息为所述表面规则车体的情况下:对所述多个特征点执行第一平面拟合操作,获得局部平面;对所述多个特征点执行排序操作,基于排序后的所述多个特征点对所述局部平面执行区域生长操作,获得联通平面;按照预设分割算法对所述联通平面进行处理,获得所述拟合平面;在所述车体信息为所述表面不规则车体的情况下:获取所述特征信息的三维信息;基于所述三维信息执行第二平面拟合操作,获得所述拟合平面。
在本发明实施例中,所述姿态生成单元用于:获取所述拟合平面对应的车辆法向量;获取预设基准法向量;基于所述车辆法向量和所述预设基准法向量生成所述姿态信息。
在本发明实施例中,所述叠加模块包括:第二提取单元,用于分别提取所述第一预处理信息中的第一点信息和所述第二预处理信息中的第二点信息;重叠点获取单元,用于按照第一预设算法获取在所述第一点信息和所述第二点信息中的重叠点;处理单元,用于按照预设成像规则对所述重叠点进行处理,获得每个所述重叠点的深度信息;叠加单元,用于基于所述深度信息对所述第一预处理信息和所述第二预处理信息执行叠加操作,生成所述车辆的所述叠加图像。
在本发明实施例中,所述姿态识别装置还包括车辆识别模块,所述车辆识别模块用于:在所述对所述第一视图和所述第二视图进行预处理之前,基于所述第一视图判断是否有车辆进入入库场景;在有车辆进入所述入库场景的情况下,对所述第一视图和所述第二视图进行预处理。
在本发明实施例中,所述叠加模块还包括筛选单元,所述筛选单元用于:在按照预设成像规则对所述重叠点进行处理之前,按照第二预设算法对所述重叠点进行筛选,获得筛选后重叠点;按照所述预设成像规则对所述筛选后重叠点进行处理。
请参见图7,基于同一发明构思,本发明实施例提供一种输送车倒车入库的引导装置,应用于输送车的输送场景,所述输送场景包括配置于出入口的第一图像采集装置和配置于装卸点的第二图像采集装置,所述引导装置包括:姿态获取模块,用于通过所述第一图像采集装置获取输送车的入场姿态信息,所述入场姿态信息与所述第一图像采集装置的设置位置相关联;变换模块,用于对所述入场姿态信息进行坐标变换,获得变换后信息,所述变换后信息与所述第二图像采集装置的设置位置相关联;引导模块,用于基于所述变换后信息生成对应的倒车引导信息。
在本发明实施例中,所述引导模块包括:目的位置获取单元,用于获取所述装卸点对应的目的位置;引导单元,用于基于所述目的位置和所述变换后信息生成对应的倒车引导信息。
在本发明实施例中,所述输送车包括装货结构,所述引导装置还包括调整引导模块,所述调整引导模块包括:变化获取单元,用于获取所述输送车基于所述倒车引导信息的姿态变化信息;匹配单元,用于基于所述姿态变化信息判断所述装货结构与所述目的位置是否匹配;确定单元,用于在所述装货结构与所述目的位置匹配的情况下,确定完成倒车引导;调整单元,用于在所述装货结构与所述目的位置不匹配的情况下,基于所述姿态变化信息对所述倒车引导信息进行调整,获得调整后引导信息。
在本发明实施例中,所述匹配单元用于:基于所述姿态变化信息获取所述装货结构与所述目的位置之间的位置偏差;判断所述位置偏差是否小于预设偏差阈值;若是,则确定所述装货结构与所述目的位置匹配;否则,确定所述装货结构与所述目的位置不匹配。
在本发明实施例中,所述匹配单元用于:提取所述装货结构的第一特征和所述装卸点的第二特征;判断所述第一特征和所述第二特征是否重合;若是,则确定所述装货结构与所述目的位置匹配;否则,确定所述装货结构与所述目的位置不匹配。
在本发明实施例中,所述引导装置还用于:输出或播放所述倒车引导信息。
进一步地,本发明实施例还提供一种计算机可读存储介质,其上存储有计算机程序,该程序被处理器执行时实现本发明实施例所述的方法。
以上结合附图详细描述了本发明实施例的可选实施方式,但是,本发明实施例并不限于上述实施方式中的具体细节,在本发明实施例的技术构思范围内,可以对本发明实施例的技术方案进行多种简单变型,这些简单变型均属于本发明实施例的保护范围。
另外需要说明的是,在上述具体实施方式中所描述的各个具体技术特征,在不矛盾的情况下,可以通过任何合适的方式进行组合。为了避免不必要的重复,本发明实施例对各种可能的组合方式不再另行说明。
本领域技术人员可以理解实现上述实施例方法中的全部或部分步骤是可以通过程序来指令相关的硬件来完成,该程序存储在一个存储介质中,包括若干指令用以使得单片机、芯片或处理器(processor)执行本申请各个实施例所述方法的全部或部分步骤。而前述的存储介质包括:U盘、移动硬盘、只读存储器(ROM,Read-Only Memory)、随机存取存储器(RAM,Random Access Memory)、磁碟或者光盘等各种可以存储程序代码的介质。
此外,本发明实施例的各种不同的实施方式之间也可以进行任意组合,只要其不违背本发明实施例的思想,其同样应当视为本发明实施例所公开的内容。

Claims (30)

1.一种车辆倒车入库的姿态识别方法,其特征在于,所述姿态识别方法包括:
实时采集入库场景的图像信息,所述图像信息包括第一图像,所述第一图像为所述入库场景出入口的图像,所述第一图像包括第一视图和第二视图;
对所述第一视图和所述第二视图进行预处理,获得第一预处理信息和第二预处理信息;
按照第一预设规则对所述第一预处理信息和所述第二预处理信息进行叠加处理,获得所述车辆的叠加图像;
按照第二预设规则对所述叠加图像进行处理,获得姿态信息;
其中,所述按照第一预设规则对所述第一预处理信息和所述第二预处理信息进行叠加处理,获得所述车辆的叠加图像,包括:
分别提取所述第一预处理信息中的第一点信息和所述第二预处理信息中的第二点信息;
按照第一预设算法获取在所述第一点信息和所述第二点信息中的重叠点;
按照预设成像规则对所述重叠点进行处理,获得每个所述重叠点的深度信息;
基于所述深度信息对所述第一预处理信息和所述第二预处理信息执行叠加操作,生成所述车辆的所述叠加图像;
其中,所述按照第二预设规则对所述叠加图像进行处理,获得所述姿态信息,包括:
在所述叠加图像中提取多个特征点;
基于所述多个特征点生成姿态拟合信息,所述姿态拟合信息为拟合直线或拟合平面;
基于所述姿态拟合信息获得所述姿态信息;
其中,所述在所述叠加图像中提取多个特征点,包括:
获取所述车辆的车体信息;
在所述车体信息为表面规则车体的情况下,基于所述第一点信息和所述第二点信息获得所述多个特征点;
在所述车体信息为表面不规则车体的情况下:
按照预设筛选规则对所述叠加图像进行筛选,获得候选感兴趣区域;
基于预设训练模型对所述候选感兴趣区域进行处理,获得处理后感兴趣区域;
在所述处理后感兴趣区域中随机获取N个点作为所述特征点,其中N为大于三的正整数。
2.根据权利要求1所述的姿态识别方法,其特征在于,所述基于所述姿态拟合信息获得所述姿态信息,包括:
基于所述拟合直线获取所述车辆的姿态角度信息和位置信息;
基于所述姿态角度信息和所述位置信息生成所述姿态信息。
3.根据权利要求1所述的姿态识别方法,其特征在于,所述基于所述多个特征点生成姿态拟合信息,包括:
在所述车体信息为所述表面规则车体的情况下:
对所述多个特征点执行第一平面拟合操作,获得局部平面;
对所述多个特征点执行排序操作,基于排序后的所述多个特征点对所述局部平面执行区域生长操作,获得联通平面;
按照预设分割算法对所述联通平面进行处理,获得所述拟合平面;
在所述车体信息为所述表面不规则车体的情况下:
获取所述特征信息的三维信息;
基于所述三维信息执行第二平面拟合操作,获得所述拟合平面。
4.根据权利要求1所述的姿态识别方法,其特征在于,所述基于所述拟合平面获得所述姿态信息,包括:
获取所述拟合平面对应的车辆法向量;
获取预设基准法向量;
基于所述车辆法向量和所述预设基准法向量生成所述姿态信息。
5.根据权利要求1所述的姿态识别方法,其特征在于,所述姿态识别方法还包括:
在所述对所述第一视图和所述第二视图进行预处理之前,基于所述第一视图判断是否有车辆进入所述入库场景;
在有车辆进入所述入库场景的情况下,对所述第一视图和所述第二视图进行预处理。
6.根据权利要求1所述的姿态识别方法,其特征在于,所述姿态识别方法还包括:
在按照预设成像规则对所述重叠点进行处理之前,按照第二预设算法对所述重叠点进行筛选,获得筛选后重叠点;
按照所述预设成像规则对所述筛选后重叠点进行处理。
7.一种输送车倒车入库引导系统,其特征在于,所述引导系统包括:
图像采集装置,配置于输送场景,用于采集所述输送场景的图像信息;
图像处理装置,与所述图像采集装置电连接,用于基于如权利要求1-6中任一权利要求所述的姿态识别方法对所述图像信息进行识别,获得所述输送场景中的输送车的姿态信息,基于所述姿态信息生成对应的倒车引导信息;
信息提示装置,与所述图像处理装置电连接,用于基于所述倒车引导信息生成并输出对应的引导提示信息。
8.根据权利要求7所述的引导系统,其特征在于,所述图像采集装置包括配置于所述输送场景的出入口的第一图像采集装置和配置于所述输送场景的装卸点的第二图像采集装置。
9.根据权利要求8所述的引导系统,其特征在于,所述第一图像采集装置为双目相机,用于获取所述出入口的第一图像信息,所述第一图像信息为所述输送场景出入口的图像信息,所述第二图像采集装置为单目相机,用于获取所述装卸点的第二图像信息。
10.根据权利要求7所述的引导系统,其特征在于,所述信息提示装置配置于所述输送场景内并与所述图像处理装置电连接。
11.根据权利要求7所述的引导系统,其特征在于,所述信息提示装置配置于所述输送车内并与所述图像处理装置无线连接。
12.一种输送车倒车入库的引导方法,应用于输送车的输送场景,所述输送场景包括配置于出入口的第一图像采集装置和配置于装卸点的第二图像采集装置,其特征在于,所述引导方法包括:
通过所述第一图像采集装置按照权利要求1-6中任一权利要求所述的姿态识别方法获取输送车的入场姿态信息,所述入场姿态信息与所述第一图像采集装置的设置位置相关联;
对所述入场姿态信息进行坐标变换,获得变换后信息,所述变换后信息与所述第二图像采集装置的设置位置相关联;
基于所述变换后信息生成对应的倒车引导信息。
13.根据权利要求12所述的引导方法,其特征在于,所述基于所述变换后信息生成对应的倒车引导信息,包括:
获取所述装卸点对应的目的位置;
基于所述目的位置和所述变换后信息生成对应的倒车引导信息。
14.根据权利要求13所述的引导方法,其特征在于,所述输送车包括装货结构,所述引导方法还包括:
获取所述输送车基于所述倒车引导信息的姿态变化信息;
基于所述姿态变化信息判断所述装货结构与所述目的位置是否匹配;
在所述装货结构与所述目的位置匹配的情况下,确定完成倒车引导;
在所述装货结构与所述目的位置不匹配的情况下,基于所述姿态变化信息对所述倒车引导信息进行调整,获得调整后引导信息。
15.根据权利要求14所述的引导方法,其特征在于,所述基于所述姿态变化信息判断所述装货结构与所述目的位置是否匹配,包括:
基于所述姿态变化信息获取所述装货结构与所述目的位置之间的位置偏差;
判断所述位置偏差是否小于预设偏差阈值;
若是,则确定所述装货结构与所述目的位置匹配;
否则,确定所述装货结构与所述目的位置不匹配。
16.根据权利要求14所述的引导方法,其特征在于,所述基于所述姿态变化信息判断所述装货结构与所述目的位置是否匹配,包括:
提取所述装货结构的第一特征和所述装卸点的第二特征;
判断所述第一特征和所述第二特征是否重合;
若是,则确定所述装货结构与所述目的位置匹配;
否则,确定所述装货结构与所述目的位置不匹配。
17.根据权利要求12-16中任一权利要求所述的引导方法,其特征在于,所述引导方法还包括:输出或播放所述倒车引导信息。
18.一种车辆倒车入库的姿态识别装置,其特征在于,所述姿态识别装置包括:
图像采集模块,用于实时采集入库场景的图像信息,所述图像信息包括第一图像,所述第一图像为所述入库场景出入口的图像,所述第一图像包括第一视图和第二视图;
预处理模块,用于对所述第一视图和所述第二视图进行预处理,获得第一预处理信息和第二预处理信息;
叠加模块,用于按照第一预设规则对所述第一预处理信息和所述第二预处理信息进行叠加处理,获得所述车辆的叠加图像;
第一处理模块,用于按照第二预设规则对所述叠加图像进行处理,获得所述姿态信息;
其中,所述叠加模块包括:
第二提取单元,用于分别提取所述第一预处理信息中的第一点信息和所述第二预处理信息中的第二点信息;
重叠点获取单元,用于按照第一预设算法获取在所述第一点信息和所述第二点信息中的重叠点;
处理单元,用于按照预设成像规则对所述重叠点进行处理,获得每个所述重叠点的深度信息;
叠加单元,用于基于所述深度信息对所述第一预处理信息和所述第二预处理信息执行叠加操作,生成所述车辆的所述叠加图像;
其中,所述第一处理模块包括:
第一提取单元,用于在所述叠加图像中提取多个特征点;
拟合单元,用于基于所述多个特征点生成姿态拟合信息,所述姿态拟合信息为拟合直线或拟合平面;
姿态生成单元,用于基于所述姿态拟合信息获得所述姿态信息;
其中,所述第一提取单元用于:
获取所述车辆的车体信息;
在所述车体信息为表面规则车体的情况下,基于所述第一点信息和所述第二点信息获得所述多个特征点;
在所述车体信息为表面不规则车体的情况下:
按照预设筛选规则对所述叠加图像进行筛选,获得候选感兴趣区域;
基于预设训练模型对所述候选感兴趣区域进行处理,获得处理后感兴趣区域;
在所述处理后感兴趣区域中随机获取N个点作为所述特征点,其中N为大于三的正整数。
19.根据权利要求18所述的姿态识别装置,其特征在于,所述姿态生成单元用于:
基于所述拟合直线获取所述车辆的姿态角度信息和位置信息;
基于所述姿态角度信息和所述位置信息生成所述姿态信息。
20.根据权利要求18所述的姿态识别装置,其特征在于,所述拟合单元用于:
在所述车体信息为所述表面规则车体的情况下:
对所述多个特征点执行第一平面拟合操作,获得局部平面;
对所述多个特征点执行排序操作,基于排序后的所述多个特征点对所述局部平面执行区域生长操作,获得联通平面;
按照预设分割算法对所述联通平面进行处理,获得所述拟合平面;
在所述车体信息为所述表面不规则车体的情况下:
获取所述特征信息的三维信息;
基于所述三维信息执行第二平面拟合操作,获得所述拟合平面。
21.根据权利要求18所述的姿态识别装置,其特征在于,所述姿态生成单元用于:
获取所述拟合平面对应的车辆法向量;
获取预设基准法向量;
基于所述车辆法向量和所述预设基准法向量生成所述姿态信息。
22.根据权利要求18所述的姿态识别装置,其特征在于,所述姿态识别装置还包括车辆识别模块,所述车辆识别模块用于:
在所述对所述第一视图和所述第二视图进行预处理之前,基于所述第一视图判断是否有车辆进入入库场景;
在有车辆进入所述入库场景的情况下,对所述第一视图和所述第二视图进行预处理。
23.根据权利要求18所述的姿态识别装置,其特征在于,所述叠加模块还包括筛选单元,所述筛选单元用于:
在按照预设成像规则对所述重叠点进行处理之前,按照第二预设算法对所述重叠点进行筛选,获得筛选后重叠点;
按照所述预设成像规则对所述筛选后重叠点进行处理。
24.一种输送车倒车入库的引导装置,应用于输送车的输送场景,所述输送场景包括配置于出入口的第一图像采集装置和配置于装卸点的第二图像采集装置,其特征在于,所述引导装置包括:
姿态获取模块,用于通过所述第一图像采集装置按照权利要求1-6中任一权利要求所述的姿态识别方法获取输送车的入场姿态信息,所述入场姿态信息与所述第一图像采集装置的设置位置相关联;
变换模块,用于对所述入场姿态信息进行坐标变换,获得变换后信息,所述变换后信息与所述第二图像采集装置的设置位置相关联;
引导模块,用于基于所述变换后信息生成对应的倒车引导信息。
25.根据权利要求24所述的引导装置,其特征在于,所述引导模块包括:
目的位置获取单元,用于获取所述装卸点对应的目的位置;
引导单元,用于基于所述目的位置和所述变换后信息生成对应的倒车引导信息。
26.根据权利要求25所述的引导装置,其特征在于,所述输送车包括装货结构,所述引导装置还包括调整引导模块,所述调整引导模块包括:
变化获取单元,用于获取所述输送车基于所述倒车引导信息的姿态变化信息;
匹配单元,用于基于所述姿态变化信息判断所述装货结构与所述目的位置是否匹配;
确定单元,用于在所述装货结构与所述目的位置匹配的情况下,确定完成倒车引导;
调整单元,用于在所述装货结构与所述目的位置不匹配的情况下,基于所述姿态变化信息对所述倒车引导信息进行调整,获得调整后引导信息。
27.根据权利要求26所述的引导装置,其特征在于,所述匹配单元用于:
基于所述姿态变化信息获取所述装货结构与所述目的位置之间的位置偏差;
判断所述位置偏差是否小于预设偏差阈值;
若是,则确定所述装货结构与所述目的位置匹配;
否则,确定所述装货结构与所述目的位置不匹配。
28.根据权利要求26所述的引导装置,其特征在于,所述匹配单元用于:
提取所述装货结构的第一特征和所述装卸点的第二特征;
判断所述第一特征和所述第二特征是否重合;
若是,则确定所述装货结构与所述目的位置匹配;
否则,确定所述装货结构与所述目的位置不匹配。
29.根据权利要求24-28中任一权利要求所述的引导装置,其特征在于,所述引导装置还用于:输出或播放所述倒车引导信息。
30.一种计算机可读存储介质,其上存储有计算机程序,其特征在于,该程序被处理器执行时实现权利要求1-6或权利要求12-17中任一项权利要求所述的方法。
CN202110188115.8A 2021-02-10 2021-02-10 车辆倒车入库的姿态识别方法及输送车倒车入库引导系统 Active CN112784814B (zh)

Priority Applications (1)

Application Number Priority Date Filing Date Title
CN202110188115.8A CN112784814B (zh) 2021-02-10 2021-02-10 车辆倒车入库的姿态识别方法及输送车倒车入库引导系统

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
CN202110188115.8A CN112784814B (zh) 2021-02-10 2021-02-10 车辆倒车入库的姿态识别方法及输送车倒车入库引导系统

Publications (2)

Publication Number Publication Date
CN112784814A CN112784814A (zh) 2021-05-11
CN112784814B true CN112784814B (zh) 2024-06-07

Family

ID=75761638

Family Applications (1)

Application Number Title Priority Date Filing Date
CN202110188115.8A Active CN112784814B (zh) 2021-02-10 2021-02-10 车辆倒车入库的姿态识别方法及输送车倒车入库引导系统

Country Status (1)

Country Link
CN (1) CN112784814B (zh)

Families Citing this family (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN113635451B (zh) * 2021-07-05 2023-01-13 中科云谷科技有限公司 用于搅拌车的方法、处理器及系统
CN113681724A (zh) * 2021-07-30 2021-11-23 三一专用汽车有限责任公司 搅拌车及控制方法、搅拌站及控制方法和对中控制系统
CN113928320B (zh) * 2021-10-13 2023-07-21 中科云谷科技有限公司 用于工程车辆的倒车引导方法、装置及处理器

Citations (7)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN202439686U (zh) * 2011-12-15 2012-09-19 中联重科股份有限公司 一种路面监控系统及包括该路面监控系统的车辆
CN103236064A (zh) * 2013-05-06 2013-08-07 东南大学 一种基于法向量的点云自动配准方法
CN104778721A (zh) * 2015-05-08 2015-07-15 哈尔滨工业大学 一种双目图像中显著性目标的距离测量方法
CN109631896A (zh) * 2018-07-23 2019-04-16 同济大学 一种基于车辆视觉和运动信息的停车场自主泊车定位方法
FR3078154A1 (fr) * 2018-02-21 2019-08-23 Psa Automobiles Sa Detection d’irregularites sur les routes
WO2020186444A1 (zh) * 2019-03-19 2020-09-24 深圳市大疆创新科技有限公司 物体检测方法、电子设备与计算机存储介质
CN112097732A (zh) * 2020-08-04 2020-12-18 北京中科慧眼科技有限公司 一种基于双目相机的三维测距方法、系统、设备及可读存储介质

Family Cites Families (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN104567758B (zh) * 2013-10-29 2017-11-17 同方威视技术股份有限公司 立体成像系统及其方法

Patent Citations (8)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN202439686U (zh) * 2011-12-15 2012-09-19 中联重科股份有限公司 一种路面监控系统及包括该路面监控系统的车辆
CN103236064A (zh) * 2013-05-06 2013-08-07 东南大学 一种基于法向量的点云自动配准方法
CN104778721A (zh) * 2015-05-08 2015-07-15 哈尔滨工业大学 一种双目图像中显著性目标的距离测量方法
FR3078154A1 (fr) * 2018-02-21 2019-08-23 Psa Automobiles Sa Detection d’irregularites sur les routes
EP3755595A1 (fr) * 2018-02-21 2020-12-30 PSA Automobiles SA Detection d'irregularites sur les routes
CN109631896A (zh) * 2018-07-23 2019-04-16 同济大学 一种基于车辆视觉和运动信息的停车场自主泊车定位方法
WO2020186444A1 (zh) * 2019-03-19 2020-09-24 深圳市大疆创新科技有限公司 物体检测方法、电子设备与计算机存储介质
CN112097732A (zh) * 2020-08-04 2020-12-18 北京中科慧眼科技有限公司 一种基于双目相机的三维测距方法、系统、设备及可读存储介质

Non-Patent Citations (6)

* Cited by examiner, † Cited by third party
Title
Omni-Directional Obstacle Detection for Vehicles Based on Depth Camera;Xiangmo Zhao等;《IEEE Access》;20200511;第8卷;93733-93748 *
Pseudo-LiDAR from visual depth estimation:Bridging the Gap in 3D Object Detection for Autonomous Driving;Yan Wang等;《arXiv》;20200222;1-16 *
基于ROI-RSICP算法的车轮廓形动态检测;易倩等;《中国激光》;20200817;第47卷(第11期);154-165 *
基于视觉的起重机吊装规划系统解决方案;范卿等;《建设机械技术与管理》;20200131;第33卷(第01期);71-77 *
激光雷达场景三维姿态点法向量估计方法;张楠等;《红外与激光工程》;20200131;第49卷(第01期);1-8 *
结合目标检测与双目视觉的三维车辆姿态检测;赵邢等;《计算机辅助设计与图形学学报》;20190915;第31卷(第09期);1518-1527 *

Also Published As

Publication number Publication date
CN112784814A (zh) 2021-05-11

Similar Documents

Publication Publication Date Title
CN112784814B (zh) 车辆倒车入库的姿态识别方法及输送车倒车入库引导系统
US20220076444A1 (en) Methods and apparatuses for object detection, and devices
US11915502B2 (en) Systems and methods for depth map sampling
CN110163904B (zh) 对象标注方法、移动控制方法、装置、设备及存储介质
US10402646B2 (en) Object detection and avoidance for aerial vehicles
EP3683721B1 (en) A material handling method, apparatus, and system for identification of a region-of-interest
US9465997B2 (en) System and method for detection and tracking of moving objects
US11669972B2 (en) Geometry-aware instance segmentation in stereo image capture processes
EP3644276A1 (en) Methods and systems for the fast estimation of three-dimensional bounding boxes and drivable surfaces using lidar point clouds
US8379928B2 (en) Obstacle detection procedure for motor vehicle
US10522039B2 (en) Pedestrian recognition apparatus and method
WO2018215861A1 (en) System and method for pedestrian detection
EP2741234B1 (en) Object localization using vertical symmetry
CN111967396A (zh) 障碍物检测的处理方法、装置、设备及存储介质
Liu et al. Vision-based long-distance lane perception and front vehicle location for full autonomous vehicles on highway roads
CN113850872A (zh) 一种基于高位视频的服务区停车压线检测方法
EP4071684A1 (en) Warehouse monitoring system
CN115083199B (zh) 一种车位信息确定方法及其相关设备
CN117274380A (zh) 飞机廊桥靠接状态实时检测方法以及相关设备
CN111591284A (zh) 基于单目识别的视野盲区避障方法及装置
EP4177694A1 (en) Obstacle detection device and obstacle detection method
CN113971789A (zh) 用于检测的方法和计算系统
CN111332305A (zh) 一种主动预警型交通道路感知辅助驾驶预警系统
CN117292352B (zh) 面向开放世界目标检测的障碍识别与避障方法及小车系统
US20230267749A1 (en) System and method of segmenting free space based on electromagnetic waves

Legal Events

Date Code Title Description
PB01 Publication
PB01 Publication
SE01 Entry into force of request for substantive examination
SE01 Entry into force of request for substantive examination
GR01 Patent grant