CN114663458A - 动态标定方法、装置、驾驶状态检测方法、介质及设备 - Google Patents
动态标定方法、装置、驾驶状态检测方法、介质及设备 Download PDFInfo
- Publication number
- CN114663458A CN114663458A CN202210567147.3A CN202210567147A CN114663458A CN 114663458 A CN114663458 A CN 114663458A CN 202210567147 A CN202210567147 A CN 202210567147A CN 114663458 A CN114663458 A CN 114663458A
- Authority
- CN
- China
- Prior art keywords
- vehicle
- position information
- internal structure
- points
- curve
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Granted
Links
Images
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T7/00—Image analysis
- G06T7/10—Segmentation; Edge detection
- G06T7/13—Edge detection
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
- G06N3/00—Computing arrangements based on biological models
- G06N3/02—Neural networks
- G06N3/04—Architecture, e.g. interconnection topology
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
- G06N3/00—Computing arrangements based on biological models
- G06N3/02—Neural networks
- G06N3/08—Learning methods
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T7/00—Image analysis
- G06T7/70—Determining position or orientation of objects or cameras
- G06T7/73—Determining position or orientation of objects or cameras using feature-based methods
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T7/00—Image analysis
- G06T7/80—Analysis of captured images to determine intrinsic or extrinsic camera parameters, i.e. camera calibration
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T2207/00—Indexing scheme for image analysis or image enhancement
- G06T2207/20—Special algorithmic details
- G06T2207/20081—Training; Learning
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T2207/00—Indexing scheme for image analysis or image enhancement
- G06T2207/20—Special algorithmic details
- G06T2207/20084—Artificial neural networks [ANN]
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T2207/00—Indexing scheme for image analysis or image enhancement
- G06T2207/20—Special algorithmic details
- G06T2207/20112—Image segmentation details
- G06T2207/20164—Salient point detection; Corner detection
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T2207/00—Indexing scheme for image analysis or image enhancement
- G06T2207/30—Subject of image; Context of image processing
- G06T2207/30244—Camera pose
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T2207/00—Indexing scheme for image analysis or image enhancement
- G06T2207/30—Subject of image; Context of image processing
- G06T2207/30248—Vehicle exterior or interior
- G06T2207/30268—Vehicle interior
-
- Y—GENERAL TAGGING OF NEW TECHNOLOGICAL DEVELOPMENTS; GENERAL TAGGING OF CROSS-SECTIONAL TECHNOLOGIES SPANNING OVER SEVERAL SECTIONS OF THE IPC; TECHNICAL SUBJECTS COVERED BY FORMER USPC CROSS-REFERENCE ART COLLECTIONS [XRACs] AND DIGESTS
- Y02—TECHNOLOGIES OR APPLICATIONS FOR MITIGATION OR ADAPTATION AGAINST CLIMATE CHANGE
- Y02T—CLIMATE CHANGE MITIGATION TECHNOLOGIES RELATED TO TRANSPORTATION
- Y02T10/00—Road transport of goods or passengers
- Y02T10/10—Internal combustion engine [ICE] based vehicles
- Y02T10/40—Engine management systems
Landscapes
- Engineering & Computer Science (AREA)
- Physics & Mathematics (AREA)
- Theoretical Computer Science (AREA)
- General Physics & Mathematics (AREA)
- Computer Vision & Pattern Recognition (AREA)
- Computational Linguistics (AREA)
- Molecular Biology (AREA)
- Artificial Intelligence (AREA)
- Biomedical Technology (AREA)
- Biophysics (AREA)
- Health & Medical Sciences (AREA)
- Data Mining & Analysis (AREA)
- Evolutionary Computation (AREA)
- General Health & Medical Sciences (AREA)
- Life Sciences & Earth Sciences (AREA)
- Computing Systems (AREA)
- General Engineering & Computer Science (AREA)
- Mathematical Physics (AREA)
- Software Systems (AREA)
- Image Analysis (AREA)
- Traffic Control Systems (AREA)
- Image Processing (AREA)
Abstract
本申请公开了一种动态标定方法、装置、驾驶状态检测方法、介质及设备,属于数据处理技术领域。该方法主要包括:根据车载相机拍摄的具有车辆内部结构的图像,在图像中选取一个或多个区域;对区域进行定位,获取区域中角点的位置信息;将角点的位置信息输入预设的神经网络模型中,获取区域中曲线上的一个或多个点的位置信息;利用在预建立的车身坐标系中车辆内部结构的位置信息与点的位置信息,获取车辆与车载相机之间外参矩阵。将带有驾驶疲劳检测系统(DMS)的相机布置于方向盘的管柱上,使用动态标定的方式获取相机坐标系与车身坐标系之间准确外参矩阵,从而为获知驾驶员在驾驶车辆过程中的视线方向,以准确判断驾驶员是否分心提供准确条件。
Description
技术领域
本申请涉及数据处理技术领域,特别涉及一种动态标定方法、装置、驾驶状态检测方法、介质及设备。
背景技术
在自动驾驶领域中,相机的外参标定是将相机坐标系下的感知结果转化到车身坐标系下,例如,将通过摄像头获取的相机坐标系下的驾驶员的视线方向转换到车身坐标系下,即可获知驾驶员当前的视线方向,从而判断驾驶员在驾驶车辆的过程中是否分心。
在现有技术中,判断驾驶员在驾驶车辆的过程中是否分心的方法,多采用将带有驾驶疲劳检测系统的DMS相机布置于安全气囊上盖等部位,利用DMS相机实时采集驾驶员面容等信息,以通过面容等信息判断驾驶员是否分心。前述将DMS相机布置于相对于车身静态的安全气囊上盖等部位的方式,相机的外参矩阵为固定值,在车辆行驶过程中不会发生变化,避免因外参的变化使得转换过程出现错误,进而使得后续的判断失误,影响系统精度。
然而,在上述的静态标定方式中,为了避免遮挡驾驶员的视线,DMS相机布置的位置多低于驾驶员的面容,致使DMS相机在采集驾驶员面容时,由于视角的原因,在采集的信息中存在没有完整面容的信息,并且DMS相机布置的位置与驾驶员的位置存在一定差别,因此利用该静态标定方式获知的驾驶员的视线方向,与驾驶员真实的视线方向存在差别,使得后续出现误判的情况。
发明内容
针对现有技术存在的利用该静态标定方式获知的驾驶员的视线方向,与驾驶员真实的视线方向存在差别,使得后续出现误判的情况的问题,本申请主要提供一种动态标定方法、装置、驾驶状态检测方法、介质及设备。
第一方面,本申请实施例提供一种动态标定方法,其包括:根据车载相机拍摄的具有车辆内部结构的图像,在图像中选取由车辆内部结构合围成的一个或多个区域;在图像中对区域进行定位,获取区域中角点的位置信息,其中角点为车辆内部结构对应轮廓的边缘点;将角点的位置信息输入预设的神经网络模型中,获取区域中曲线上的一个或多个点的位置信息,其中曲线为车辆内部结构对应轮廓的轮廓线,角点在曲线上;以及利用在预建立的车身坐标系中车辆内部结构的位置信息与点的位置信息,获取车辆与车载相机之间外参矩阵。
第二方面,本申请实施例提供一种驾驶状态检测方法,其包括:根据车载相机拍摄的具有车辆内部结构的图像,在图像中选取由车辆内部结构合围成的一个或多个区域;在图像中对区域进行定位,获取区域中角点的位置信息,其中角点为车辆内部结构对应轮廓的边缘点;将角点的位置信息输入预设的神经网络模型中,获取区域中曲线上的一个或多个点的位置信息,其中曲线为车辆内部结构对应轮廓的轮廓线,角点在曲线上;利用在预建立的车身坐标系中车辆内部结构的位置信息与点的位置信息,获取车辆与车载相机之间外参矩阵;利用外参矩阵对车载相机实时拍摄的驾驶员面容进行解析,获得驾驶员当前的视线方向;以及对视线方向进行分析,获知驾驶员当前的驾驶状态。
第三方面,本申请实施例提供一种动态标定装置,其包括:区域选取模块,其用于根据车载相机拍摄的具有车辆内部结构的图像,在图像中选取由车辆内部结构合围成的一个或多个区域;定位模块,其用于在图像中对区域进行定位,获取区域中角点的位置信息,其中角点为车辆内部结构对应轮廓的边缘点;曲线位置预测模块,其用于将角点的位置信息输入预设的神经网络模型中,获取区域中曲线上的一个或多个点的位置信息,其中曲线为车辆内部结构对应轮廓的轮廓线,角点在曲线上;以及外参获取模块,其用于利用在预建立的车身坐标系中车辆内部结构的位置信息与点的位置信息,获取车辆与车载相机之间外参矩阵。
第四方面,本申请实施例提供一种计算机可读存储介质,该计算机可读存储介质存储有计算机指令,计算机指令被执行时,使得计算机执行上述方案中的动态标定方法或驾驶状态检测方法。
第五方面,本申请实施例提供一种计算机设备,该计算机设备包括处理器和存储器,存储器存储有计算机指令,该计算机指令被操作以执行上述方案中的动态标定方法或驾驶状态检测方法。
本申请实施例的技术方案通过对以车载相机为中心拍摄的图像中的车辆内部结构进行定位,根据车辆内部结构在图像中的位置信息与其在自车的车身坐标系下的位置信息计算获取DMS相机与车身坐标系之间转换的外参矩阵;其中由于车载相机的中心位置可以根据用户对驾驶员面容拍摄的完整性的需求进行变动,而车辆内部结构为固定不变的物体,因此将车辆内部结构作为参照物,无论车载相机的中心位置如何变化,使得利用该参照物确定的外参矩阵的准确性均得以保证,提高动态标定的准确率。
附图说明
为了更清楚地说明本申请实施例或现有技术中的技术方案,下面将对实施例或现有技术描述中所需要使用的附图作以简单地介绍,显而易见地,下面描述中的附图是本申请的一些实施例,对于本领域普通技术人员来讲,在不付出创造性劳动性的前提下,还可以根据这些附图获得其他的附图。
图1是本申请一种动态标定方法的一个可选实施方式的示意图;
图2是本申请一种驾驶状态检测方法的一个可选实施方式的示意图;
图3是本申请一种动态标定装置的一个可选实施方式的示意图。
通过上述附图,已示出本申请明确的实施例,后文中将有更详细的描述。这些附图和文字描述并不是为了通过任何方式限制本申请构思的范围,而是通过参考特定实施例为本领域技术人员说明本申请的概念。
具体实施方式
下面结合附图对本申请的较佳实施例进行详细阐述,以使本申请的优点和特征能更易于被本领域技术人员理解,从而对本申请的保护范围做出更为清楚明确的界定。
需要说明的是,在本文中,诸如第一和第二等之类的关系术语仅仅用来将一个实体或者操作与另一个实体或操作区分开来,而不一定要求或者暗示这些实体或操作之间存在任何这种实际的关系或者顺序。而且,术语“包括”、“包含”或者其任何其他变体意在涵盖非排他性的包含,从而使得包括一系列要素的过程、方法、物品或者设备不仅包括那些要素,而且还包括没有明确列出的其他要素,或者是还包括为这种过程、方法、物品或者设备所固有的要素。在没有更多限制的情况下,由语句“包括……”限定的要素,并不排除在包括所述要素的过程、方法、物品或者设备中还存在另外的相同要素。
在自动驾驶领域中,相机的外参标定是将相机坐标系下的感知结果转化到车身坐标系下,例如,将通过摄像头获取的相机坐标系下的驾驶员视线方向转换到车身坐标系下,即可获知驾驶员当前的视线方向,从而判断驾驶员在驾驶车辆的过程中是否分心。
在现有技术中,判断驾驶员在驾驶车辆的过程中是否分心的方法,多采用将带有驾驶疲劳检测系统的DMS相机布置于安全气囊上盖等部位,利用DMS相机实时采集驾驶员面容等信息,以通过面容等信息判断驾驶员是否分心。前述将DMS相机布置于相对于车身静态的安全气囊上盖等部位的方式,相机的外参矩阵为固定值,在车辆行驶过程中不会发生变化,避免因外参的变化使得转换过程出现错误,进而使得后续的判断失误,影响系统精度。然而,在上述的静态标定方式中,为了避免遮挡驾驶员的视线,DMS相机布置的位置多低于驾驶员的面容,致使DMS相机在采集驾驶员面容时,由于视角的原因,在采集的信息中存在没有完整面容的信息,并且DMS相机布置的位置与驾驶员的位置存在一定差别,因此利用该静态标定方式获知的驾驶员的视线方向,与驾驶员真实的视线方向存在差别,使得后续出现误判的情况。
针对现有技术存在的问题,本申请主要提供一种动态标定方法、装置、驾驶状态检测方法、介质及设备。其中动态标定方法包括:根据车载相机拍摄的具有车辆内部结构的图像,在图像中选取由车辆内部结构合围成的一个或多个区域;在图像中对区域进行定位,获取区域中角点的位置信息,其中角点为车辆内部结构对应轮廓的边缘点;将角点的位置信息输入预设的神经网络模型中,获取区域中曲线上的一个或多个点的位置信息,其中曲线为车辆内部结构对应轮廓的轮廓线,角点在曲线上;以及利用在预建立的车身坐标系中车辆内部结构的位置信息与点的位置信息,获取车辆与车载相机之间外参矩阵。
通过对以车载相机为中心拍摄的图像中的车辆内部结构进行定位,根据车辆内部结构在图像中的位置信息与其在自车的车身坐标系下的位置信息计算获取DMS相机与车身坐标系之间转换的外参矩阵;其中由于车载相机的中心位置可以根据用户对驾驶员面容拍摄的完整性的需求进行变动,而车辆内部结构为固定不变的物体,因此将车辆内部结构作为参照物,无论车载相机的中心位置如何变化,使得利用该参照物确定的外参矩阵的准确性均得以保证,提高动态标定的准确率。例如,将带有驾驶疲劳检测系统(DMS)的相机布置于方向盘的管柱上,根据用户需求动态调节的方向盘的管柱,计算DMS相机与车身坐标系之间转换的外参矩阵,从而为获知驾驶员在驾驶车辆过程中的视线方向,以准确判断驾驶员是否分心提供准确条件。
下面,以具体的实施例对本申请的技术方案以及本申请的技术方案如何解决上述技术问题进行详细说明。下面述及的具体的实施例可以相互结合形成新的实施例。对于在一个实施例中描述过的相同或相似的思想或过程,可能在其他某些实施例中不再赘述。下面将结合附图,对本申请的实施例进行描述。
图1示出了本申请一种动态标定方法的一个可选实施方式。
在图1所示的可选实施方式中,动态标定方法主要包括步骤S101,根据车载相机拍摄的具有车辆内部结构的图像,在图像中选取由车辆内部结构合围成的一个或多个区域。
该可选实施方式中,车载相机包括带有驾驶疲劳检测系统的DMS相机,由于使用该相机的目的是检测驾驶员在驾驶车辆的过程中是否分心,因此该车载相机的朝向是面向车内,拍摄的范围为包括驾驶员在内的车辆内部。而由于检测驾驶员在驾驶车辆的过程中是否分心的过程需要车载相机是实时拍摄包括驾驶员在内的车辆内部图像,对图像进行相应的分析从而获取外参矩阵,因此,本申请在车载相机拍摄范围内选取一个或多个区域,作为定点位置,为后续根据区域在图像中的位置以及区域在车辆中的位置计算相机坐标系与车身坐标系之间转换的外参矩阵提供条件。其中,区域为车辆内部结构中不因方向盘调节而变化的部件组成的位置。
在本申请的一个可选实例中,上述的区域包括但不限于天窗后方、天窗左侧、车窗密封条、顶棚、B柱的交线、B柱和顶棚的交线、B柱上安全带滑槽等任意多个结构合围而成。
在图1所示的可选实施方式中,动态标定方法,还包括步骤S102,在图像中对区域进行定位,获取区域中角点的位置信息,其中角点为车辆内部结构对应轮廓的边缘点。
在该可选实施方式中,根据区域在图像中的位置,进行定位,获取区域在图像中的角点的位置信息,为后续计算相机坐标系与车身坐标系之间转换的外参矩阵提供基础。
在本申请的一个可选实施例中,在图像中对区域进行定位,获取区域中的角点的位置信息,进一步包括:在图像中对区域进行粗定位,确定区域所在的定位区域;利用预设的神经网络模型对定位区域进行细定位,获取角点的位置信息。
在该可选实施例中,首先在图像中将选定的区域裁取出来,获得该区域所在的定位区域,再将该区域所在的定位区域输入预设的神经网络模型中获取该区域中的角点的位置信息,其中粗定位的过程,使得输入神经网络模型中的数据量减少,降低神经网络模型的运算量,以便神经网络模型迅速对该区域所在的定位区域进行细定位,获取准确的角点的位置信息。
在图1所示的可选实施方式中,动态标定方法,还包括步骤S103,将角点的位置信息输入预设的神经网络模型中,获取区域中曲线上的一个或多个点的位置信息,其中曲线为车辆内部结构对应轮廓的轮廓线,角点在曲线上。
在该可选实施方式中,对区域内的角点的位置信息进行填充,获取该区域对应的曲线,将曲线输入神经网络模型中,获取曲线上的一个或多个点的位置信息,为后续计算准确的外参矩阵提供基础。
在本申请的一个可选实施例中,将角点的位置信息输入预设的神经网络模型中,获取区域中曲线上的一个或多个点的位置信息,进一步包括:利用神经网络模型对曲线进行等分,获取曲线的N等分点及其分别对应的位置信息,其中N为大于0的自然数。
在该可选实施例中,将该区域对应的曲线输入神经网络模型中,获取曲线的N等分点,将N等分点作为该曲线上的一个或多个点的位置信息,其中曲线可以为天线左侧曲线、B柱曲线等车辆内部结构轮廓对应的曲线。
在本申请的一个可选实施例中,将角点的位置信息输入预设的神经网络模型中,获取区域中曲线上的一个或多个点的位置信息,还包括:利用神经网络模型计算N等分点的置信度。
在该可选实施例中,将该区域对应的曲线输入神经网络模型中,获取曲线的N等分点与N等分点分别对应的置信度,将N等分点作为该曲线上的一个或多个点的位置信息,则前述置信度即为点的位置信息分别对应的置信度,其中曲线可以为天线左侧曲线、B柱曲线等车辆内部结构对应的曲线。本方案利用神经网络模型计算N等分点的置信度的过程为后续根据置信度过滤曲线上的点,过滤后再计算外参矩阵的过程提供基础,使得最终获得的外参矩阵的精度更高。
在图1所示的可选实施方式中,动态标定方法,还包括步骤S104,利用在预建立的车身坐标系中车辆内部结构的位置信息与点的位置信息,获取车辆与车载相机之间外参矩阵。
在该可选实施方式中,根据车辆内部结构与曲线上的点分别在车辆坐标系下的位置信息;其中,确定曲线上的点在车辆坐标系下的信息的过程可以为,由于曲线上的点的位置信息为曲线在图像中的2D的位置信息,因此利用曲线上的点在车辆坐标系下的位置信息与曲线上的点在图像中的2D的位置信息,计算获取两者之间的转换参数,即车辆与车载相机之间外参矩阵,在本方案中,由于使用车辆内部结构的部件等不因方向盘管柱的调节变化而随之变化的固定的物体作为参照物,因此获取的外参矩阵精度高。
在本申请的一个可选实施例中,利用在预建立的车身坐标系中车辆内部结构的位置信息与点的位置信息,获取车辆与车载相机之间外参矩阵之前,还包括:根据车载相机在车身坐标系中的位置确定车载相机的位置信息;根据车载相机的位置信息确定车辆与车载相机之间的初始外参矩阵。
在该可选实施例中,在计算获取外参矩阵之前,首先确定该相机坐标系与车辆坐标系之间的转换的初始外参矩阵,其中确定初始外参矩阵的过程为:根据车载相机在车身坐标系中的位置确定相机对应的相机的位置信息,利用车载相机的位置信息合围而成相机所在区域的边线,延长互为对边的两条边线于一交点,该交点即为相机活动的轴心;利用车载相机的位置信息和两条边线分别与水平面之间的夹角计算车载相机所在区域中任一点在相机坐标系与车身坐标系之间转换对应的单个外参矩阵,遍历车载相机所在区域中所有点,计算每一点分别对应的单个外参矩阵,将进行重投影后误差最小的单个外参矩阵作为初始外参矩阵。本申请确定初始外参矩阵的过程为后续确定的外参矩阵提供更好的收敛域,以初始外参矩阵为基础,优化获得外参矩阵以使得获得外参矩阵的过程更加便捷,减少运算量。
在本申请的一个可选实施例中,利用在预建立的车身坐标系中车辆内部结构的位置信息与点的位置信息,获取车辆与车载相机之间外参矩阵,进一步包括:根据预设的目标函数对车辆内部结构的位置信息与点的位置信息进行非线性最小二乘优化,获取外参矩阵。
在该可选实施例中,计算获取外参矩阵的过程为利用车身坐标系下的车辆内部结构的位置信息与曲线上的点的位置信息,通过预设的目标函数进行非线性最小二乘优化,计算获得车辆内部结构的位置信息与曲线上的点的位置信息之间的转换关系,即外参矩阵。
需要说明的是,非线性最小二乘优化的计算过程为:
在本申请的一个可选实施例中,利用在预建立的车身坐标系中车辆内部结构的位置信息与点的位置信息,进一步包括:将车辆内部结构的位置信息与点的位置信息转换到同一坐标系下,在同一坐标系下计算获取外参矩阵,其中,可利用初始外参矩阵将车辆内部结构的位置信息转换到相机坐标系下,或利用初始外参矩阵将点的位置信息转换到车身坐标系下。
在该可选实施例中,在计算的过程中,由于车辆内部结构的位置信息为3D信息,曲线上的点的位置信息为2D信息,因此需要将车辆内部结构的位置信息与曲线上的点的位置信息转换到同一坐标系下再进行后续的计算,因此可根据初始外参矩阵将车辆内部结构的位置信息转换到相机坐标系下,并根据相机内参矩阵将曲线上的点的位置信息转换到相机坐标系下,或将曲线上的点的位置信息转换到车身坐标系下,再进行后续计算;具体所用作转换的坐标系本申请在此不进行约束。
在本申请的一个可选实例中,以将车辆内部结构的位置信息转换到相机坐标系下为例,将曲线上的点的位置信息转换到相机坐标系下,获取曲线上的点的位置信息分别对应的转换点的位置信息;根据初始外参矩阵,将车辆内部结构的位置信息转换到相机坐标系下,获得车辆内部结构的位置信息对应的经转换的车辆内部结构的位置信息;在相机坐标系下搜索与转换点的位置信息距离最近的经转换的车辆内部结构的位置信息作为对应的车辆内部结构的位置信息;利用对应的车辆内部结构的位置信息与转换点的位置信息,计算获取外参矩阵。
此外,在将曲线上的点的位置信息转换到相机坐标系下之前,根据前述获得的曲线上的点的位置信息分别对应的置信度,对曲线上的点进行置信度过滤,再将经过滤的曲线上的点去除畸变后,转换到相机坐标系下,提高外参矩阵的精度。
在本申请的一个可选实施例中,动态标定方法,还包括:对外参矩阵进行校验,当外参矩阵在预设合格范围内时,将外参矩阵作为目标外参矩阵输出。
在该可选实施例中,预先设定合理的误差范围,随机选取车辆内部的固定物体作为参照物,利用外参矩阵将参照物对应车身坐标系下的坐标信息转换到相机坐标系下,与图像中参照物在相机坐标系下的坐标系进行比较,若两者之间的误差在预设合格范围内,则将外参矩阵作为目标外参矩阵输出,确保外参矩阵的精度,避免中间环节出现差错导致计算获得的目标外参矩阵的精度受影响。
图2示出了本申请一种驾驶状态检测方法的可选实施方式。
在图2所示的可选实施方式中,驾驶状态检测方法主要包括:步骤S201,根据车载相机拍摄的具有车辆内部结构的图像,在图像中选取由车辆内部结构合围成的一个或多个区域;步骤S202,在图像中对区域进行定位,获取区域中角点的位置信息,其中角点为车辆内部结构对应轮廓的边缘点;步骤S203,将角点的位置信息输入预设的神经网络模型中,获取区域中曲线上的一个或多个点的位置信息,其中曲线为车辆内部结构对应轮廓的轮廓线,角点在曲线上;步骤S204,利用在预建立的车身坐标系中车辆内部结构的位置信息与点的位置信息,获取车辆与车载相机之间外参矩阵;步骤S205,利用外参矩阵对车载相机实时拍摄的驾驶员面容进行解析,获得驾驶员当前的视线方向;步骤S206,对视线方向进行分析,获知驾驶员当前的驾驶状态。
在该可选实施方式中,步骤S201-步骤S204获取外参矩阵的过程均与前述的动态标定方法类似,在此不再赘述,步骤S205-步骤S206为获取外参矩阵之后,利用相机拍摄驾驶员的面容,以获取驾驶员的视线方向,从而得知驾驶员在驾驶车辆过程中是否分心,例如打瞌睡,视线长时间偏移不集中等现象。
本申请提供的驾驶状态检测方法,可用于执行上述任一实施例描述的动态标定方法,其实现原理和技术效果类似,在此不再赘述。
图3示出了本申请一种动态标定装置的可选实施方式。
在图3所示的可选实施方式中,动态标定装置主要包括:区域选取模块301,其用于根据车载相机拍摄的具有车辆内部结构的图像,在图像中选取由车辆内部结构合围成的一个或多个区域;定位模块302,其用于在图像中对区域进行定位,获取区域中角点的位置信息,其中角点为车辆内部结构对应轮廓的边缘点;曲线位置预测模块303,其用于将角点的位置信息输入预设的神经网络模型中,获取区域中曲线上的一个或多个点的位置信息,其中曲线为车辆内部结构对应轮廓的轮廓线,角点在曲线上;外参获取模块304,其用于利用在预建立的车身坐标系中车辆内部结构的位置信息与点的位置信息,获取车辆与车载相机之间外参矩阵。
在本申请的一个可选实施例中,本申请一种动态标定装置中各功能模块可直接在硬件中、在由处理器执行的软件模块中或在两者的组合中。
软件模块可驻留在RAM存储器、快闪存储器、ROM存储器、EPROM存储器、EEPROM存储器、寄存器、硬盘、可装卸盘、CD-ROM或此项技术中已知的任何其它形式的存储介质中。示范性存储介质耦合到处理器,使得处理器可从存储介质读取信息和向存储介质写入信息。
处理器可以是中央处理单元(英文:Central Processing Unit,简称:CPU),还可以是其他通用处理器、数字信号处理器(英文:Digital Signal Processor,简称:DSP)、专用集成电路(英文:Application Specific Integrated Circuit,简称:ASIC)、现场可编程门阵列(英文:Field Programmable Gate Array,简称:FPGA)或其它可编程逻辑装置、离散门或晶体管逻辑、离散硬件组件或其任何组合等。通用处理器可以是微处理器,但在替代方案中,处理器可以是任何常规处理器、控制器、微控制器或状态机。处理器还可实施为计算装置的组合,例如DSP与微处理器的组合、多个微处理器、结合DSP核心的一个或一个以上微处理器或任何其它此类配置。在替代方案中,存储介质可与处理器成一体式。处理器和存储介质可驻留在ASIC中。ASIC可驻留在用户终端中。在替代方案中,处理器和存储介质可作为离散组件驻留在用户终端中。
本申请提供的动态标定装置,可用于执行上述任一实施例描述的动态标定方法,其实现原理和技术效果类似,在此不再赘述。
在本申请的另一个可选实施方式中,一种计算机可读存储介质,其存储有计算机指令,计算机指令被操作以执行上述实施例中描述的动态标定方法或驾驶状态检测方法。
在本申请的另一个可选实施方式中,一种计算机设备,其包括:至少一个处理器;以及与至少一个处理器进行通信连接的存储器;其中,存储器存储有可被至少一个处理器执行的计算机指令,至少一个处理器操作计算机指令以执行上述实施例中描述的动态标定方法或驾驶状态检测方法。
在本申请所提供的几个实施例中,应该理解到,所揭露的装置和方法,可以通过其它的方式实现。例如,以上所描述的装置实施例仅仅是示意性的,例如,所述单元的划分,仅仅为一种逻辑功能划分,实际实现时可以有另外的划分方式,例如多个单元或组件可以结合或者可以集成到另一个系统,或一些特征可以忽略,或不执行。另一点,所显示或讨论的相互之间的耦合或直接耦合或通信连接可以是通过一些接口,装置或单元的间接耦合或通信连接,可以是电性,机械或其它的形式。
所述作为分离部件说明的单元可以是或者也可以不是物理上分开的,作为单元显示的部件可以是或者也可以不是物理单元,即可以位于一个地方,或者也可以分布到多个网络单元上。可以根据实际的需要选择其中的部分或者全部单元来实现本实施例方案的目的。
以上所述仅为本申请的实施例,并非因此限制本申请的专利范围,凡是利用本申请说明书及附图内容所作的等效结构变换,或直接或间接运用在其他相关的技术领域,均同理包括在本申请的专利保护范围内。
Claims (12)
1.一种动态标定方法,其特征在于,包括:
根据车载相机拍摄的具有车辆内部结构的图像,在所述图像中选取由所述车辆内部结构合围成的一个或多个区域;
在所述图像中对所述区域进行定位,获取所述区域中角点的位置信息,其中所述角点为所述车辆内部结构对应轮廓的边缘点;
将所述角点的位置信息输入预设的神经网络模型中,获取所述区域中曲线上的一个或多个点的位置信息,其中所述曲线为所述车辆内部结构对应轮廓的轮廓线,所述角点在所述曲线上;以及
利用在预建立的车身坐标系中所述车辆内部结构的位置信息与所述点的位置信息,获取车辆与所述车载相机之间外参矩阵。
2.根据权利要求1所述的动态标定方法,其特征在于,所述在所述图像中对所述区域进行定位,获取所述区域中角点的位置信息,进一步包括:
在所述图像中对所述区域进行粗定位,确定所述区域所在的定位区域;以及
利用预设的神经网络模型对所述定位区域进行细定位,获取所述角点的位置信息。
3.根据权利要求1所述的动态标定方法,其特征在于,所述利用在预建立的车身坐标系中所述车辆内部结构的位置信息与所述点的位置信息,获取车辆与所述车载相机之间外参矩阵,进一步包括:
根据预设的目标函数对所述车辆内部结构的位置信息与所述点的位置信息进行非线性最小二乘优化,获取所述外参矩阵。
4.根据权利要求1-3任一项所述的动态标定方法,其特征在于,所述利用在预建立的车身坐标系中所述车辆内部结构的位置信息与所述点的位置信息,获取车辆与所述车载相机之间外参矩阵之前,还包括:
根据所述车载相机在所述车身坐标系中的位置确定所述车载相机的位置信息;以及
根据所述车载相机的位置信息确定所述车辆与所述车载相机之间的初始外参矩阵。
5.根据权利要求4所述的动态标定方法,其特征在于,所述利用在预建立的车身坐标系中所述车辆内部结构的位置信息与所述点的位置信息,进一步包括:
将所述车辆内部结构的位置信息与所述点的位置信息转换到同一坐标系下,在所述同一坐标系下计算获取所述外参矩阵,其中,
利用所述初始外参矩阵将所述车辆内部结构的位置信息转换到相机坐标系下,或
利用所述初始外参矩阵将所述点的位置信息转换到所述车身坐标系下。
6.根据权利要求1所述的动态标定方法,其特征在于,还包括:
对所述外参矩阵进行校验,当所述外参矩阵在预设合格范围内时,将所述外参矩阵作为目标外参矩阵输出。
7.根据权利要求1所述的动态标定方法,其特征在于,所述将所述角点的位置信息输入预设的神经网络模型中,获取所述区域中曲线上的一个或多个点的位置信息,进一步包括:
利用所述神经网络模型对所述曲线进行等分,获取所述曲线的N等分点及其分别对应的位置信息,其中N为大于0的自然数。
8.根据权利要求7所述的动态标定方法,其特征在于,所述将所述角点的位置信息输入预设的神经网络模型中,获取所述区域中曲线上的一个或多个点的位置信息,还包括:
利用所述神经网络模型计算所述N等分点的置信度。
9.一种驾驶状态检测方法,其特征在于,包括:
根据车载相机拍摄的具有车辆内部结构的图像,在所述图像中选取由所述车辆内部结构合围成的一个或多个区域;
在所述图像中对所述区域进行定位,获取所述区域中角点的位置信息,其中所述角点为所述车辆内部结构对应轮廓的边缘点;
将所述角点的位置信息输入预设的神经网络模型中,获取所述区域中曲线上的一个或多个点的位置信息,其中所述曲线为所述车辆内部结构对应轮廓的轮廓线,所述角点在所述曲线上;
利用在预建立的车身坐标系中所述车辆内部结构的位置信息与所述点的位置信息,获取车辆与所述车载相机之间外参矩阵;
利用所述外参矩阵对所述车载相机实时拍摄的驾驶员面容进行解析,获得所述驾驶员当前的视线方向;以及
对所述视线方向进行分析,获知所述驾驶员当前的驾驶状态。
10.一种动态标定装置,其特征在于,包括:
区域选取模块,其用于根据车载相机拍摄的具有车辆内部结构的图像,在所述图像中选取由所述车辆内部结构合围成的一个或多个区域;
定位模块,其用于在所述图像中对所述区域进行定位,获取所述区域中角点的位置信息,其中所述角点为所述车辆内部结构对应轮廓的边缘点;
曲线位置预测模块,其用于将所述角点的位置信息输入预设的神经网络模型中,获取所述区域中曲线上的一个或多个点的位置信息,其中所述曲线为所述车辆内部结构对应轮廓的轮廓线,所述角点在所述曲线上;以及
外参获取模块,其用于利用在预建立的车身坐标系中所述车辆内部结构的位置信息与所述点的位置信息,获取车辆与所述车载相机之间外参矩阵。
11.一种计算机可读存储介质,其存储有计算机指令,其特征在于,所述计算机指令被操作以执行权利要求1-8中任一项所述的动态标定方法或权利要求9所述的驾驶状态检测方法。
12.一种计算机设备,其特征在于,包括:
至少一个处理器;以及
与所述至少一个处理器进行通信连接的存储器;
其中,所述存储器存储有可被所述至少一个处理器执行的计算机指令,所述至少一个处理器操作所述计算机指令以执行如权利要求1-8任一项所述的动态标定方法或权利要求9所述的驾驶状态检测方法。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202210567147.3A CN114663458B (zh) | 2022-05-24 | 2022-05-24 | 动态标定方法、装置、驾驶状态检测方法、介质及设备 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202210567147.3A CN114663458B (zh) | 2022-05-24 | 2022-05-24 | 动态标定方法、装置、驾驶状态检测方法、介质及设备 |
Publications (2)
Publication Number | Publication Date |
---|---|
CN114663458A true CN114663458A (zh) | 2022-06-24 |
CN114663458B CN114663458B (zh) | 2022-10-11 |
Family
ID=82037152
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN202210567147.3A Active CN114663458B (zh) | 2022-05-24 | 2022-05-24 | 动态标定方法、装置、驾驶状态检测方法、介质及设备 |
Country Status (1)
Country | Link |
---|---|
CN (1) | CN114663458B (zh) |
Citations (12)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US20100134519A1 (en) * | 2008-12-01 | 2010-06-03 | Fujitsu Ten Limited | Method and apparatus for image processing |
CN104461005A (zh) * | 2014-12-15 | 2015-03-25 | 东风汽车公司 | 一种车载屏幕开关控制方法 |
US20160065903A1 (en) * | 2014-08-27 | 2016-03-03 | Metaio Gmbh | Method and system for providing at least one image captured by a scene camera of a vehicle |
CN107730551A (zh) * | 2017-01-25 | 2018-02-23 | 问众智能信息科技(北京)有限公司 | 车载相机姿态自动估计的方法和装置 |
WO2020042345A1 (zh) * | 2018-08-28 | 2020-03-05 | 初速度(苏州)科技有限公司 | 一种单相机采集人眼视线方向的方法及系统 |
US20200134870A1 (en) * | 2018-10-25 | 2020-04-30 | Hyundai Mobis Co., Ltd. | Apparatus and method for calibrating driver monitoring camera |
CN111854620A (zh) * | 2020-07-16 | 2020-10-30 | 科大讯飞股份有限公司 | 基于单目相机的实际瞳距测定方法、装置以及设备 |
WO2021037086A1 (zh) * | 2019-08-26 | 2021-03-04 | 华为技术有限公司 | 定位方法及装置 |
CN112927303A (zh) * | 2021-02-22 | 2021-06-08 | 中国重汽集团济南动力有限公司 | 一种基于车道线的自动驾驶车载相机位姿估计方法及系统 |
CN113844365A (zh) * | 2021-11-15 | 2021-12-28 | 盐城吉研智能科技有限公司 | 一种汽车前视双侧盲区可视化方法 |
CN114387350A (zh) * | 2021-12-03 | 2022-04-22 | 江铃汽车股份有限公司 | 一种车载摄像机外参标定方法、装置、存储介质及设备 |
US20220157068A1 (en) * | 2017-10-06 | 2022-05-19 | Netradyne,Inc. | System and Method of Determining a Curve |
-
2022
- 2022-05-24 CN CN202210567147.3A patent/CN114663458B/zh active Active
Patent Citations (12)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US20100134519A1 (en) * | 2008-12-01 | 2010-06-03 | Fujitsu Ten Limited | Method and apparatus for image processing |
US20160065903A1 (en) * | 2014-08-27 | 2016-03-03 | Metaio Gmbh | Method and system for providing at least one image captured by a scene camera of a vehicle |
CN104461005A (zh) * | 2014-12-15 | 2015-03-25 | 东风汽车公司 | 一种车载屏幕开关控制方法 |
CN107730551A (zh) * | 2017-01-25 | 2018-02-23 | 问众智能信息科技(北京)有限公司 | 车载相机姿态自动估计的方法和装置 |
US20220157068A1 (en) * | 2017-10-06 | 2022-05-19 | Netradyne,Inc. | System and Method of Determining a Curve |
WO2020042345A1 (zh) * | 2018-08-28 | 2020-03-05 | 初速度(苏州)科技有限公司 | 一种单相机采集人眼视线方向的方法及系统 |
US20200134870A1 (en) * | 2018-10-25 | 2020-04-30 | Hyundai Mobis Co., Ltd. | Apparatus and method for calibrating driver monitoring camera |
WO2021037086A1 (zh) * | 2019-08-26 | 2021-03-04 | 华为技术有限公司 | 定位方法及装置 |
CN111854620A (zh) * | 2020-07-16 | 2020-10-30 | 科大讯飞股份有限公司 | 基于单目相机的实际瞳距测定方法、装置以及设备 |
CN112927303A (zh) * | 2021-02-22 | 2021-06-08 | 中国重汽集团济南动力有限公司 | 一种基于车道线的自动驾驶车载相机位姿估计方法及系统 |
CN113844365A (zh) * | 2021-11-15 | 2021-12-28 | 盐城吉研智能科技有限公司 | 一种汽车前视双侧盲区可视化方法 |
CN114387350A (zh) * | 2021-12-03 | 2022-04-22 | 江铃汽车股份有限公司 | 一种车载摄像机外参标定方法、装置、存储介质及设备 |
Also Published As
Publication number | Publication date |
---|---|
CN114663458B (zh) | 2022-10-11 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
CN111415387B (zh) | 相机位姿确定方法、装置、电子设备及存储介质 | |
CN111191487A (zh) | 车道线的检测及驾驶控制方法、装置和电子设备 | |
CN112912932B (zh) | 一种车载摄像头的标定方法、装置及终端设备 | |
CN111476106B (zh) | 基于单目相机的直道相对坡度实时预测方法、系统及装置 | |
CN107356244B (zh) | 一种路侧单元天线的标定方法及装置 | |
JP4851874B2 (ja) | 自己位置推定プログラム、自己位置推定方法および自己位置推定装置 | |
CN110906953A (zh) | 一种自动驾驶定位的相对位置精度评估方法及装置 | |
CN111080682A (zh) | 点云数据的配准方法及装置 | |
US11580668B2 (en) | Automatic correction method for onboard camera and onboard camera device | |
CN112526470A (zh) | 标定雷达参数的方法和装置、电子设备、存储介质 | |
CN113781543B (zh) | 基于双目相机的限高装置检测方法、系统和智能终端 | |
CN114663458B (zh) | 动态标定方法、装置、驾驶状态检测方法、介质及设备 | |
CN109470269B (zh) | 空间目标测量机构的标定方法、标定设备及标定系统 | |
CN111351497B (zh) | 一种车辆的定位方法、装置、地图的构建方法和装置 | |
CN112304281A (zh) | 一种道路坡度测量方法、终端设备及存储介质 | |
CN114755663A (zh) | 车辆传感器的外参校准方法、装置及计算机可读存储介质 | |
CN113963066A (zh) | 基于车道线的车载全景摄像头标定方法、装置及存储介质 | |
CN110969859B (zh) | 车辆抓拍自动变倍方法及装置 | |
CN114415129A (zh) | 基于多项式模型的视觉与毫米波雷达联合标定方法及装置 | |
CN109919998B (zh) | 卫星姿态确定方法、装置和终端设备 | |
CN113227708B (zh) | 确定俯仰角的方法、装置及终端设备 | |
CN117351053B (zh) | 光伏电站图像配准方法、存储介质和电子设备 | |
CN113763483B (zh) | 行车记录仪俯仰角标定方法及装置 | |
CN117392348B (zh) | 一种多目标物的抖动消除方法、装置、设备及介质 | |
CN117207990A (zh) | 目标车辆航向角的确定方法、装置、设备及存储介质 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination | ||
GR01 | Patent grant | ||
GR01 | Patent grant |