CN112598705B - 一种基于双目视觉的车身姿态检测方法 - Google Patents

一种基于双目视觉的车身姿态检测方法 Download PDF

Info

Publication number
CN112598705B
CN112598705B CN202011492933.9A CN202011492933A CN112598705B CN 112598705 B CN112598705 B CN 112598705B CN 202011492933 A CN202011492933 A CN 202011492933A CN 112598705 B CN112598705 B CN 112598705B
Authority
CN
China
Prior art keywords
vehicle
camera
reference object
vehicle body
dimensional
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
CN202011492933.9A
Other languages
English (en)
Other versions
CN112598705A (zh
Inventor
李国兴
贠星辰
胡桂诚
王冲
王铁
杨甜甜
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Taiyuan University of Technology
Original Assignee
Taiyuan University of Technology
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Taiyuan University of Technology filed Critical Taiyuan University of Technology
Priority to CN202011492933.9A priority Critical patent/CN112598705B/zh
Publication of CN112598705A publication Critical patent/CN112598705A/zh
Application granted granted Critical
Publication of CN112598705B publication Critical patent/CN112598705B/zh
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/20Analysis of motion
    • G06T7/246Analysis of motion using feature-based methods, e.g. the tracking of corners or segments
    • G06T7/248Analysis of motion using feature-based methods, e.g. the tracking of corners or segments involving reference images or patches
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/20Analysis of motion
    • G06T7/254Analysis of motion involving subtraction of images
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/20Analysis of motion
    • G06T7/292Multi-camera tracking
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/80Analysis of captured images to determine intrinsic or extrinsic camera parameters, i.e. camera calibration
    • G06T7/85Stereo camera calibration
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/10Image acquisition modality
    • G06T2207/10016Video; Image sequence
    • G06T2207/10021Stereoscopic video; Stereoscopic image sequence
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/20Special algorithmic details
    • G06T2207/20092Interactive image processing based on input by user
    • G06T2207/20104Interactive definition of region of interest [ROI]
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/20Special algorithmic details
    • G06T2207/20212Image combination
    • G06T2207/20224Image subtraction
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/30Subject of image; Context of image processing
    • G06T2207/30248Vehicle exterior or interior
    • G06T2207/30252Vehicle exterior; Vicinity of vehicle

Landscapes

  • Engineering & Computer Science (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Theoretical Computer Science (AREA)
  • Multimedia (AREA)
  • Image Processing (AREA)
  • Image Analysis (AREA)

Abstract

本发明公开了一种基于双目视觉的车身姿态检测方法,属于计算机视觉技术领域。通过车载双目摄像机采集车辆运行过程中的动态视频,对动态视频进行图像预处理,检测参照物特征信息;然后通过双目图像立体匹配计算出参照物的质心三维坐标,从而反推车身姿态信息。本发明实现了基于双目视觉的车身姿态自感知检测,不需要附加额外硬件设备的支持,降低了检测车身姿态的实施成本。

Description

一种基于双目视觉的车身姿态检测方法
技术领域
本发明属于计算机视觉与车辆状态监测技术领域,具体涉及一种基于双目视觉的车身姿态检测方法。
背景技术
车辆运动状态检测对于车辆底盘故障检测、整车维护保养及交通安全有着至关重要的作用。实现智能化车身运动姿态检测,对于降低人工检测与维护成本,提高行车可靠性与确保交通安全有着举足轻重的意义。
现有的车身姿态检测方法,一般是基于硬件的检测方法。比如,专利CN103171561A及专利CN106769084A中,均是基于传感器终端(加速度传感器、陀螺仪)测得车身的姿态参数然后通过微处理单元判断姿态参数,并将姿态参数提供给中控电脑,以进行对应的调整,从而提高驾驶的安全性。但是这种基于传感器的检测方法,当其应用在恶劣工况时,传感器终端极易被煤尘、泥污、油泥等影响,且提前预知能力不足、智能化集成程度较低,还需专职人员对其进行定期维护,使用成本与应用可靠性均有待改善。
现有的车身姿态检测方法,虽然在一定程度上起到了监测管理作用,但由于硬件检测系统存在着诸多受制因素,因此迫切需要一种采用智能化检测、运行可靠、便于实施、维护成本低的车身姿态检测方法。
发明内容
针对现有技术中存在的上述技术问题,本发明提出了一种基于双目视觉的车身姿态检测方法,弥补了现有技术的短板。
为了实现上述目的,本发明采用如下技术方案:
一种基于双目视觉的车身姿态监测方法,本发明采用的技术方案是:
步骤1:标定车载双目摄像机,将车载双目摄像机拍摄的视频数据流传输至处理单元并进行视频分帧处理;
步骤2:逐帧进行图像预处理并提取视频中参照物特征信息;
步骤3:通过立体匹配获取参照物三维立体坐标;
步骤4:结合车载陀螺仪与参照物三维立体坐标来反推车身姿态信息。
进一步的,在所述步骤1中,具体包括如下步骤:
步骤1.1:基于针孔成像理论进行车载双目摄像机标定来获取摄像机内部的光学和几何特性,以及摄像机相对于世界坐标系的位置关系;
步骤1.2:从车载双目摄像机捕获的视频数据流中逐帧裁剪获得左摄像机与右摄像机图像数据流。
进一步的,所述步骤2中的具体步骤为:
步骤2.1:引入图像差分法从左摄像机图像数据流分离出待检测的参照物;
步骤2.2:对分离出的参照物在视频中的具体位置划定一个感兴趣区域作为检测区域,并对感兴趣区域进行二值化处理;
步骤2.3:对二值化处理后的感兴趣区域通过图像形态学操作来获取参照物质心二维像素坐标。
进一步的,所述步骤3中的具体步骤为:
步骤3.1,通过光学和几何特性以及摄像机相对于世界坐标系的位置关系,对左摄像机与右摄像机图像数据流进行立体匹配并获取视差图;
步骤3.2,根据参照物的质心二维像素坐标通过视差图可得到参照物质心三维立体坐标。
进一步的,所述步骤4的具体步骤为:
步骤4.1,通过参照物质心三维立体坐标来反推车身姿态信息,车身姿态信息同时包含有车身垂向跳动与俯仰运动;
步骤4.2,根据陀螺仪同步采集的车身姿态角信息,计算出因车身俯仰引起的参照物质心三维立体坐标偏移量,即计算出车身俯仰运动,最终可以实现车身垂向跳动与俯仰运动的解耦计算。
本发明所带来的有益效果是,本发明通过双目视觉技术,实现了对车身姿态的智能化检测,对车辆运行工况具有一定的预知能力,在车身运动状态的检测上不会出现现有技术中因车辆运行工况而影响检测结果的问题,并且融合了深度学习、计算机视觉以及整车动力学等技术,因此智能化集成程度较高,同时也减少了基于硬件检测车身运动状态的维护成本。
附图说明
图1是本发明的基本流程图。
图2是实施本发明的场景示意图。
图3是本发明基于参照物三维坐标求取车身姿态信息的原理图。
具体实施方式
下面结合附图以及具体实施方式对本发明作进一步详细说明:
一种基于计算机视觉的车身姿态检测方法,其流程如图1所示,包括以下步骤:
步骤1:标定车载双目摄像机,将车载双目摄像机拍摄的视频数据流传输至处理单元并进行视频分帧处理。具体包括如下步骤:
步骤1.1:基于针孔成像理论进行车载双目摄像机标定来获取摄像机内部的光学和几何特性,以及摄像机相对于世界坐标系的位置关系;
步骤1.2:从车载双目摄像机捕获的视频数据流中逐帧裁剪获得左摄像机与右摄像机图像数据流;
步骤2:逐帧进行图像预处理并提取视频中参照物特征信息;具体包括如下步骤:
步骤2.1:引入图像差分法从左摄像机图像数据流分离出待检测的参照物;
步骤2.2:对分离出的参照物在视频中的具体位置划定一个感兴趣区域作为检测区域,并对感兴趣区域进行二值化处理;
步骤2.3:对二值化处理后的感兴趣区域通过图像形态学操作来获取参照物质心二维像素坐标。
步骤3:通过立体匹配获取参照物三维立体坐标;具体包括如下步骤:
步骤3.1:通过光学和几何特性以及摄像机相对于世界坐标系的位置关系,对左摄像机与右摄像机图像数据流进行立体匹配并获取视差图;
步骤3.2:根据参照物的质心二维像素坐标通过视差图可得到参照物质心三维立体坐标。
步骤4:结合车载陀螺仪与三维立体坐标来反推车身姿态信息。具体包括如下步骤:
步骤4.1:建立如图3所示的坐标系,其中:轴代表车辆长度方向,Y轴代表车辆高度方向,X轴代表车辆宽度方向;(a)为车辆即将要经过如图2所示减速带时的时刻,(b)为车辆经过如图2所示减速带时的时刻;L为(a)时刻车载双目摄像机到参照物的直线距离,为(a)时刻参照物质心在视频数据流中的三维立体坐标,并且/>L′为(b)时刻车载双目摄像机到参照物的直线距离,/>为(b)时刻水平于车载双目摄像机光心、垂直于车载双目摄像机光心的点,并且/>并且θ为车载双目摄像机视野中参照物质心在(a)与(b)时刻间的夹角,/>为车载陀螺仪实测所得车身俯仰角,ΔP为车身由(a)运动至(b)时刻时在摄像机视野中参照物质心三维立体坐标发生的偏移量,ΔP1为因车身跳动引起的参照物质心三维立体坐标偏移量,ΔP2为因车身俯仰引起的参照物质心三维立体坐标偏移量;
步骤4.2:根据车载陀螺仪同步采集的车身俯仰角结合P0、P1、P2点三维立体坐标,通过式1、式2来解耦计算车身俯仰及跳动信息。
以上内容是结合具体的优选实施方式对本发明所作的进一步详细说明,不能认定本发明的具体实施只局限于这些说明。对于本发明所属技术领域的普通技术人员来说,在不脱离本发明构思的前提下,还可以做出若干简单推演或替换,都应当视为属于本发明的保护范围。

Claims (1)

1.一种基于双目视觉的车身姿态检测方法,其特征在于:包括以下步骤:
步骤1,标定车载双目摄像机,将车载双目摄像机拍摄的视频数据流传输至处理单元并进行视频分帧处理;
在步骤1中,具体包括如下步骤:
步骤1.1,基于针孔成像理论进行车载双目摄像机标定来获取摄像机内部的光学和几何特性,以及摄像机相对于世界坐标系的位置关系;
步骤1.2,从车载双目摄像机捕获的视频数据流中逐帧裁剪获得左摄像机与右摄像机图像数据流;
步骤2,逐帧进行图像预处理并提取视频中参照物特征信息;
在步骤2中,具体包括如下步骤:
步骤2.1,引入图像差分法从左摄像机图像数据流中分离出待检测的参照物;
步骤2.2,对分离出的参照物在视频中的具体位置划定检测区域,并对其进行二值化处理;
步骤2.3,对二值化处理后的感兴趣区域通过图像形态学操作来获取参照物的质心二维像素坐标;
步骤3,通过立体匹配获取参照物三维立体坐标;
在步骤3中,具体包括如下步骤:
步骤3.1,通过光学和几何特性以及摄像机相对于世界坐标系的位置关系,对左摄像机与右摄像机图像数据流进行立体匹配并获取视差图;
步骤3.2,根据参照物的质心二维像素坐标通过视差图可得到参照物质心三维立体坐标;
步骤4,结合车载陀螺仪与参照物三维立体坐标来反推车身姿态信息;
在步骤4中,具体包括如下步骤:
步骤4.1,通过参照物质心三维立体坐标来反推车身姿态信息,车身姿态信息同时包含有车身垂向跳动与俯仰运动;
步骤4.2,根据陀螺仪同步采集的车身姿态角信息,计算出因车身俯仰引起的参照物质心三维立体坐标偏移量,即计算出车身俯仰运动,最终可以实现车身垂向跳动与俯仰运动的解耦计算。
CN202011492933.9A 2020-12-17 2020-12-17 一种基于双目视觉的车身姿态检测方法 Active CN112598705B (zh)

Priority Applications (1)

Application Number Priority Date Filing Date Title
CN202011492933.9A CN112598705B (zh) 2020-12-17 2020-12-17 一种基于双目视觉的车身姿态检测方法

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
CN202011492933.9A CN112598705B (zh) 2020-12-17 2020-12-17 一种基于双目视觉的车身姿态检测方法

Publications (2)

Publication Number Publication Date
CN112598705A CN112598705A (zh) 2021-04-02
CN112598705B true CN112598705B (zh) 2024-05-03

Family

ID=75196657

Family Applications (1)

Application Number Title Priority Date Filing Date
CN202011492933.9A Active CN112598705B (zh) 2020-12-17 2020-12-17 一种基于双目视觉的车身姿态检测方法

Country Status (1)

Country Link
CN (1) CN112598705B (zh)

Families Citing this family (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN113295209B (zh) * 2021-05-21 2022-11-18 中国航空工业集团公司北京长城计量测试技术研究所 一种自适应高精度数字测试系统设计方法及测试系统

Citations (15)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN201514203U (zh) * 2009-10-14 2010-06-23 吉林大学 基于立体视觉的汽车轴距左右差检测装置
CN102622767A (zh) * 2012-03-05 2012-08-01 广州乐庚信息科技有限公司 双目非标定空间定位方法
CN103148837A (zh) * 2012-11-16 2013-06-12 Tcl集团股份有限公司 一种车距测量方法、装置及汽车
CN103692974A (zh) * 2013-12-16 2014-04-02 广州中国科学院先进技术研究所 一种基于环境监测的车辆行驶安全预警方法及系统
KR20140049361A (ko) * 2012-10-17 2014-04-25 한국과학기술원 다중 센서 시스템, 이를 이용하는 3차원 월드 모델링 장치 및 방법
CN104318561A (zh) * 2014-10-22 2015-01-28 上海理工大学 基于双目立体视觉与光流融合的车辆运动信息检测方法
CN104883556A (zh) * 2015-05-25 2015-09-02 深圳市虚拟现实科技有限公司 基于增强现实的三维显示方法和增强现实眼镜
CN105674993A (zh) * 2016-01-15 2016-06-15 武汉光庭科技有限公司 基于双目相机的高精度视觉定位地图生成系统及方法
CN107958452A (zh) * 2017-11-20 2018-04-24 中车株洲电力机车有限公司 一种车辆轮对运行姿态的监测方法、装置及系统
CN108534782A (zh) * 2018-04-16 2018-09-14 电子科技大学 一种基于双目视觉系统的地标地图车辆即时定位方法
CN108749819A (zh) * 2018-04-03 2018-11-06 吉林大学 基于双目视觉的轮胎垂向力估算系统及估算方法
CN109631887A (zh) * 2018-12-29 2019-04-16 重庆邮电大学 基于双目、加速度与陀螺仪的惯性导航高精度定位方法
CN110209184A (zh) * 2019-06-21 2019-09-06 太原理工大学 一种基于双目视觉系统的无人机避障方法
CN110859044A (zh) * 2018-06-25 2020-03-03 北京嘀嘀无限科技发展有限公司 自然场景中的集成传感器校准
CN111832373A (zh) * 2019-05-28 2020-10-27 北京伟景智能科技有限公司 一种基于多目视觉的汽车驾驶姿态检测方法

Family Cites Families (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US7899211B2 (en) * 2005-12-07 2011-03-01 Nissan Motor Co., Ltd. Object detecting system and object detecting method
US10552691B2 (en) * 2017-04-25 2020-02-04 TuSimple System and method for vehicle position and velocity estimation based on camera and lidar data

Patent Citations (15)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN201514203U (zh) * 2009-10-14 2010-06-23 吉林大学 基于立体视觉的汽车轴距左右差检测装置
CN102622767A (zh) * 2012-03-05 2012-08-01 广州乐庚信息科技有限公司 双目非标定空间定位方法
KR20140049361A (ko) * 2012-10-17 2014-04-25 한국과학기술원 다중 센서 시스템, 이를 이용하는 3차원 월드 모델링 장치 및 방법
CN103148837A (zh) * 2012-11-16 2013-06-12 Tcl集团股份有限公司 一种车距测量方法、装置及汽车
CN103692974A (zh) * 2013-12-16 2014-04-02 广州中国科学院先进技术研究所 一种基于环境监测的车辆行驶安全预警方法及系统
CN104318561A (zh) * 2014-10-22 2015-01-28 上海理工大学 基于双目立体视觉与光流融合的车辆运动信息检测方法
CN104883556A (zh) * 2015-05-25 2015-09-02 深圳市虚拟现实科技有限公司 基于增强现实的三维显示方法和增强现实眼镜
CN105674993A (zh) * 2016-01-15 2016-06-15 武汉光庭科技有限公司 基于双目相机的高精度视觉定位地图生成系统及方法
CN107958452A (zh) * 2017-11-20 2018-04-24 中车株洲电力机车有限公司 一种车辆轮对运行姿态的监测方法、装置及系统
CN108749819A (zh) * 2018-04-03 2018-11-06 吉林大学 基于双目视觉的轮胎垂向力估算系统及估算方法
CN108534782A (zh) * 2018-04-16 2018-09-14 电子科技大学 一种基于双目视觉系统的地标地图车辆即时定位方法
CN110859044A (zh) * 2018-06-25 2020-03-03 北京嘀嘀无限科技发展有限公司 自然场景中的集成传感器校准
CN109631887A (zh) * 2018-12-29 2019-04-16 重庆邮电大学 基于双目、加速度与陀螺仪的惯性导航高精度定位方法
CN111832373A (zh) * 2019-05-28 2020-10-27 北京伟景智能科技有限公司 一种基于多目视觉的汽车驾驶姿态检测方法
CN110209184A (zh) * 2019-06-21 2019-09-06 太原理工大学 一种基于双目视觉系统的无人机避障方法

Non-Patent Citations (6)

* Cited by examiner, † Cited by third party
Title
一种基于双目视觉的运动轨迹预测方法;杨勇强;唐猛;孟文;徐建龙;;机械设计与制造;20201008(10);全文 *
基于双目视觉的行车中障碍距离检测方法研究;方博文;张晓东;陈敬义;孙继宇;;机械设计与制造;20190408(04);全文 *
基于立体视觉的目标姿态测量技术;胡宝洁;曾峦;熊伟;赵忠文;;计算机测量与控制;20070125(01);全文 *
虚拟环境下基于复合视觉的月球车导航技术;余迪利;鲍劲松;金烨;王伟;;机械设计与研究;20100620(03);全文 *
车载前视序列影像动态标定技术研究;高力;金飞;江振治;;测绘技术装备;20191225(04);全文 *
车辆识别技术综述;张强;李嘉锋;卓力;;北京工业大学学报;20171220(03);全文 *

Also Published As

Publication number Publication date
CN112598705A (zh) 2021-04-02

Similar Documents

Publication Publication Date Title
CN106919915B (zh) 基于adas系统的地图道路标记及道路质量采集装置及方法
CN110879991B (zh) 一种障碍物识别方法及系统
KR101647370B1 (ko) 카메라 및 레이더를 이용한 교통정보 관리시스템
EP1817761B1 (en) Apparatus and method for automatically detecting objects
US9704047B2 (en) Moving object recognition apparatus
CN109997148B (zh) 信息处理装置、成像装置、设备控制系统、移动对象、信息处理方法和计算机可读记录介质
Labayrade et al. In-vehicle obstacles detection and characterization by stereovision
US20140348390A1 (en) Method and apparatus for detecting traffic monitoring video
CN105711597A (zh) 前方局部行驶环境感知系统及方法
CN111829484B (zh) 基于视觉的目标距离测算方法
EP3163506A1 (en) Method for stereo map generation with novel optical resolutions
WO2014002692A1 (ja) ステレオカメラ
EP3428902A1 (en) Image processing device, imaging device, mobile apparatus control system, image processing method, and program
KR101264282B1 (ko) 관심영역 설정을 이용한 도로상 차량의 검출방법
Shukla et al. Speed determination of moving vehicles using Lucas-Kanade algorithm
WO2018149539A1 (en) A method and apparatus for estimating a range of a moving object
CN112598705B (zh) 一种基于双目视觉的车身姿态检测方法
CN107506753B (zh) 一种面向动态视频监控的多车辆跟踪方法
US20220245831A1 (en) Speed estimation systems and methods without camera calibration
KR102492290B1 (ko) 교통량 측정을 위한 딥러닝 기반의 드론 영상 분석 시스템
JP5891802B2 (ja) 車両位置算出装置
CN109886120B (zh) 一种斑马线检测方法及系统
JP3700681B2 (ja) 走行路検出装置
CN116252581B (zh) 直线行驶工况车身垂向及俯仰运动信息估算系统及方法
CN114445335B (zh) 基于双目机器视觉的车辆行驶状态监测方法

Legal Events

Date Code Title Description
PB01 Publication
PB01 Publication
SE01 Entry into force of request for substantive examination
SE01 Entry into force of request for substantive examination
GR01 Patent grant
GR01 Patent grant