CN101561270A - 嵌入式全向球视觉目标检测和移动监控系统及方法 - Google Patents
嵌入式全向球视觉目标检测和移动监控系统及方法 Download PDFInfo
- Publication number
- CN101561270A CN101561270A CNA2009100690330A CN200910069033A CN101561270A CN 101561270 A CN101561270 A CN 101561270A CN A2009100690330 A CNA2009100690330 A CN A2009100690330A CN 200910069033 A CN200910069033 A CN 200910069033A CN 101561270 A CN101561270 A CN 101561270A
- Authority
- CN
- China
- Prior art keywords
- dsp
- navigation
- image
- omnidirectional
- master control
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Granted
Links
Images
Abstract
嵌入式全向球视觉目标检测和移动监控系统及方法。全向球视觉是指具有全球域视野的视觉系统,可一次性采集整个全球域的全部场景而无须摄像机的回转和扫描。本系统包括全向球视觉图像成像系统(包括两个鱼眼式全景镜头、两个CMOS图像采集芯片、FPGA控制器和SRAM存储芯片),以及多路DSP并行图像处理器(包括一个主控DSP和两路DSP并行图像处理器)。成像系统通过两个鱼眼式全景镜头配合双CMOS芯片采集全向球视觉图像,主控DSP负责数据的调度和通讯,双路并行DSP相互独立,可并行处理静态航标的识别跟踪和动态目标的实时监测。本发明集成度高、体积小、处理速度快,尤其适用于安全监控、移动车体导航等军用或民用领域。
Description
【技术领域】:
本发明属于嵌入式图像处理技术领域,特别涉及一种嵌入式全向球视觉的移动检测系统及方法。
【背景技术】:
当前的全景图像采集普遍采用以下两种技术:(1)单一镜头多次采样拼接;(2)曲面镜头或镜面反射式镜头图像采集。前者图像拼接方法原始数据量大,算法复杂,一般只能做静态图像拼接,无法完成实时成像。而采用非常规镜头方法只能采集到一个半球面图像,无法做到真正的全球域“无死角”的实时采集。以后出现的全球域摄像系统大多采用超过四五个镜头的多头摄像机拼合的形式如加拿大Point Grey Research Inc.的六镜头组合的Ladybug全景视频采集系统等,但也不能完全覆盖整个球域场景。近期,日本岩手大学研制出一种双鱼眼镜头对接的全景视觉系统SpherEye,将双鱼眼图像通过折射镜片映射到同一块图像传感器上,实现了对全向视觉图像的采集,用于汽车自动导航领域,然而其仅具备全向视觉图像的采集功能并未集成配套的图像处理装置和相关的处理软件,也未涉及更多地应用开发。同时,单一传感器采集两幅鱼眼图像不可避免的影响到图像的质量和图像的分辨率,削弱了全景监测的效果。
而且传统视觉系统由于视场角的限制,必须配备一套随动机械云台装置,来采集多幅图像和锁定目标,这样不仅增加了整个系统的体积,导致性能下降,同时也会带来更多不稳定参数导致误差增多。而且随动系统在目标跟踪时存在滞后、灵活性差,且目标容易丢失。另外,由于视角的限制,很多视场信息被丢弃,无法做到真正的全球域视野。
嵌入式系统以其特有的灵活性、准确性、稳定性、可重复性、体积小、功耗小,尤其是可编程性和易于实现自适应处理等特点,已经在数据、语音、视像信号等高速数学运算和实时处理方面得到广泛的应用,嵌入式系统将在未来图像和语音处理领域中起着主导的作用。以FPGA+DSP为基本框架构建智能相机已是目前较为成熟的技术。但大多数嵌入式系统都采用单芯片或者主从式芯片结构,对于运算量大的数字图像处理,或者视频跟踪处理往往只能实现单路或串行远算,但当需要多种算法并行运算的复杂情况时,(如多目标跟踪)则会有极大局限性。而对全向球视觉的大场景图像的采集与处理,特别是涉及多目标多任务的场合构建多DSP的实时系统则是必需的解决方案。
全向球视觉具有全球域视野图像,配合以目标检测功能,非常适合于监控领域,但绝大多数应用都是固定相机,配合全景镜头进行定点监控,而对于移动检测领域则很少涉及。主要由于移动监控系统不仅要保证对动态的目标进行实时监测,同时还要满足自身移动定位导航,这需要多种识别跟踪算法并行运算,对于系统硬件的并行处理功能要求较高。
【发明内容】:
本发明目的是克服现有技术存在的上述不足,提供一种基于多DSP的嵌入式全向球域超大视场角的图像成像系统,并以此为基础建立一整套多目标检测和移动监控系统及其处理方法。
该方法可同时采集整个全球域视觉图像,而不需要安装机械随动平台系统,基于多DSP的硬件架构,进行多种图像跟踪监测算法的并行运算,协同处理的嵌入式系统硬件架构将有效地保障视觉系统对包含大量信息的全球域图像序列进行多种高级处理的实时性与可靠性。对静态航标识别跟踪和对动态目标实时监测并行进行,配合相应的导航算法,可以完成自引导车移动监控,敏感目标捕获,现场巡查,环境监测等任务。本系统及方法具有一体化、小型化、高效可靠等特点,适合于对体积要求严格,需要高实时性处理速度的车载移动以及智能监控领域。同时,本发明也适合于需要多种图像算法并行处理的高端应用领域。
本发明提供的嵌入式全向球视觉目标检测和移动监控系统,包括(见附图1):
全向球视觉图像成像系统:包括背靠固定的两个鱼眼式全景镜头,分别与两个鱼眼式全景镜头连接的两个可编程面阵CMOS图像采集芯片,两个CMOS图像采集芯片通过FPGA控制器连接SRAM存储芯片;该成像系统用于一次获取整个全球域的图像信息,并通过FPGA将采集到的图像数据存储到SRAM芯片中;所述的两个鱼眼式全景镜头朝向相反安装,背靠固定,通过全向球视觉系统的一次拍摄,可分别获得左右半球域的视觉图像。无需单一镜头多次拍摄,将显著降低两幅鱼眼图像边缘的差异;同时,镜头相对固定,减少镜头标定时由于位移可能产生的误差。
一个主控DSP(TMS320VC5502):与SRAM存储芯片连接,负责两路图像处理DSP的数据分配调度与合成,以及用于进行信息综合和导航策略选择,并将制导控制信号通过以太网通讯接口或者串口输出;
两路DSP并行图像处理器:包括分别通过各自对应的FIFO芯片与主控DSP连接的两个高性能图像处理DSP(TMS320DM642),两个图像处理DSP同时分别与SRAM存储芯片连接;用于对不同目标的图像数据并行进行不同的处理过程,并由主控DSP负责两路图像处理DSP的数据分配调度与合成。其中静态航标识别与跟踪由第一路图像处理DSP承担,算法采用基于概率预测的粒子滤波跟踪算法;第二路图像处理DSP主要负责对全向球视觉图像进行实时监测,算法采用光流法对机动目标进行实时检测。两种不同的图像处理算法并行执行,并通过主控DSP相互通讯并实施综合导航,满足移动监测制导的特殊需求。
所述的两个图像处理DSP分别与存放各自DSP程序的FLASH芯片连接,系统上电后,用于自动将相应程序引导入DSP中运行。
本发明提供的嵌入式全向球视觉目标检测和移动监控方法包括以下步骤:
第一、由两个鱼眼式全景镜头同时分别对监控区域进行图像拍摄;
第二、由两路CMOS图像采集芯片分别采集两路鱼眼式全景镜头的图像,并将所采集的左右半球图像放入SRAM存储芯片中进行暂存,此时,就能够将获取的全球域图像输出用于观察;
第三、用两路图像处理DSP分别对静态航标进行跟踪和对动态目标进行检测;
第四、由主控DSP对上步跟踪和检测的结果进行信息综合和导航策略选择,并将制导控制信号通过以太网通讯接口或者串口发送到被控端。
以上第三步所述的对静态航标的跟踪方法采用粒子滤波跟踪算法;航标为双色序列式航标,放置在车体顶部;粒子滤波是一种统计滤波方法,它依据大数定理采用蒙特卡罗方法来求解贝叶斯估计中的积分运算,并利用重要抽样在动态状态空间上得到一组不断更新的粒子,来逼近待估计状态的后验概率密度,其中,这些粒子与一组权值一一对应;假设在一维空间中观测值的序列表示为{z=(z1,z2,...,zM)},观测值的概率密度为p(z|x),x也为一维量;通过贝叶斯公式我们可以得到后验概率公式:
其中,p(zt|xt)称为似然性,表征系统状态由xt-1转移到xt后和观测值的相似程度;p(xt|z1:t-1)为上一步系统状态转移过程所得,称为先验概率;p(zt|zt-1)称为证据,通常为归一化常数。
粒子滤波器对目标的跟踪提供了一个鲁棒性很强的框架,他既不受限于线性系统也不要求噪声是高斯的。
粒子滤波跟踪包括:粒子集初始化、移动粒子、计算粒子权值、权值标准化、重采样、预测目标当前位置五个步骤。
第三步所述的对动态目标的实时检测采用光流法,空间中的运动场转移到图像上就表示为光流场,光流场反映了图像上每一点灰度的变化趋势,它可以求得稠密处所对应物体的运动信息;由光流场可以计算场景中物体的运动和结构;
记在时刻t时,图像上的点(x,y)处的灰度值为P(x,y,t),它是场景中时刻t时某物体上某一点(X,Y,Z)在图像上的像,在时刻t+Δt时,这一点运动到(X十ΔX,Y十ΔY,Z十ΔZ),其在图像上的像变为(x十Δx,y+Δy),于是时刻t十Δt时图像上点(x+Δx,y+Δy)处的灰度值可记为P(x+Δx,y+Δy,t+Δt),假定它与P(x,y,t)相等,经过变换可以推导出光流场的基本计算公式:
其中: 是图像灰度值的梯度,U是光流场;
在对机动目标检测时,我们首先将采集到的原始图像转化为低分辨率的金字塔图像,金字塔序列计算公式为:
然后对金字塔图像中所有的像素区域进行一次光流平均计算,同时根据静态航标Δt时刻中的相对位移作为阈值,进行光流量与之判断,将光流量大于阈值的区域设定为机动目标,反之,设定为背景,分割光流场中的背景和机动目标,即可初步检测出图像中的机动目标区域,最后对监测区域进行逆金字塔计算,就可以检测到准确的机动目标。
第四步所述的进行信息综合和导航策略选择是指移动车体导航。主控DSP可以根据接收到的两个跟踪器发送的信息,实现航迹导航和追踪导航的自动切换。
当自主导航过程中无机动目标出现时,主控DSP接收静态航标跟踪器发送的全景图像中左右双色航标的位置信息,通过坐标变换推导出车体在环境空间的坐标位姿,以此进行定位并进行相应的信息综合和导航策略选择。移动车体位姿推导的具体过程如下:如图8所示,以航标A,航标B为X轴,建立世界坐标系。航标的世界坐标系分别为:(X1,Y1),(X2,Y2),图像坐标为(X1’,Y1’)和(X2’,Y2’)。车体的世界坐标系设为(X0,Y0)。鱼眼镜头中心设为(X0’,Y0’)。本鱼眼镜头严格满足等距投影定理,即投影距离与目标仰角满足ri=kwi,,其中ri为图像中目标与镜头中心的投影距离,k为镜头投影系数,wi为该目标与镜头在实际空间中的仰角。同时航标在车体正前方投影的空间角度等于航标的映射角度,即θ′1=θ1,θ′2=θ2,并且可由公式 i=1,2求出。航标高度H1,H2,航标间距L,全向球视觉镜头高度H0为已知参数,配合航标仰角θ1,θ2,和鱼眼镜头投影系数k,可以推导出车体在世界坐标系下的空间坐标:
再计算出车体位置和航标中心线的偏差Δr,根据公式:
SpeedL=Speed+K*Δr
SpeedR=Speed-K*Δr
计算出车体左右轮速度,实现航标导航。
当自主导航过程中检测到机动目标时,由机动目标跟踪器向主控DSP发出始能信号,主控DSP自动切换到追踪导航策略。追踪导航策略利用机动目标跟踪器经连通域分析计算出的机动目标在图像中的位置,求出该位置与图像中心线的偏差Δr′,根据公式:
SpeedL=Speed-(K×Δr′)
SpeedR=Speed+(K×Δr′)
计算出车体左右轮速度,实现寻迹导航。
本发明的优点和积极效果:
●基于双鱼眼式全景镜头建立的全向球视觉图像采集系统。可一次性同步采集整个全球域的图像而无须摄像机的回转和扫描能将周围环境内上、下、左、右、前、后的全部景物“一眼看遍”,真正做到无死角。
●本发明依托于嵌入式DSP平台,将双鱼眼镜头采集装置和嵌入式处理器进行一体化设计,构成一套完整的、软硬件结合的、实时性强、集成度高、稳固性好的图像处理硬件构架平台。
●本发明配备多路DSP并行图像处理器。多路DSP的并行硬件设计方案有利于软件模块化与功能扩展,满足不同算法模块的并行执行。保证了数据处理的高效性和系统实时性,同时也具有通用性,尤其是需要并行处理两种以上高级图像处理算法,可以满足应用对实时性和并行处理能力的高端需求。
●本发明设计的多目标检测和车体导航算法。非常适合于移动监控、动态探测和伺服制导等领域应用。
【附图说明】:
图1是嵌入式全向球视觉目标检测和移动监控方法的流程框图;
图2是嵌入式全向球视觉目标检测和移动监控系统的硬件架构;
图3是全向球视觉图像输出显示;
图4是系统总线原理图;
图5是存放初始图像的SRAM电路原理图;
图6是存放DSP程序的FLASH电路原理图;
图7是串口通讯接口电路原理图;
图8是全向球视觉车体定位示意图。
【具体实施方式】:
实施例1、嵌入式全向球视觉目标检测和移动监控系统
如图2所示,嵌入式全向球视觉目标检测和移动监控系统的硬件构架,主要包括:
全向球视觉图像成像系统:
包括两个FE185C046HA-1鱼眼镜头,具有185°超大广角,两个鱼眼镜头彼此背向水平、光轴轴心重合,可以覆盖360°×360°全球域视野;图像采集芯片采用两块MT9T001型CMOS芯片,各自独立,分别与两个鱼眼式全景镜头连接,并通过FPGA控制器连接SRAM存储芯片;两块MT9T001型CMOS芯片同时受Cyclone IIC35型FPGA控制,用于采集两路鱼眼镜头的图像(图5);
多路DSP并行图像处理器包括:
一个主控DSP(TMS320VC5502):与SRAM存储芯片连接,负责两路图像处理DSP的数据分配调度与合成,以及用于进行信息综合和导航策略选择,并将制导控制信号通过以太网通讯接口或者串口输出;
两路DSP并行图像处理器:包括分别通过各自对应的FIFO芯片与主控DSP连接的两个图像处理DSP(TMS320DM642),两个图像处理DSP同时分别与SRAM存储芯片连接;用于对不同目标的图像数据并行进行不同的处理过程,并由主控DSP负责两路图像处理DSP的数据分配调度与合成。
FPGA利用与主控DSP(TMS320VC5502)的外部中断口相连的IO口DSP INT4请求中断操作(如图4所示),主控DSP响应外部中断,并在中断服务程序中通知两个图像处理DSP(TMS320DM642)通过数据总线ED[0:63]、地址总线EA[0:22]以及相应的控制总线,从SRAM中读取全向球视觉图像,两个图像处理DSP通过FIFO芯片(采用CYPRESS公司的FIFO芯片CY7C419)实现与主控DSP间的数据通信;所述的多路DSP并行图像处理器中的两个图像处理DSP分别与存放各自DSP程序的FLASH芯片连接(采用4MB的FLASH芯片AM29LV033C,图6),系统上电后,用于自动将相应程序引导入DSP中运行;串口和网络通讯接口芯片分别采用TL16C752B和LXT971A负责制导控制信号的输出(图7)。
实施例2、嵌入式全向球视觉目标检测和移动监控方法
下面用实用案例具体说明本发明的实验步骤与实用效果。
本实例以基于双色航标导航为基础,主要完成一个全球域视觉采集,静态双色航标跟踪和动态目标检测并行处理,车体移动导航的自引导车的移动监控实例。
步骤一:全向球视觉图像采集:
第一、在自引导车顶部放置如实施例1中所述的全向球视觉监控系统。由两个鱼眼式全景镜头同时分别对监控区域进行图像拍摄;
第二、由两路CMOS图像采集芯片分别采集两路鱼眼式全景镜头的图像,所采集的图像为两幅分辨率为720X576的左右半球图像(图3所示)。FPGA控制图像数据,并将所采集的左右半球图像放入SRAM存储芯片中进行暂存,供后续程序应用。此时,就能够将获取的全球域图像输出用于观察;
第三、用两路图像处理DSP分别对静态航标进行跟踪和对动态目标进行检测;
1、静态航标识别跟踪:导航航标我们采用色斑状的双色航标,分别为蓝色和黄色,分别将蓝色Y、Cb、Cr阈值限定范围为80<Y<120、130<Cb<160、100<Cr<125,黄色Y、Cb、Cr阈值限定范围为90<Y<130、70<Cb<100、130<Cr<160。图像处理DSP利用设置的颜色阈值对全屏范围内的每一像素点进行分类判定,分别统计属于蓝色和黄色范围内的像素坐标,并对属于各自范围内的像素坐标利用求平均值的方式,获得蓝色和黄色目标的中心位置分别为右镜头采集图像中(385,148)和左镜头采集图像中(393,147)(图3中十字标记处),作为粒子滤波跟踪的初始位置。
接下来进行粒子滤波跟踪:粒子滤波跟踪包括:粒子集初始化、移动粒子、计算粒子权值、权值标准化、重采样、预测目标当前位置五个步骤。
第3.1步,粒子集初始化,在第一帧图像中分别计算以蓝色和黄色目标中心位置30×30范围内图像的颜色直方图,作为目标直方图。然后分别在两个目标的中心15×15范围内随机产生150个30×30的方框,即粒子,并统计每一个粒子的颜色直方图。
第3.2步,移动粒子。当下一帧图像到来时,根据上一帧中每个粒子的位置(x,y),随机移动到新的位置(x+Range×random,y+Range×random),Range为移动范围,本实施例中取15,random为-1~1的随机数。
第3.3步,计算粒子权值。利用 计算每个粒子的权值,式中x为多值目标颜色直方图,Zm为对应粒子的颜色直方图,count为粒子个数;
第3.4步,权值标准化。在计算完所有粒子权值后,将每个粒子的权值与所有粒子的权值和相除,进行权值标准化,使得每个粒子权值的取值范围变为0~1之间;
第3.5步,粒子重采样。如果粒子的权值小于阈值α(α=所有粒子平均权值×K,K值越大参与粒子重采样的粒子越多,此值根据跟踪所需精度进行调节,本实施例中K=0.2),则表示该粒子代表目标位置的概率很低,需要重新采样以保证尽可能多的粒子能够参与下一步的目标预测。参照第3.2步的方法,将这些粒子随机移动一个位置产生新的粒子,并计算权值;
第3.6步,预测目标当前位置。设定阈值β(β=所有粒子平均权值×K′,K′值越小参与预测的粒子越多,此值根据跟踪所需精度进行调节,本实施例中K′=0.8)分别统计两个目标中权值大于β的粒子,这些粒子权值的平均值即为两个目标的预测位置。最后将两个目标的图像坐标信息作为参数,传输到主控DSP中,供其应用。
2、机动目标实时检测:在一路图像处理DSP跟踪静态航标的同时,另一路图像处理DSP通过光流法实现对机动目标的实时监测,由于移动监控时,机体存在移动性,所以需要一种改进的光流法去除背景的光流干扰。设时刻t时中,图像上的任意一点(x,y)处的灰度值为P(x,y,t),它是场景中时刻t时某物体上某一点(X,Y,Z)在图像上的像。在时刻t+Δt时,这一点运动到(X十ΔX,Y十ΔY,Z十ΔZ),其在图像上的像变为(x十Δx,y+Δy),于是时刻t十Δt时图像上点(x+Δx,y+Δy)处的灰度值可记为P(x+Δx,y+Δy,t+Δt),假定它与P(x,y,t)相等,经过变换可以推导出光流场的基本计算公式:
其中 是图像灰度值的梯度,U是光流场。为较少计算量,我们设定将每隔6×8像素的区域,对图像中所有的像素区域进行一次光流平均计算,同时根据静态航标Δt时刻中的相对位移作为阈值,进行光流量与之判断,将光流量大于阈值的区域设定为机动目标,反之,设定为背景,分割光流场中的背景和机动目标。
在本实例中,设Δt为2秒,当车体速度保持在0.2m/s的速度行进中,计算出静态航标的光流向量为 同时计算图像中各个区域的光流向量 并将各点的光流向量于航标的光流向量进行对比ΔUi=|u0-ui|+|v0-vi|,当ΔUi小于设定阈值时,认为此区域为机动目标点,最后将所有的机动目标点连通域统计后,检测出机动目标。并将其实时监控的目标信息,传送到主控DSP中,再通过网络通讯发送到外部设备中,提供移动监控功能。
第四、车体制导策略设定和导航控制输出:
在主控DSP中进行车体制导策略设定,首先主控DSP接收一路图像处理DSP所跟踪的静态航标信息,如图8所示,以航标A,航标B为X轴,建立世界坐标系。航标的世界坐标系分别为:(X1,Y1),(X2,Y2),图像坐标为(X1’,Y1’)和(X2’,Y2’)。车体的世界坐标系设为(X0,Y0)。鱼眼镜头中心设为(X0’,Y0’)。本鱼眼镜头严格满足等距投影定理,即投影距离与目标仰角满足ri=kwi,同时航标在车体正前方投影的空间角度等于航标的映射角度,即θ′1=θ1,θ′2=θ2,并且可由公式 i=1,2求出。航标高度H1,H2,航标间距L,全向球视觉镜头高度H0为已知参数,配合航标仰角θ1,θ2,可以推导出车体在世界坐标系下的空间坐标:
本实例中两个航标的坐标为右镜头图像中(385,148)和左镜头图像中(393,147),两航标高度265cm,间距325cm,本实例采用的鱼眼镜头中心为(382,277),镜头高度为83cm,投影系数k为3.2。经过计算,车体的空间坐标为(153,4)。并根据导航策略,控制车体移动。在本实例中,车体制导方法设定为沿两个航标中心线移动,车体位置和中心线的偏差r为10.5,根据公式
SpeedL=Speed+K*Δr
SpeedR=Speed-K*Δr
设定车体左右轮速度,Speed为左、右轮默认速度、为0.2米每秒,K等于0.007(K值需根据不同的移动载体求出)。按照公式进行计算,结果为左轮速度0.326米每秒,右轮速度0.126米每秒。
Claims (4)
1、嵌入式全向球视觉目标检测和移动监控系统,其特征在于该系统包括:
全向球视觉图像成像系统:包括背靠固定的两个鱼眼式全景镜头,分别与两个鱼眼式全景镜头连接的两个可编程面阵CMOS图像采集芯片,两个CMOS图像采集芯片通过FPGA控制器连接SRAM存储芯片;该成像系统用于一次获取整个全球域的图像信息,并通过FPGA将采集到的图像数据存储到SRAM芯片中;
一个主控DSP:与SRAM存储芯片连接,负责两路图像处理DSP的数据分配调度与合成,以及用于进行信息综合和导航策略选择,并将制导控制信号通过以太网通讯接口或者串口输出;
两路DSP并行图像处理器:包括分别通过各自对应的FIFO芯片与主控DSP连接的两个图像处理DSP,两个图像处理DSP同时分别与SRAM存储芯片连接;用于对不同目标的图像数据并行进行不同的处理过程,并由主控DSP负责两路图像处理DSP的数据分配调度与合成。
2、根据权利要求1所述的嵌入式全向球视觉目标检测和移动监控系统,其特征在于所述的两个图像处理DSP分别与存放各自DSP程序的FLASH芯片连接,系统上电后,用于自动将相应程序引导入DSP中运行。
3、一种嵌入式全向球视觉目标检测和移动监控方法,其特征在于该方法包括以下步骤:
第一、由两个鱼眼式全景镜头同时分别对监控区域进行图像拍摄;
第二、由两路CMOS图像采集芯片分别采集两路鱼眼式全景镜头的图像,并将所采集的左右半球图像放入SRAM存储芯片中进行暂存,此时,就能够将获取的全球域图像输出用于观察;
第三、用两路图像处理DSP分别对静态航标进行跟踪和对动态目标进行检测,两路图像处理流程并行进行,并在处理中可以实时交换信息;
第四、由主控DSP对上步跟踪和检测的结果进行信息综合和导航策略选择,并将制导控制信号通过以太网通讯接口或者串口发送到被控端。
4、根据权利要求3所述的方法,其特征在于第四步所述的进行信息综合和导航策略选择是指移动车体导航,即主控DSP可以根据接收到的两路DSP并行图像处理器发送的信息,实现航迹导航和追踪导航的自动切换;
当自主导航过程中无机动目标出现时,主控DSP接收静态航标跟踪在全景图像中左右双色航标的位置信息,通过坐标变换推导出车体在环境空间的坐标位姿,以此进行定位并进行相应的信息综合和导航策略选择,位姿推导公式为:
其中,(X0,Y0)为车体空间坐标,r为全景图像中航标与鱼眼中心的投影距离,H1为航标高度,H0为全向球视觉镜头高度,θ1,θ2为计算的航标仰角,k为鱼眼镜头投影系数,再计算出车体位置和航标中心线的偏差Δr,根据公式:
SpeedL=Speed+K*Δr
SpeedR=Speed-K*Δr
计算出车体左右轮速度,实现航标导航;
当自主导航过程中检测到机动目标时,由机动目标跟踪器向主控DSP发出始能信号,主控DSP自动切换到追踪导航策略,追踪导航策略利用机动目标跟踪器经连通域分析计算出的机动目标在图像中的位置,求出该位置与图像中心线的偏差Δr′,根据公式:
SpeedL=Speed-(K×Δr′)
SpeedR=Speed+(K×Δr′)
计算出车体左右轮速度,实现寻迹导航。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN2009100690330A CN101561270B (zh) | 2009-05-27 | 2009-05-27 | 嵌入式全向球视觉目标检测和移动监控系统及方法 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN2009100690330A CN101561270B (zh) | 2009-05-27 | 2009-05-27 | 嵌入式全向球视觉目标检测和移动监控系统及方法 |
Publications (2)
Publication Number | Publication Date |
---|---|
CN101561270A true CN101561270A (zh) | 2009-10-21 |
CN101561270B CN101561270B (zh) | 2011-05-04 |
Family
ID=41220170
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN2009100690330A Expired - Fee Related CN101561270B (zh) | 2009-05-27 | 2009-05-27 | 嵌入式全向球视觉目标检测和移动监控系统及方法 |
Country Status (1)
Country | Link |
---|---|
CN (1) | CN101561270B (zh) |
Cited By (28)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN101873477A (zh) * | 2010-02-26 | 2010-10-27 | 杭州海康威视数字技术股份有限公司 | 一种利用快球跟踪系统实现监控的方法及装置 |
CN101699219B (zh) * | 2009-10-30 | 2011-01-26 | 北京理工大学 | 双目视觉三维测量的方法及传感器 |
WO2011047508A1 (en) * | 2009-10-22 | 2011-04-28 | Tianjin University Of Technology | Embedded vision tracker and mobile guiding method for tracking sequential double color beacons array with extremely wide-angle lens |
CN102175221A (zh) * | 2011-01-20 | 2011-09-07 | 上海杰图软件技术有限公司 | 基于鱼眼镜头的车载移动摄影测量系统 |
WO2012056437A1 (en) | 2010-10-29 | 2012-05-03 | École Polytechnique Fédérale De Lausanne (Epfl) | Omnidirectional sensor array system |
CN102447835A (zh) * | 2011-10-29 | 2012-05-09 | 合肥博微安全电子科技有限公司 | 无盲区多目标协同跟踪方法及系统 |
CN102497543A (zh) * | 2012-01-06 | 2012-06-13 | 合肥博微安全电子科技有限公司 | 一种基于dsp的多目标跟踪方法及系统 |
CN102881159A (zh) * | 2011-07-14 | 2013-01-16 | 中国大恒(集团)有限公司北京图像视觉技术分公司 | 一种嵌入式双dsp信息数据处理装置和方法 |
CN103177455A (zh) * | 2013-03-20 | 2013-06-26 | 南京理工大学 | 基于多核dsp的klt运动目标跟踪算法的实现方法 |
CN103200358A (zh) * | 2012-01-06 | 2013-07-10 | 杭州普维光电技术有限公司 | 摄像机与目标场景之间的坐标转换方法及装置 |
CN104199452A (zh) * | 2014-09-26 | 2014-12-10 | 上海未来伙伴机器人有限公司 | 移动机器人、移动机器人系统、移动及通信方法 |
CN104670093A (zh) * | 2015-02-06 | 2015-06-03 | 广东光阵光电科技有限公司 | 汽车启动盲区监测摄像方法及系统 |
CN104735402A (zh) * | 2013-12-21 | 2015-06-24 | 威海家和网络技术股份有限公司 | 全景回放系统 |
CN104835118A (zh) * | 2015-06-04 | 2015-08-12 | 浙江得图网络有限公司 | 通过两路鱼眼摄像头采集全景图像的方法 |
CN105187753A (zh) * | 2015-08-06 | 2015-12-23 | 佛山六滴电子科技有限公司 | 一种录制全景视频的系统 |
CN105516569A (zh) * | 2016-01-20 | 2016-04-20 | 北京疯景科技有限公司 | 一种获得全景图像的方法和装置 |
CN105654734A (zh) * | 2016-03-15 | 2016-06-08 | 深圳市佳信捷技术股份有限公司 | 车辆违章行为的数据处理方法及装置 |
CN105989603A (zh) * | 2015-03-18 | 2016-10-05 | 英特尔公司 | 机器视觉图像传感器校准 |
TWI558208B (zh) * | 2015-07-14 | 2016-11-11 | 旺玖科技股份有限公司 | 影像處理方法、影像處理裝置及顯示系統 |
CN106546224A (zh) * | 2016-10-14 | 2017-03-29 | 安徽协创物联网技术有限公司 | 一种球面全景相机摄影测量方法 |
CN106556391A (zh) * | 2016-11-25 | 2017-04-05 | 上海航天控制技术研究所 | 一种基于多核dsp的快速视觉测量方法 |
CN106918331A (zh) * | 2014-05-05 | 2017-07-04 | 赫克斯冈技术中心 | 相机模块、测量子系统和测量系统 |
CN106937052A (zh) * | 2017-03-29 | 2017-07-07 | 维沃移动通信有限公司 | 一种图像数据的处理方法及移动终端 |
CN107944390A (zh) * | 2017-11-24 | 2018-04-20 | 西安科技大学 | 机动车行驶前方物体视频测距及方向定位方法 |
CN108206903A (zh) * | 2016-12-19 | 2018-06-26 | 群光电子股份有限公司 | 环景相机装置 |
CN108225331A (zh) * | 2018-01-09 | 2018-06-29 | 四川西谷物联科技有限公司 | 导航方法、装置及电子设备 |
CN109565571A (zh) * | 2016-05-26 | 2019-04-02 | 联发科技股份有限公司 | 标示关注区域的方法与装置 |
CN109976391A (zh) * | 2019-04-11 | 2019-07-05 | 天津理工大学 | 光学聚焦镜头的焦点感光元件三维空间视觉伺服定位系统及方法 |
Families Citing this family (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN103888751A (zh) * | 2014-03-12 | 2014-06-25 | 天津理工大学 | 一种基于dsp的嵌入式全景立体球视觉图像采集系统 |
-
2009
- 2009-05-27 CN CN2009100690330A patent/CN101561270B/zh not_active Expired - Fee Related
Cited By (50)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
WO2011047508A1 (en) * | 2009-10-22 | 2011-04-28 | Tianjin University Of Technology | Embedded vision tracker and mobile guiding method for tracking sequential double color beacons array with extremely wide-angle lens |
CN101699219B (zh) * | 2009-10-30 | 2011-01-26 | 北京理工大学 | 双目视觉三维测量的方法及传感器 |
CN101873477B (zh) * | 2010-02-26 | 2012-09-05 | 杭州海康威视数字技术股份有限公司 | 一种利用快球跟踪系统实现监控的方法及装置 |
CN101873477A (zh) * | 2010-02-26 | 2010-10-27 | 杭州海康威视数字技术股份有限公司 | 一种利用快球跟踪系统实现监控的方法及装置 |
US10362225B2 (en) | 2010-10-29 | 2019-07-23 | Ecole Polytechnique Federale De Lausanne (Epfl) | Omnidirectional sensor array system |
WO2012056437A1 (en) | 2010-10-29 | 2012-05-03 | École Polytechnique Fédérale De Lausanne (Epfl) | Omnidirectional sensor array system |
CN102175221B (zh) * | 2011-01-20 | 2014-04-09 | 北京百度网讯科技有限公司 | 基于鱼眼镜头的车载移动摄影测量系统 |
CN102175221A (zh) * | 2011-01-20 | 2011-09-07 | 上海杰图软件技术有限公司 | 基于鱼眼镜头的车载移动摄影测量系统 |
CN102881159A (zh) * | 2011-07-14 | 2013-01-16 | 中国大恒(集团)有限公司北京图像视觉技术分公司 | 一种嵌入式双dsp信息数据处理装置和方法 |
CN102881159B (zh) * | 2011-07-14 | 2015-04-22 | 中国大恒(集团)有限公司北京图像视觉技术分公司 | 一种嵌入式双dsp信息数据处理装置和方法 |
CN102447835A (zh) * | 2011-10-29 | 2012-05-09 | 合肥博微安全电子科技有限公司 | 无盲区多目标协同跟踪方法及系统 |
CN102497543A (zh) * | 2012-01-06 | 2012-06-13 | 合肥博微安全电子科技有限公司 | 一种基于dsp的多目标跟踪方法及系统 |
CN103200358A (zh) * | 2012-01-06 | 2013-07-10 | 杭州普维光电技术有限公司 | 摄像机与目标场景之间的坐标转换方法及装置 |
CN103200358B (zh) * | 2012-01-06 | 2016-04-13 | 杭州普维光电技术有限公司 | 摄像机与目标场景之间的坐标转换方法及装置 |
CN103177455A (zh) * | 2013-03-20 | 2013-06-26 | 南京理工大学 | 基于多核dsp的klt运动目标跟踪算法的实现方法 |
CN103177455B (zh) * | 2013-03-20 | 2016-04-20 | 南京理工大学 | 基于多核dsp的klt运动目标跟踪算法的实现方法 |
CN104735402A (zh) * | 2013-12-21 | 2015-06-24 | 威海家和网络技术股份有限公司 | 全景回放系统 |
CN106918331B (zh) * | 2014-05-05 | 2019-06-18 | 赫克斯冈技术中心 | 测量子系统和测量系统 |
US10274316B2 (en) | 2014-05-05 | 2019-04-30 | Hexagon Technology Center Gmbh | Surveying system |
US11054258B2 (en) | 2014-05-05 | 2021-07-06 | Hexagon Technology Center Gmbh | Surveying system |
US10655962B2 (en) | 2014-05-05 | 2020-05-19 | Hexagon Technology Center Gmbh | Surveying system |
US10605601B2 (en) | 2014-05-05 | 2020-03-31 | Hexagon Technology Center Gmbh | Surveying system |
US10605602B2 (en) | 2014-05-05 | 2020-03-31 | Hexagon Technology Center Gmbh | Surveying system |
US10495461B2 (en) | 2014-05-05 | 2019-12-03 | Hexagon Technology Center Gmbh | Surveying system |
US10488198B2 (en) | 2014-05-05 | 2019-11-26 | Hexagon Technology Center Gmbh | Surveying system |
US10371518B2 (en) | 2014-05-05 | 2019-08-06 | Hexagon Technology Center Gmbh | Surveying system |
CN106918331A (zh) * | 2014-05-05 | 2017-07-04 | 赫克斯冈技术中心 | 相机模块、测量子系统和测量系统 |
US10359283B2 (en) | 2014-05-05 | 2019-07-23 | Hexagon Technology Center Gmbh | Surveying system |
US10281276B2 (en) | 2014-05-05 | 2019-05-07 | Hexagon Technology Center Gmbh | Surveying system |
US10234287B2 (en) | 2014-05-05 | 2019-03-19 | Hexagon Technology Center Gmbh | Surveying system |
CN104199452A (zh) * | 2014-09-26 | 2014-12-10 | 上海未来伙伴机器人有限公司 | 移动机器人、移动机器人系统、移动及通信方法 |
CN104670093A (zh) * | 2015-02-06 | 2015-06-03 | 广东光阵光电科技有限公司 | 汽车启动盲区监测摄像方法及系统 |
CN105989603B (zh) * | 2015-03-18 | 2019-04-23 | 英特尔公司 | 机器视觉图像传感器校准 |
CN105989603A (zh) * | 2015-03-18 | 2016-10-05 | 英特尔公司 | 机器视觉图像传感器校准 |
CN104835118A (zh) * | 2015-06-04 | 2015-08-12 | 浙江得图网络有限公司 | 通过两路鱼眼摄像头采集全景图像的方法 |
TWI558208B (zh) * | 2015-07-14 | 2016-11-11 | 旺玖科技股份有限公司 | 影像處理方法、影像處理裝置及顯示系統 |
CN105187753A (zh) * | 2015-08-06 | 2015-12-23 | 佛山六滴电子科技有限公司 | 一种录制全景视频的系统 |
CN105516569A (zh) * | 2016-01-20 | 2016-04-20 | 北京疯景科技有限公司 | 一种获得全景图像的方法和装置 |
CN105654734A (zh) * | 2016-03-15 | 2016-06-08 | 深圳市佳信捷技术股份有限公司 | 车辆违章行为的数据处理方法及装置 |
CN109565571A (zh) * | 2016-05-26 | 2019-04-02 | 联发科技股份有限公司 | 标示关注区域的方法与装置 |
CN109565571B (zh) * | 2016-05-26 | 2021-01-15 | 联发科技股份有限公司 | 标示关注区域的方法与装置 |
CN106546224A (zh) * | 2016-10-14 | 2017-03-29 | 安徽协创物联网技术有限公司 | 一种球面全景相机摄影测量方法 |
CN106546224B (zh) * | 2016-10-14 | 2019-05-10 | 安徽协创物联网技术有限公司 | 一种球面全景相机摄影测量方法 |
CN106556391A (zh) * | 2016-11-25 | 2017-04-05 | 上海航天控制技术研究所 | 一种基于多核dsp的快速视觉测量方法 |
CN108206903A (zh) * | 2016-12-19 | 2018-06-26 | 群光电子股份有限公司 | 环景相机装置 |
CN106937052A (zh) * | 2017-03-29 | 2017-07-07 | 维沃移动通信有限公司 | 一种图像数据的处理方法及移动终端 |
CN107944390A (zh) * | 2017-11-24 | 2018-04-20 | 西安科技大学 | 机动车行驶前方物体视频测距及方向定位方法 |
CN108225331A (zh) * | 2018-01-09 | 2018-06-29 | 四川西谷物联科技有限公司 | 导航方法、装置及电子设备 |
CN109976391A (zh) * | 2019-04-11 | 2019-07-05 | 天津理工大学 | 光学聚焦镜头的焦点感光元件三维空间视觉伺服定位系统及方法 |
CN109976391B (zh) * | 2019-04-11 | 2022-04-01 | 天津理工大学 | 光学聚焦镜头的焦点感光元件三维空间视觉伺服定位系统及方法 |
Also Published As
Publication number | Publication date |
---|---|
CN101561270B (zh) | 2011-05-04 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
CN101561270B (zh) | 嵌入式全向球视觉目标检测和移动监控系统及方法 | |
CN106681353B (zh) | 基于双目视觉与光流融合的无人机避障方法及系统 | |
CN109100730B (zh) | 一种多车协同快速建图方法 | |
CN101969548B (zh) | 基于双目摄像的主动视频获取方法及装置 | |
CN101552910B (zh) | 基于全方位计算机视觉的遗留物检测装置 | |
CN101447075B (zh) | 基于大广角镜头的fpga+dsp嵌入式多值目标阈值分类跟踪装置 | |
CN112785702A (zh) | 一种基于2d激光雷达和双目相机紧耦合的slam方法 | |
US20190243376A1 (en) | Actively Complementing Exposure Settings for Autonomous Navigation | |
CN112734765B (zh) | 基于实例分割与多传感器融合的移动机器人定位方法、系统及介质 | |
CN111880207B (zh) | 一种基于小波神经网络的视觉惯性卫星紧耦合定位方法 | |
CN102447835A (zh) | 无盲区多目标协同跟踪方法及系统 | |
CN106683118A (zh) | 一种基于分层模型的无人机目标跟踪方法 | |
US20190311209A1 (en) | Feature Recognition Assisted Super-resolution Method | |
CN115346177A (zh) | 一种新的路侧视角下目标检测系统及方法 | |
CN116245916B (zh) | 一种面向无人艇的红外舰船目标跟踪方法及装置 | |
CN112380923A (zh) | 基于多任务的智能自主视觉导航与目标检测方法 | |
CN110490903B (zh) | 一种双目视觉测量中多目标快速捕获与跟踪方法 | |
Wang et al. | Monocular visual SLAM algorithm for autonomous vessel sailing in harbor area | |
CN113436239A (zh) | 一种基于深度信息估计的单目图像三维目标检测方法 | |
Zhao et al. | Deep learning-based object detection in maritime unmanned aerial vehicle imagery: Review and experimental comparisons | |
Wang et al. | Monitoring aquatic debris using smartphone-based robots | |
Cafaro et al. | Towards Enhanced Support for Ship Sailing | |
Xu et al. | Surround-view Water Surface BEV Segmentation for Autonomous Surface Vehicles: Dataset, Baseline and Hybrid-BEV Network | |
Guo et al. | Research on Mobile Robot Vision Navigation Algorithm | |
CN104469328A (zh) | 一种人车自动识别系统 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
C06 | Publication | ||
PB01 | Publication | ||
C10 | Entry into substantive examination | ||
SE01 | Entry into force of request for substantive examination | ||
C14 | Grant of patent or utility model | ||
GR01 | Patent grant | ||
C17 | Cessation of patent right | ||
CF01 | Termination of patent right due to non-payment of annual fee |
Granted publication date: 20110504 Termination date: 20120527 |