CN101750060A - 利用感测元件的定位与检测的系统与方法 - Google Patents

利用感测元件的定位与检测的系统与方法 Download PDF

Info

Publication number
CN101750060A
CN101750060A CN200810186085A CN200810186085A CN101750060A CN 101750060 A CN101750060 A CN 101750060A CN 200810186085 A CN200810186085 A CN 200810186085A CN 200810186085 A CN200810186085 A CN 200810186085A CN 101750060 A CN101750060 A CN 101750060A
Authority
CN
China
Prior art keywords
carrier
map
sensing
feature
feature object
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Pending
Application number
CN200810186085A
Other languages
English (en)
Inventor
曾国师
唐之玮
李金龙
郭家霖
杨安陶
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Industrial Technology Research Institute ITRI
Original Assignee
Industrial Technology Research Institute ITRI
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Industrial Technology Research Institute ITRI filed Critical Industrial Technology Research Institute ITRI
Priority to CN200810186085A priority Critical patent/CN101750060A/zh
Publication of CN101750060A publication Critical patent/CN101750060A/zh
Pending legal-status Critical Current

Links

Images

Landscapes

  • Navigation (AREA)

Abstract

本发明涉及一种利用感测元件的定位与检测的系统与方法,利用彼此互补的多种传感器,进而达到定位与建地图。此外,在动态物件检测与追踪时,将多重传感器对物体的感测结果进行交叉比对,以检测出移动中的物体的位置并追踪此物体。

Description

利用感测元件的定位与检测的系统与方法
技术领域
本发明涉及一种利用感测元件的定位与检测的系统与方法,且特别是涉及一种利用可互补的多种感测元件的系统与方法,其定位载体、预测环境特征物件的位置、检测与追踪动态物件。
背景技术
室外定位系统,比如GPS(全球定位系统),已广泛使用于车用导航系统,以在室外定出车辆或人的位置。但室内定位系统至今仍有其问题无法突破,室内定位系统的困难度在于(1)在室内时,电磁讯号易被遮蔽,无法接收到卫星讯号;(2)室内环境的变动性较室外环境大。
目前来说,室内定位的技术有两种类型,一种为外部定位系统,另一种为内部定位系统。外部定位系统例如,利用外部的传感器与机器人的接收器之间的相对关系去估测机器人在空间中的位置。由内部定位系统例如,在机器人上放传感器,将所扫描到的数据比较于其内建地图,进而估测机器人在空间中的位置。
外部定位系统的定位速度快,但需事先建好外部传感器,一但这些外部传感器被移动或被遮蔽,此系统将无法定位。外部定位系统如要用于大范围,所需的传感器数目与成本将增加。
内部定位系统的定位速度较慢但具扩充性,即使环境变动性大,只要仍有特征点可供定位,内部定位系统仍能定位。但其必需先内建室内环境地图,才能进行定位。考虑实时性的话,可以同时建地图与定位。然而此技术所建出的地图是静态的,但真实世界是动态的,所以,能达成动态环境下的定位与建地图的技术是必要的。
对于动态物件的估测通称为追踪。多个雷达可检测空中的移动物体,以判断是不是有敌机或飞弹来袭。目前此种检测与追踪技术已可应用在日常生活中,例如动态人物监控或其它安全监控应用。
发明内容
为达有效室内空间定位,和改善视觉传感器易受光线干扰而造成定位误差的问题,本发明目的是采用多重传感器间的互补性,以达成估测空间中物体状态的系统与方法,本发明利用电磁波感测元件(electro-magneticwave sensor)、机械波感测元件(mechanical wave sensor)或惯性感测元件(inertial sensor),计算器率模型的感测融合(fusion)算法,定位出载体位置并估测环境特征物件在空间中的相对位置,以达到定位、建地图、动态物件检测与追踪。
本发明提出一种应用感测元件的定位与建地图的系统与方法,其妥善结合各种传感器的特性进而达到三度空间定位与建地图的功能。
本发明提出一种应用感测元件的动态物件检测与追踪的系统与方法,将多重传感器对物体感测的结果进行同构型(homogeneous)交叉比对或异质性(non-homogeneous)交叉比对,以检测出移动中的物体并追踪此物体。
本发明的一例提出一种感测系统,该系统包括:一载体;一多重传感器模块,配置于该载体上,该多重传感器模块感测多种彼此互补的特性,该多重传感器模块感测该载体以得到一载体信息,该多重传感器模块亦可感测一特征物件以得到一特征物件信息;一控制器,接收该多重传感器模块所传来的该载体信息与该特征物件信息;以及一显示单元,受控于该控制器,以提供一反应信号。该控制器执行下列的至少一者:该控制器将该载体定位于一地图内,且该控制器还将该特征物件加入于该地图中及更新在该地图中的该特征物件;以及根据该特征物件信息,该控制器预测该特征物件的一移动量,以决定该特征物件是否为已知的,并据以修正该地图及将该特征物件加入于该地图中。
本发明的另一例提供一种载体定位与建地图的感测方法,该方法包括:执行一第一感测步骤,以感测一载体以得到一载体信息;执行一第二感测步骤,以感测一特征物件以得到一特征物件信息,其中该第二感测步骤感测多种彼此互补的特性;分析该载体信息,以得到该载体的一位置与一状态,并将该载体定位于一地图内;分析该特征物件信息,以得到该特征物件的一位置与一状态;以及比较一地图与该特征物件的该位置与该状态,以将该特征物件的该位置与该状态加入于该地图中及更新在该地图中的该特征物件的该位置与该状态。
本发明的又另一例提供一种动态物件检测与追踪的感测方法,该方法包括:执行一第一感测步骤,以感测一动态物件以得到其第一移动量;执行一第二感测步骤,以感测该动态物件以得到其第二移动量,其中该第一感测步骤与该第二感测步骤彼此互补;分析该第一移动量与该第二移动量,以预估一载体与该动态物件间的一相对距离;决定该动态物件是否为已知的;若为已知,修正在一地图中的该动态物件的一状态,并检测与追踪;以及若为未知,将该动态物件及其状态加入于该地图,并检测与追踪。
附图说明
图1显示根据本发明实施例的利用感测元件的定位与建地图的系统。
图2显示利用视觉传感器来计算物件在空间中的位置的示意图。
图3显示双眼图像投影示意图。
图4A及图4B是依照本发明实施例的利用机械波传感器来检测载体与环境特征物件间的距离,以推测载体位置的示意图。
图5显示本发明实施例的定位与建静态地图的流程图。
图6显示定位与建静态地图的应用情境。
图7显示本发明实施例的对动态特征物件检测与追踪的流程图。
图8是对动态特征物件检测与追踪的应用情境。
图9显示本发明实施例的定位、建地图、移动物件的检测与追踪的应用情境。
【主要元件符号说明】
100:系统
110:多重传感器模块
120:载体
130:控制器
140:显示单元
110a、110b、110c:传感器
210、220:预处理
211、221:噪声移除
212、222:光线校正
213、223:图像矫正
IN1、IN2:图像信息
CM:相机参数矩阵
230、240:特征提取
250、260:图像描述
270:相似度比对
280:3D重建
510~570、710~770:步骤
610A~610C、810A~810C、910A~910D:特征物件
920:手
具体实施方式
为让本发明的上述内容能更明显易懂,下文特举实施例,并配合附图,作详细说明如下:
在本发明实施例中,能妥善结合各种传感器的特性进而达到三度空间定位与建地图的功能。此外,在动态物件检测与追踪时,利用多重传感器对物体的同构型交叉比对或异质性交叉比对,以检测出移动中的物体并追踪此物体。
图1显示根据本发明实施例的利用感测元件的定位与建地图的系统。如图1所示,此系统100包括:多重传感器模块110、载体120、控制器130与显示单元140。
多重传感器模块110可测量:外界环境或特征物件的电磁波信息(如图像或其它不可见的电磁波)、外界环境或特征物件的机械波信息(如声纳等经由机械震动所产生的震波)与载体120的力学信息(如位置、速度、加速度、角速度、角加速度)。多重传感器模块110会将所感测到的数据传输给控制器130。
在图1中,多重传感器模块110包括至少三种传感器110a、110b与110c,其中,这三种传感器所感测的特性不同,且可彼此互补。当然,多重传感器模块110可包括更多种的传感器,此皆在本发明的精神与范围内。
比如,传感器110a用以感测外界环境的电磁波信息,其可为:可见光视觉传感器、不可见光视觉传感器、电磁波传感器、红外线热传感器、红外线距离传感器等。传感器110b用以感测外界环境的机械波信息,其可为超音波传感器、超音波数组传感器或声纳传感器等。亦即,传感器110a与110b可感测外界环境中的环境特征物件与载体120间的距离。传感器110c用以感测载体120的力学信息,其可为加速规、陀螺仪、转速计数组或其它可测量物体力学的传感器等。传感器110a易受昏暗光线或无光源干扰,但较不易受物件的形状影响到测量结果。另一方面,传感器110b虽不会因为昏暗光线或无光源而影响测量,但会受物件的形状影响测量结果。亦即,传感器110a与110b彼此互补。
多重传感器模块110安装于载体120上。载体120可为车辆、机车、自行车、机器人、眼镜、手表、安全帽、其它可移动的物体等。
控制器130接收多重传感器模块110所感测到的载体力学信息与环境感测信息(至少包括外界环境中的环境特征物件与载体120间的距离),以计算(预估测)出载体状态信息、预估出外界环境中的环境特征物件的特性(如其移动距离、移动方向等)与建立地图。更甚者,根据几何表达式,控制器130换算多重传感器模块110所传来的载体力学信息,以得知载体120的状态信息(比如,载体的惯性信息、姿态等)。此外,根据几何表达式,控制器130换算多重传感器模块110所传来的环境感测信息,可得知载体的移动信息或是环境特征物件的特性(如其位置等)。
控制器130以数字滤波器,如卡尔曼滤波器(Kalman Fiter)、粒子滤波器(Particle filter)、Rao-Blackwellised Particle filtetr或其它类贝氏滤波器推算出载体状态,以输出到显示单元140。
显示单元140连接于控制器130。显示单元140在控制器的命令下,产生对外界的互动反应。比如但不受限于,显示单元140所产生的互动反应可为语音信号、图像信号与提示信号的至少一者或其组合。语音信号包括:语音、音乐、预录的声音等。图像信号包括:图像、文字等。提示信号包括:颜色、色彩、明暗、闪烁、图形等。比如,当检测到别台车辆快要撞到应用本发明实施例的车辆时,显示单元可发出警示信息(声音等),以警告驾驶。
在本发明实施例中,控制器130的状态估测可用数字滤波器实现,如下式所示,其中xt为此刻的载体信息(包含位置(x,y,z),载体姿态(θ,φ,ψ)与地标状态(xn,yn)),其中xt-1为上一刻的载体信息,ut为此时刻的载体移动感测信息(如加速度(ax,ay,az)、角速度(ωx,ωy,ωz)等等信息),zt为此刻传感器所感测到的环境信息(如zx,zy,zz))。
xt=f(xt-1,ut)+εt
zt=h(xt)+δt
利用数字滤波器,可经由迭代的方式算出xt,根据xt,控制器130输出信息到其它装置(如显示单元140)。
以下解释传感器在测量空间中物件几何距离的概念与方法。
电磁波(可见光):
利用视觉传感器,可通过图像来建立在空间中的物件位置与环境信息等。以图像感测为基础,定位真实世界的物件如图2与图3所示。图2显示利用视觉传感器来计算物件在空间中的位置的示意图。图3显示双眼图像投影示意图。
如图2所示,假设已知相机的内参数矩阵与外参数矩阵,而由内外参数矩阵可得相机参数矩阵CM(camera matrix)。对所提取的两张图像信息IN1与IN2(可由两个相机装置分别提取得,或利用一台相机在两个时间点取得)可选择性分别施以预处理210与220。预处理210与220分别包括:噪声移除(noise removal)211与221、光线校正(illumination correction)212与222;以及与图像矫正(image rectification)213与223。若欲施以图像矫正,则必须知道基础矩阵(fundamental matrix)。基础矩阵的计算方式如下所述。
在图像平面上的以相机坐标系表示的成像点可经由相机内参数矩阵转换,以得到此点以2维(2-D)图像平面成像点的表示方式,意即
p l = M l - 1 p ‾ l
p r = M r - 1 p ‾ r
其中,pl与pr分别为真实世界的物件点P于第一张与第二张图像的成像点,其以相机坐标系统表示;而
Figure G2008101860851D0000072
分别为物件点P于第一张与第二张图像的成像点,其以2-D图像平面的坐标系统表示;Ml与Mr分别为第一台与第二台相机的内参数矩阵。
如图3所示,pl的坐标为(x1,y1,z1),而pr的坐标为(xt,yt,zt)。在图3中,O1与Ot为原点。
又,pl与pr可经由必要矩阵(essential matrix,E)转换,必要矩阵E为两个相机坐标系统之间的旋转与平移矩阵相乘后的结果,因此,
p r T Ep l = 0
上式可改写成:
( M r - 1 p ‾ r ) T E ( M l - 1 p ‾ l ) = 0
再将Ml、Mr与E合并后可得
p ‾ r T ( M r - T EM l - 1 ) p ‾ l = 0
因此,令
F=Mr -TRSMl -1
可获得
Figure G2008101860851D0000076
Figure G2008101860851D0000077
之间的关系式如下
p ‾ r T = F p ‾ l = 0
因此,通过输入两图像内的已知数组对应点,即可由上式求得基础矩阵。矫正后的两张图像会具有平行对应的核线(epipolar line)。
其后,对两张矫正后图像施以特征提取(feature extraction)230与240,以抽取出有意义的待比对特征点或区域。接着,利用图像描述(imagedescription)250与260来简化特征,使其成为特征描述子(feature descriptor),的后,对两张图像特征施行相似度比对(stereo matching)270,找出两张图像中对应的特征描述子。
令pl与pr的坐标分别为
Figure G2008101860851D0000079
Figure G2008101860851D00000710
由于图像中存在噪声,因此可通过解开在3D重建(3D reconstruction)280中的最佳化问题
min P Σ j = l , r [ ( m 1 jT P m 3 jT P - u j ) 2 + ( m 2 jT P m 3 jT - v j ) 2 ]
以估测空间中特征点P的世界坐标位置,其中,m1 jT,m21 jT,m3 jT分别表示相机参数矩阵CM的第一,二,三列。如此,可得到载体与环境特征物件间的距离。
电磁波(能量):
通常,在室内环境中有多种电器,而每种电器都会产生不同的电磁波。故而,可以利用电磁波能量而计算出物件(其会发出电磁波)与载体间的距离,进而得知物件的位置。首先,可以先用电磁波传感器来测量各类电磁波的讯号波形、频率与能量,可建出以下函数
E ( r ) = K 1 r 2 ∝ 1 r 2
其中E(r)为能量函数,K为常数或变数,r为载体与物件间的距离。经由电磁波的能量大小估算出物件与载体的距离,如此即可算出发出电磁波物件的位置。其细节请参考底下关于如何利用机械波来估计出载体与物件间的距离。
机械波(声纳):
超音波属于距离信息(Range-only)传感器,也就是说,其仅能感测到物件在某个距离内,而无法得知物件的确切方位。通过分析机械波的能量大小,或分析机械波的发收时间差,即可估算出特征物件与载体的距离,而再利用载体移动前后的两笔距离信息以及载体的位置信息,即可得知特征物件或载体的所在位置。
图4A及图4B是依照本发明实施例的利用机械波传感器来检测载体与环境特征物件间的距离,以推测载体位置的示意图。
请先参照图4A,假设物件在k时刻的位置为(X1,Y1),k+1时刻的位置为(X 2,Y2),其中k时刻与k+1时刻相距Δt,而Δt为固定取样时间。假设机械波传感器在k时刻的位置为(a1,b1),在k+1时刻的位置为(a2,b2)。根据机械波传感器在这两个位置所检测到机械波能量的大小,或发收时间差,即可推测出发出此机械波的环境特征物件与载体之间的距离r1及r2。
接着,以机械波传感器的位置(a1,b1)及(a2,b2)为中心,距离r1及r2为半径画两个圆,即可得到如图4A所示的圆A及圆B,其中圆A及圆B的方程式如下:
圆A: ( X - a 1 ) 2 + ( Y - b 1 ) 2 = r 1 2 - - - ( 1 )
圆B: ( X - a 2 ) 2 + ( Y - b 2 ) 2 = r 2 2 - - - ( 2 )
其中,圆A及圆B交点的联机为其根轴,而利用上述圆A及圆B的方程式即可求得此根轴的方程式:
Y = - ( 2 a 2 - 2 a 1 ) ( 2 b 2 - 2 b 1 ) X - ( a 1 2 + b 1 2 + r 2 2 - a 2 2 - b 2 2 - r 1 2 ) ( 2 b 2 - 2 b 1 ) - - - ( 3 )
接着,令圆A及圆B的交点(XT,YT)的关系为:
YT=mXT+n                                   (4)
将式(4)代入圆A的方程式(1):
( X T - a 1 ) 2 + ( mX T + n - b 1 ) 2 = r 1 2
⇒ ( m 2 + 1 ) X T 2 + ( 2 mn - 2 mb 1 - 2 a 1 ) X T + ( n - b 1 ) 2 + a 1 2 - r 1 2 = 0
再令P=m2+1,Q=2mn-2mb1-2a1,以及
Figure G2008101860851D0000095
即可得:
X T = - Q ± Q 2 - 4 PR 2 P
Y T = m ( - Q ± Q 2 - 4 PR ) 2 P + n - - - ( 5 )
通过上述推导可得两组解(XT,YT)。参考所测得电磁波的幅角,即可决定哪一组解才是特征物件所在的位置。
机械波收发元件属于距离信息(Range-only)的传感器,也就是说,机械波收发元件仅能用以感测载体在某个距离内,而无法得知载体的确切方位。机械波收发元件以机械震动来产生震波,其比如为超音波、超音波数组或声纳等。为了用机械波测量载体的位置,在本发明实施例中,亦利用载体移动前后的两笔机械波距离信息与载体的位置信息,将特征物件的位置简化为两个圆解共点,其求解的方式与前述电磁波传感器相类似,故在此不再赘述。
力学感测元件(IMU):
力学感测元件用于测量动态(直线运动、旋转运动等)的物体的状态。通过演算机制,对测量到的动态信号加以解析,就可实时得到移动物体在三维空间中的各项数据,包含位置,速度、加速度、角度、角速度、以及角加速度。
现在说明力学感测元件的感测原理。在初始状态后,可根据陀螺仪量得载体的三轴角速度信息,经由四元素算法(integration of quaternion)算出载体的三轴姿态角,再经由坐标转换矩阵的转换,以得到载体在世界坐标下的三轴速度。在转换的过程中,可引入加速度传感器的信息,通过对时间的一次积分以及重力分量的消除,以得到载体的速度信息。再通过滤波器得到载体在三维空间下的三轴移动量信息的预测值。
如果仅利用此种感测信息,由数学运算积分所造成的累积误差,以及由传感器取样造成的误差,将导致估测值与实际值越差越远,并且随时间增加而发散。所以必须搭配其它种类的传感器,消除飘移累积误差。之后,再以机率型滤波器估测物体的位置。
或者说,力学感测元件在感测时,所用的运算包括:四元素(integrationof quaternion)运算、方向余弦运算(direction cosine convert to Euler angle)、重力分量抽离(separating gravity)运算、加速度积分(integration ofacceleration)运算、速度积分(integration of velocity)运算、坐标转换(coordinate transformation)运算、数据关联(data association)运算、延伸式卡尔曼滤波器校正(extended-Kalman filter correction)运算等。
现请参考图5,以说明在本发明实施例中如何进行定位与建静态地图。图6显示定位与建静态地图的应用情境。在图6中,假设载体120处于动态(移动及/或转动等),而在外界环境中有多个静态特征物件610A~610C。在此,定位是指对载体的定位。
如图5所示,在步骤510中,提取第一传感器信息,此第一传感器信息用于感测载体120的状态。比如,提取传感器110c所检测到的载体加速度与速度信息ut=[ax,t ay,t az,t ωx,t ωy,t ωz,t]T
接着,在步骤520中,根据第一传感器信息来预测载体状态。其详细方式如下。假设欲估测载体在空间中的位置为[xt,yt,zt,θt,φt,ψt],其中,
xt=g(xt-1,ut)+εt
zt=h(xt)+δt
假设运动模型(Motion Model)如下:
Xt=g(Xt-1,Ut)+εt
其中载体状态为
Xt=[XG,t Vx,t Ax,t YG,t Vy,t Ay,t ZG,t Vz,t Az,t e0,t e1,t e2,t e3,t]T,[XG,t YG,t ZG,t]T为载体在世界坐标中的绝对位置,[Vx,t Vy,t Vz,t]T为载体在载体坐标中的速度,[Ax,t Ay,t Az,t]T为载体在载体坐标中的加速度,[e0,t e1,t e2,t e3,t]T为载体在载体坐标中的四元素(quaternion),Ut=[ax,t ay,t az,t ωx,t ωy,t ωz,t]T为载体在载体坐标中的加速度与角速度。
要算出载体于t时在世界坐标中的绝对位置Bt,需要利用载体于t-1时在世界坐标中的绝对位置、利用载体上的加速规与陀螺仪所得到加速度和角速度的积分信息,且利用四元素把载体坐标信息经由载体坐标转换成世界坐标,而且,以上步骤在运动模型中完成。矩阵运算如下:
载体状态的运动模型
X G , t V x , t A x , t Y G , t V y , t A y , t Z G , t V z , t A z , t e 0 , t e 1 , t e 2 , t e 3 , t =
1 R 11 t 0.5 R 11 t 2 0 R 12 t 0.5 R 12 t 2 0 R 13 t 0.5 R 13 t 2 0 0 0 0 0 1 0 0 ω z , t t 0 0 - ω y , t t 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 R 21 t 0.5 R 21 t 2 1 R 22 t 0.5 R 22 t 2 0 R 23 t 0.5 R 23 t 2 0 0 0 0 0 - ω z , t t 0 0 1 0 0 ω x , t t 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 R 31 t 0.5 R 31 t 2 0 R 32 t 0.5 R 32 t 2 1 R 33 t 0.5 R 33 t 2 0 0 0 0 0 ω y , t t 0 0 - ω x , t t 0 0 1 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 1 - 0.5 ω z , t t - 0.5 ω y , t t - 0.5 ω z , t 0 0 0 0 0 0 0 0 0 0.5 ω x , t t 1 0.5 ω y , t t - 0.5 ω z , t t 0 0 0 0 0 0 0 0 0 0.5 ω y , t t - 0.5 ω z , t t 1 0.5 ω x , t t 0 0 0 0 0 0 0 0 0 - 0.5 ω z , t t 0.5 ω y , t t 0.5 ω x , t t 1 X G , t - 1 V x , t - 1 A x , t - 1 Y G , t - 1 V y , t - 1 A y , t - 1 Z G , t - 1 V z , t - 1 A z , t - 1 e 0 , t - 1 e 1 , t - 1 e 2 , t - 1 e 3 , t - 1
+ 0 ( a x , t - g x , t ) t ( a x , t - g x , t ) 0 ( a y , t - g y , t ) t ( a y , t - g y , t ) 0 ( a z , t - g z , t ) t ( a z , t - g z , t ) 0 0 0 0 + ϵ t
地图状态的运动模型
m x , t i m y , t i m z , t i t = 1 0 0 0 1 0 0 0 1 m x , t i m y , t i m z , t i t - 1
其中,gx,t为重力加速度在载体坐标轴x轴的分量,gy,t为重力加速度在载体坐标轴y轴的分量,gz,t为重力加速度在载体坐标轴z轴的分量,εt为传感器所产生的噪声,R11~R33为方向余弦矩阵(Direction Cosine Matrix)内的参数。
x ′ y ′ z ′ = R 11 R 12 R 13 R 21 R 22 R 23 R 31 R 32 R 33 x y z = e 0 2 + e 1 2 - e 2 2 - e 3 2 2 ( e 1 e 2 + e 0 e 3 ) 2 ( e 1 e 3 - e 0 e 2 ) 2 ( e 1 e 2 - e 0 e 3 ) e 0 2 - e 1 2 + e 2 2 - e 3 2 2 ( e 2 e 3 + e 0 e 1 ) 2 ( e 1 e 3 - e 0 e 2 ) 2 ( e 2 e 3 - e 0 e 1 ) e 0 2 - e 1 2 - e 2 2 + e 3 2 x y z
经由以上的运动模型可算出载体在空间中的位置[XG,t YG,t ZG,t]T、载体在载体坐标中的加速度[Ax,t Ay,t Az,t]T、载体在载体坐标中的速度[Vx,t Vy,t Vz,t]T与载体的四元素[x0,t e1,t e2,t e3,t]T。所算出的载体状态会包含加速规与陀螺仪传感器的噪声,故需要修正其误差。所以采用另外一个传感器当做感测模型(Sensor Model),目的在于修正加速规与陀螺仪估测出来的物体状态。
感测模型如下:
Zt=h(Xt)+δt
若传感器为视觉传感器,感测模型如下:
z x , t z y , t z z , t = h c , t ( x t ) + δ c , t
= m x , t i - X G , t m y , t i - Y G , t m z , t i - Z G , t + δ c , t
其中,[mx,t i my,t i mz,t i]T为第i个内建地图的空间坐标,δc,t为视觉传感器的噪声。
若传感器为声纳或电磁波传感器,模型如下:
z r , t = h s , t ( x t ) + δ s , t
= ( m x , t i - X G , t ) 2 + ( m y , t i - Y G , t ) 2 + ( m z , t i - Z G , t ) 2 + δ s , t
其中δs,t为声纳传感器或电磁波的噪声。
接着,如步骤530所示,提取第二传感器信息,此第二传感器信息用于感测外在(室内)环境中的静态特征物件。第二传感器信息比如可利用传感器110a与110b的至少一者,或其二者所感测到的信息。也就是说,在步骤530中,利用电磁波类型传感器及/或机械波类型传感器来感测出静态特征物件610A~610C与载体间的距离。
接着,如步骤540所示,比较第二传感器信息与内建地图中现有的特征物件的信息,以决定所感测到的静态特征物件是否已出现在现有的内建地图中。如果是的话,则根据第二传感器信息来修正载体的位置、修正载体的状态、与修正已内建的地图,如步骤550所示。
步骤550的详细说明如下。由以上感测模型可算出载体在空间中的位置,进而修正运动模型所估测的载体状态,以估测载体状态,其中可估测的载体状态包含载体在空间中的位置[XG,t YG,t ZG,t]T与四元素[e0,t e1,t e2,t e3,t]T,若需要算载体相对于X轴的角度θ、载体相对于Y轴的角度ψ与载体相对于Z轴的角度φ可由四元素换算而得,其公式如下:
sin θ = 2 ( e 0 e 2 - e 3 e 1 ) tan ψ = 2 ( e 0 e 3 + e 1 e 2 ) e 0 2 + e 1 2 - e 2 2 - e 3 2 tan φ = 2 ( e 0 e 1 + e 2 e 3 ) e 0 2 - e 1 2 - e 2 2 + e 3 2
以上的运动模型与感测模型可代入数字滤波器,即可估测载体位置。
如果载体完全不转动仅移动时,则所估测的载体状态仅为xt=[XG,t YG,t ZG,t]T;若当载体完全不移动仅转动时,所估测的载体状态仅为xt=[e0,t e1,t e2,t e3,t]T或经由转换后的xt=[θ ψ φ]T,以上两种例子皆在本实施例范围。
如果步骤540的判断结果为否,则根据第二传感器信息,以增加新的地图特征于内建地图,如步骤560所示。也就是说,在步骤560中,将所感测到的静态特征物件当成新的地图特征,以加入于现有的内建地图中。比如,比较后结果发现特征物件610B并未出现于现有的内建地图中,则可将特征物件610B的位置、状态等加入于内建地图。
接下来,则说明本发明实施例如何应用于的动态特征物件的检测与追踪。图7显示本发明实施例的对动态特征物件检测与追踪的流程图,图8是对动态特征物件检测与追踪的应用情境。在此,假设载体是不动的,而在环境内(比如室内)有多个移动的特征物件810A~810C。
如图7所示,在步骤710中,根据第一传感器信息来预测动态特征物件的移动量。在此,可利用传感器110a及/或110b来感测至少一个动态特征物件的移动量。其方式如下。
追踪动态特征物件的运动模型如下:
Ot=g(Ot,Vt)+εT,t
其中
Figure G2008101860851D0000151
[ox,t l oy,t 1 ox,t 1 vx,t 1 vy,t 1 vz,t 1]T为第一个动态特征物件在空间中的位置与速度,[ox,t N oy,t N ox,t N vx,t N vy,t N vz,t N]T为第N个动态特征物件(N为正整数)在空间中的位置与速度,而
Figure G2008101860851D0000152
为物体在空间中的加速度,εT,t为动态特征物件的移动量估测误差。第n个(n=1~N,n为正整数)运动模型矩阵如下:
o x , t n o y , t n o z , t n v x , t n v y , t n v z , t n = 1 0 0 t 0 0 0 1 0 0 t 0 0 0 1 0 0 t 0 0 0 1 0 0 0 0 0 0 1 0 0 0 0 0 0 1 o y , t - 1 n o y , t - 1 n o y , t - 1 n v x , t - 1 n v y , t - 1 n v z , t - 1 n + 0.5 t 2 0 0 0 0.5 t 2 0 0 0 0.5 t 2 t 0 0 0 t 0 0 0 t a x , t n a y , t n a z , t n + ϵ T , t
经由此运动模型可估测出动态特征物件在空间中的位置。需注意的是在此把动态特征物件的移动视为加速度为常数且有误差的信息,依可粗略估出物件的移动位置。此外,还可利用感测模型以修正动态特征物件的真正位置。
接着,如步骤720所示,提取第二传感器信息,其亦用于测量环境特征物件,比如感测其移动量。接着,如步骤730所示,提取第三传感器信息,其亦用于测量环境特征物件,比如感测其移动量。
接着,如步骤740所示,比较目前所接收到的第二~第三传感器信息,以决定被感测的动态特征物件是否为已知的。如果是,则根据目前所接收到的第二至第三传感器信息来修正环境特征物件的状态与位置,并检测与追踪,如步骤750所示。如果在步骤740的决定为否,代表被感测的动态特征物件乃是新的动态特征物件,如此,则加入新的动态特征物件的位置与其状态于地图中,并检测与追踪,如步骤760所示。
在步骤740中,进行比较的方法有两种,一种为异质比对(homogeneous),一种为同质比对(non-homogeneous)。异质比对方式为,当物件仅具有一种特性时,利用电磁波传感器与红外线热传感器比较出传感器信息的差异性,进而追踪仅具有一种特性的物件。同质比对方式则为,当物件具有两种特性时,利用视觉传感器与超音波传感器比较传感器信息间的异同,进而追踪此物件。
在图7中所用的感测模型如下:
Zt=T(Xt)+δT,t
其中δT,t为传感器的噪声。
若传感器为视觉传感器或其它可量得物体在空间中位置的传感器,则感测模型如下:
z x , t z y , t z z , t = T c ( X t ) + δ T , c , t
= 1 0 0 0 0 0 0 1 0 0 0 0 0 0 1 0 0 0 o x , t n o y , t n o z , t n v x , t n v y , t n v z , t n + δ T , c , t
若传感器为超音波传感器或电磁波传感器或其它距离信息(range-only)传感器,则感测模型如下:
z r , t = T s ( X t ) + δ T , s , t
= ( o x , t n ) 2 + ( o y , t n ) 2 + ( o z , t n ) 2 + δ T , s , t
此外,在步骤750与760中,感测模型可估出物件在空间中的位置,而由运动模型所估测出的物件位置可经由感测模型修正,以得到物件在空间中的较精确位置与较精确速度,达到检测与追踪物体的目的。
此外,本发明实施例还可结合图5的定位与建地图,及图7的移动物件检测与追踪,以达到定位、建地图、移动物件检测与追踪,其应用情境如图9所示。在图9中,假设手920令载体120为动态(只移动不转动、不移动只转动、或又移动又转动),特征物件910A~910C为静态,而特征物件910D为动态。由上述说明可知,如何对载体120检测其状态(比如,预估其姿态(posture))、如何建地图、如何检测与追踪动态的特征物件910D,故其细节不再重述。在此,若载体120为动态,则检测与追踪的算法是基于移动中的载体,所以需考虑载体的位置与不确定性、并预测载体的位置(类似图5的做法)。
综上所述可知,在本发明实施例中,利用可互补的多种传感器,来精准定位、追踪、检测、预估载体状态(姿态)。故而,本发明可应用于比如但不受限于,飞机的惯性导航系统、数字相机的防手震系统、车辆速度检测系统、车辆避撞系统、电视游乐器(如Wii)的把手的三维姿态检测等、手机定位、室内地图产生器。此外,本发明更可应用于室内伴侣机器人,其可监控环境里的老人、小孩等。本发明还可应用于车辆,其可监控环境里的车辆,避免车祸。本发明亦可应用于可移动的机器人,其可检测移动中的人类,进而追踪此人并提供服务。
综上所述,虽然本发明已以实施例公开如上,然其并非用以限定本发明。本发明所属技术领域中具有通常知识者,在不脱离本发明的精神和范围内,当可作各种的更动与润饰。因此,本发明的保护范围当视所附的权利要求所界定的为准。

Claims (15)

1.一种感测系统,其特征在于,该系统包括:
一载体;
一多重传感器模块,配置于该载体上,该多重传感器模块感测多种彼此互补的特性,该多重传感器模块感测该载体以得到一载体信息,该多重传感器模块还感测一特征物件以得到一特征物件信息;
一控制器,接收该多重传感器模块所传来的该载体信息与该特征物件信息;以及
一显示单元,受控于该控制器,以提供一反应信号;
其中,该控制器执行下列的至少一者:
该控制器将该载体定位于一地图内,且该控制器还将该特征物件加入于该地图中及更新在该地图中的该特征物件;以及
根据该特征物件信息,该控制器预测该特征物件的一移动量,以决定该特征物件是否为已知的,并据以修正该地图及将该特征物件加入于该地图中。
2.如权利要求1所述的系统,其特征在于,该多重传感器模块包括:可见光视觉传感器、不可见光视觉传感器、电磁波传感器、红外线热感应器与红外线距离传感器的至少一者或其组合。
3.如权利要求1所述的系统,其特征在于,该多重传感器模块包括:超音波感应器、超音波数组感应器与声纳感应器的至少一者或其组合。
4.如权利要求1所述的系统,其特征在于,该多重传感器模块包括:加速规、陀螺仪与转速计数组的至少一者或其组合。
5.如权利要求1所述的系统,其特征在于,该显示单元所提供的该反应信号包括:一语音信号、一图像信号与一提示信号的至少一者或其组合。
6.如权利要求1所述的系统,其特征在于,该载体包括:车辆、机车、自行车、机器人、眼镜、手表、安全帽或其它可移动物体的至少一者或其组合。
7.如权利要求1所述的系统,其特征在于,该控制器:
根据该载体信息,预测该载体的一状态;
比较被视为静态的该特征物件的该特征物件信息与该地图,以决定该特征物件是否在该地图内;
如果该特征物件未显示在该地图内,则将该特征物件的一状态与一位置加入于该地图中;以及
如果该特征物件显示在该地图内,则修正该地图、修正该载体的一位置、修正该载体的该状态。
8.如权利要求1所述的系统,其特征在于,该控制器:
比较被视为动态的该特征物件的该特征物件信息与该地图,以决定该特征物件是否为已知的;
如果该特征物件为已知的,则修正该特征物件在该地图中的一位置与一状态;以及
如果该特征物件不是已知的,则将该特征物件的该位置与该状态加入于该地图中。
9.一种载体定位与建地图的感测方法,其特征在于,该方法包括:
执行一第一感测步骤,以感测一载体以得到一载体信息;
执行一第二感测步骤,以感测一特征物件以得到一特征物件信息,其中该第二感测步骤感测多种彼此互补的特性;
分析该载体信息,以得到该载体的一位置与一状态,并将该载体定位于一地图内;
分析该特征物件信息,以得到该特征物件的一位置与一状态;以及
比较一地图与该特征物件的该位置与该状态,以将该特征物件的该位置与该状态加入于该地图中及更新在该地图中的该特征物件的该位置与该状态。
10.如权利要求9所述的方法,其特征在于,该第一感测步骤包括:
感测该载体,以得到该载体的一速度、一加速度、一角速度、一角加速度的至少一者。
11.如权利要求10所述的方法,其特征在于,该第二感测步骤包括:
感测该特征物件,以得到该特征物件与该载体间的一相对距离关系。
12.如权利要求10所述的方法,其特征在于,还包括:
比较该载体的该位置与该特征物件的该位置,以产生一情境反应。
13.一种动态物件检测与追踪的感测方法,其特征在于,该方法包括:
执行一第一感测步骤,以感测一动态物件以得到其第一移动量;
执行一第二感测步骤,以感测该动态物件以得到其第二移动量,其中该第一感测步骤与该第二感测步骤彼此互补;
分析该第一移动量与该第二移动量,以预估一载体与该动态物件间的一相对距离;
决定该动态物件是否为已知的;
若为已知,修正在一地图中的该动态物件的一状态,并检测与追踪;以及
若为未知,将该动态物件及其状态加入于该地图,并检测与追踪。
14.如权利要求13所述的方法,其特征在于,还包括:
分析该载体与该动态物件间的该相对距离,以产生一情境反应。
15.如权利要求13所述的方法,其特征在于,如果该载体为动态,该方法还包括:
感测该载体,以得到该载体的一位置、一速度、一加速度、一角速度、一角加速度的至少一者。
CN200810186085A 2008-12-22 2008-12-22 利用感测元件的定位与检测的系统与方法 Pending CN101750060A (zh)

Priority Applications (1)

Application Number Priority Date Filing Date Title
CN200810186085A CN101750060A (zh) 2008-12-22 2008-12-22 利用感测元件的定位与检测的系统与方法

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
CN200810186085A CN101750060A (zh) 2008-12-22 2008-12-22 利用感测元件的定位与检测的系统与方法

Publications (1)

Publication Number Publication Date
CN101750060A true CN101750060A (zh) 2010-06-23

Family

ID=42477385

Family Applications (1)

Application Number Title Priority Date Filing Date
CN200810186085A Pending CN101750060A (zh) 2008-12-22 2008-12-22 利用感测元件的定位与检测的系统与方法

Country Status (1)

Country Link
CN (1) CN101750060A (zh)

Cited By (15)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN102109348B (zh) * 2009-12-25 2013-01-16 财团法人工业技术研究院 定位载体、估测载体姿态与建地图的系统与方法
CN103134494A (zh) * 2012-12-05 2013-06-05 中国科学院深圳先进技术研究院 室内环境中的车辆导航方法和装置
CN103170980A (zh) * 2013-03-11 2013-06-26 常州铭赛机器人科技有限公司 一种家用服务机器人的定位系统及定位方法
CN103292827A (zh) * 2012-03-05 2013-09-11 联想(北京)有限公司 数据校正方法和电子设备
CN103314274A (zh) * 2010-12-01 2013-09-18 原子能及能源替代委员会 活动元件或物体的轨迹的估算方法及系统
CN103487050A (zh) * 2013-10-10 2014-01-01 哈尔滨工业大学 一种室内移动机器人定位方法
CN103900583A (zh) * 2012-12-25 2014-07-02 联想(北京)有限公司 用于即时定位与地图构建的设备和方法
CN105222772A (zh) * 2015-09-17 2016-01-06 泉州装备制造研究所 一种基于多源信息融合的高精度运动轨迹检测系统
CN105395252A (zh) * 2015-12-10 2016-03-16 哈尔滨工业大学 具有人机交互的可穿戴式血管介入手术三维立体图像导航装置
CN104266645B (zh) * 2014-09-23 2017-01-25 东北大学 一种室内人员行为识别及位置跟踪系统及方法
CN107727066A (zh) * 2016-08-10 2018-02-23 大众汽车有限公司 用于创建或补充机动车的地图的方法和设备
CN108322698A (zh) * 2017-12-28 2018-07-24 北京交通大学 基于多摄像机和惯性测量单元融合的系统和方法
CN109414823A (zh) * 2016-06-23 2019-03-01 库卡德国有限公司 具有基础控制器位置传感器的机器人操作手持设备组合
CN111577059A (zh) * 2020-04-17 2020-08-25 佛山科学技术学院 基于数字陀螺仪的门开关检测系统
CN112764412A (zh) * 2019-10-21 2021-05-07 财团法人车辆研究测试中心 同步定位与建图优化方法

Cited By (26)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN102109348B (zh) * 2009-12-25 2013-01-16 财团法人工业技术研究院 定位载体、估测载体姿态与建地图的系统与方法
CN103314274A (zh) * 2010-12-01 2013-09-18 原子能及能源替代委员会 活动元件或物体的轨迹的估算方法及系统
CN103314274B (zh) * 2010-12-01 2016-05-11 原子能及能源替代委员会 活动元件或物体的轨迹的估算方法及系统
CN103292827B (zh) * 2012-03-05 2016-10-05 联想(北京)有限公司 数据校正方法和电子设备
CN103292827A (zh) * 2012-03-05 2013-09-11 联想(北京)有限公司 数据校正方法和电子设备
CN103134494B (zh) * 2012-12-05 2015-07-29 中国科学院深圳先进技术研究院 室内环境中的车辆导航方法和装置
CN103134494A (zh) * 2012-12-05 2013-06-05 中国科学院深圳先进技术研究院 室内环境中的车辆导航方法和装置
CN103900583A (zh) * 2012-12-25 2014-07-02 联想(北京)有限公司 用于即时定位与地图构建的设备和方法
CN103900583B (zh) * 2012-12-25 2018-02-27 联想(北京)有限公司 用于即时定位与地图构建的设备和方法
CN103170980B (zh) * 2013-03-11 2016-04-20 常州铭赛机器人科技股份有限公司 一种家用服务机器人的定位系统及定位方法
CN103170980A (zh) * 2013-03-11 2013-06-26 常州铭赛机器人科技有限公司 一种家用服务机器人的定位系统及定位方法
CN103487050A (zh) * 2013-10-10 2014-01-01 哈尔滨工业大学 一种室内移动机器人定位方法
CN103487050B (zh) * 2013-10-10 2015-12-02 哈尔滨工业大学 一种室内移动机器人定位方法
CN104266645B (zh) * 2014-09-23 2017-01-25 东北大学 一种室内人员行为识别及位置跟踪系统及方法
CN105222772A (zh) * 2015-09-17 2016-01-06 泉州装备制造研究所 一种基于多源信息融合的高精度运动轨迹检测系统
CN105222772B (zh) * 2015-09-17 2018-03-16 泉州装备制造研究所 一种基于多源信息融合的高精度运动轨迹检测系统
CN105395252A (zh) * 2015-12-10 2016-03-16 哈尔滨工业大学 具有人机交互的可穿戴式血管介入手术三维立体图像导航装置
CN109414823A (zh) * 2016-06-23 2019-03-01 库卡德国有限公司 具有基础控制器位置传感器的机器人操作手持设备组合
US10663304B2 (en) 2016-08-10 2020-05-26 Volkswagen Ag Method and apparatus for creating or supplementing a map for a motor vehicle
CN107727066A (zh) * 2016-08-10 2018-02-23 大众汽车有限公司 用于创建或补充机动车的地图的方法和设备
CN108322698A (zh) * 2017-12-28 2018-07-24 北京交通大学 基于多摄像机和惯性测量单元融合的系统和方法
CN108322698B (zh) * 2017-12-28 2020-09-22 北京交通大学 基于多摄像机和惯性测量单元融合的系统和方法
CN112764412A (zh) * 2019-10-21 2021-05-07 财团法人车辆研究测试中心 同步定位与建图优化方法
CN112764412B (zh) * 2019-10-21 2024-07-26 财团法人车辆研究测试中心 同步定位与建图优化方法
CN111577059A (zh) * 2020-04-17 2020-08-25 佛山科学技术学院 基于数字陀螺仪的门开关检测系统
CN111577059B (zh) * 2020-04-17 2021-09-28 佛山科学技术学院 基于数字陀螺仪的门开关检测系统

Similar Documents

Publication Publication Date Title
CN101750060A (zh) 利用感测元件的定位与检测的系统与方法
US20100148977A1 (en) Localization and detection system applying sensors and method thereof
CN102656425B (zh) 利用移动数据的方位和取向确定
CN101872260B (zh) 一种远程交互笔及书写笔迹检测方法
CN102109348B (zh) 定位载体、估测载体姿态与建地图的系统与方法
US8396684B2 (en) Method and system for motion tracking
CN103411621B (zh) 一种面向室内移动机器人的光流场视觉/ins组合导航方法
CN108051002A (zh) 基于惯性测量辅助视觉的运输车空间定位方法及系统
US20100164807A1 (en) System and method for estimating state of carrier
EP4155873A1 (en) Multi-sensor handle controller hybrid tracking method and device
US20110025562A1 (en) Tightly Coupled UWB/IMU Pose Estimation System and Method
KR20130013015A (ko) 센서 융합 기반으로 3차원 위치와 방향을 추정하는 장치 및 방법
CN109583416A (zh) 伪车道线识别方法及系统
CN106708037A (zh) 自主移动式设备定位的方法、装置及自主移动式设备
KR101815938B1 (ko) 센서 융합 기반으로 3차원 위치와 방향을 추정하는 장치 및 방법
CN109813317A (zh) 一种避障方法、电子设备及虚拟现实设备
CN109764870A (zh) 基于变换估计量建模方案的载体初始航向估算方法
CN106291567A (zh) 一种激光雷达、激光雷达系统及数据处理方法
CN112697131A (zh) 基于视觉和惯性导航系统的井下移动装备定位方法及系统
CN108801253A (zh) 机器人建图定位系统及机器人
CN113029173A (zh) 车辆导航方法及装置
CN102306054A (zh) 姿态感知设备及其定位、鼠标指针的控制方法和装置
CA3144984A1 (en) Monocular visual-inertial alignment for scaled distance estimation on mobile devices
CN113375665B (zh) 基于多传感器松紧耦合的无人机位姿估计方法
Hesch et al. A 3d pose estimator for the visually impaired

Legal Events

Date Code Title Description
C06 Publication
PB01 Publication
C10 Entry into substantive examination
SE01 Entry into force of request for substantive examination
C02 Deemed withdrawal of patent application after publication (patent law 2001)
WD01 Invention patent application deemed withdrawn after publication

Open date: 20100623