CN105472373B - 基于前庭反射机理的仿生电子稳像方法及装置 - Google Patents

基于前庭反射机理的仿生电子稳像方法及装置 Download PDF

Info

Publication number
CN105472373B
CN105472373B CN201510796432.2A CN201510796432A CN105472373B CN 105472373 B CN105472373 B CN 105472373B CN 201510796432 A CN201510796432 A CN 201510796432A CN 105472373 B CN105472373 B CN 105472373B
Authority
CN
China
Prior art keywords
video camera
gain
strain
steady
internuclear
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
CN201510796432.2A
Other languages
English (en)
Other versions
CN105472373A (zh
Inventor
赵小川
刘培志
陈晓鹏
孔小梅
施建昌
张敏
徐鹏
王宁
高路
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
China North Computer Application Technology Research Institute
Original Assignee
China North Computer Application Technology Research Institute
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by China North Computer Application Technology Research Institute filed Critical China North Computer Application Technology Research Institute
Priority to CN201510796432.2A priority Critical patent/CN105472373B/zh
Publication of CN105472373A publication Critical patent/CN105472373A/zh
Application granted granted Critical
Publication of CN105472373B publication Critical patent/CN105472373B/zh
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/20Analysis of motion
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N13/00Stereoscopic video systems; Multi-view video systems; Details thereof
    • H04N13/20Image signal generators
    • H04N13/204Image signal generators using stereoscopic image cameras
    • H04N13/246Calibration of cameras
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/10Image acquisition modality
    • G06T2207/10016Video; Image sequence

Landscapes

  • Engineering & Computer Science (AREA)
  • Multimedia (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Theoretical Computer Science (AREA)
  • Signal Processing (AREA)
  • Image Analysis (AREA)
  • Studio Devices (AREA)

Abstract

本发明公开了一种基于前庭反射机理的仿生电子稳像方法,包括:两摄像机模拟左眼和右眼的前庭动眼反射;FPGA板卡测量第一电机和第二电机的电流突变,得到两摄像机的旋转加速度;FPGA板卡测量第一应变片力传感器和第二应变片力传感器的应变,得到两摄像机平移加速度;将旋转加速度和平移加速度反馈给稳像决策单元;FPGA板卡对两摄像机拍摄的图像的前后帧图像进行匹配运动估计,并把匹配运动结果反馈给稳像决策单元;通过稳像算法,得到两摄像机补偿运动所需旋转的速度和方向,发送给伺服控制单元,控制两摄像机的运动,实现稳像。本发明的有益效果:通过FPGA实现稳像算法,稳定性好,消除摄像机本身旋转或平移带来的视觉误差;效率高、耗时少、实时性好。

Description

基于前庭反射机理的仿生电子稳像方法及装置
技术领域
本发明涉及图像处理技术领域,具体而言,涉及一种基于前庭反射机理的仿生电子稳像方法及装置。
背景技术
内耳前庭器是人体平衡感受器官,它包括三对半规管和前庭的椭园囊和球囊。内耳前庭解剖图如图1所示,半规管内有壶富嵴,椭园囊球囊内有耳石器(又称囊斑),它们都是前庭末梢感受器,可感受各种特定运动状态的刺激。半规管感受角加(减)速度运动刺激,而椭园囊、球囊的囊斑感受水平或垂直的直线加(减)速度的变化。当我们乘坐的交通工具发生旋转或转弯时(如汽车转弯,飞机作园周运动),角加速度作用于两侧内耳相应的半规管,当一侧半规管壶腹内毛细胞受刺激弯曲形变产生正电位同时,对侧毛细胞则弯曲形变产生相反的电位(负电),这些神经末梢的兴奋或抑制性电信号通过神经传向前庭中枢并感知此运动状态;同样当乘坐工具发生直线加(减)速度变化,如汽车启动、加减速刹车、船舶晃动、颠簸,电梯和飞机升降时,这些刺激使前庭椭园囊和球囊的囊斑毛细胞产生形变放电,向中枢传递并感知。
之所以人眼能实现快速的稳像,还是依赖着前庭半规管对旋转加速度、平移加速度的前馈。当位置、速度尚未发生改变时,加速度已经能提前感觉出来,通过这个提前预测量的神经机制,由于人眼惯量远比头部小,因此人眼球具有足够的时间对变化进行反应,实现快速稳像。同时,人眼本身的短时记忆功能,使得前后帧图像的匹配,也提供了运动估计信息,两者结合实现稳像。
电子稳像技术是应用计算机数字图像处理和电子技术相结合的方法,去除因为平台随机运动而引入的图像扰动,致使图像序列稳定的技术。电子稳像系统在国外已经有20多年的研究历史进入到21世纪,稳像技术在应用上有了长足的进步。国内对于数字稳像技术的研究起步较晚,但随着稳像技术的需求日益广泛,近年来不少研究者致力于基于DSP的电子稳像的研究与实现。随着机器人的广泛应用,仿生技术得到了发展,电子稳像算法也逐渐应用到仿生技术中。但是,目前基于类人眼眼球前庭动眼反射机理的仿生电子稳像算法稳定性较差、耗时较多、实时性较差。
发明内容
为解决上述问题,本发明的目的在于提供一种稳定性好、耗时少、实时性好的基于前庭反射机理的仿生电子稳像方法及装置。
本发明提供了一种基于前庭反射机理的仿生电子稳像方法,该方法包括:
步骤1,采用的双目视觉系统模拟人眼的眼球双目前庭动眼反射,第一摄像机模拟左眼的前庭动眼反射,第二摄像机模拟右眼的前庭动眼反射;
步骤2,第一电机与第一摄像机连接,FPGA板卡测量所述第一电机的电流突变,得到所述第一摄像机的旋转加速度,第二电机与第二摄像机连接,所述FPGA板卡测量所述第二电机的电流突变,得到所述第二摄像机的旋转加速度;
步骤3,第一应变片力传感器与所述第一摄像机连接,所述FPGA板卡测量所述第一应变片力传感器的应变,得到所述第一摄像机的平移加速度,第二应变片力传感器与所述第二摄像机连接,所述FPGA板卡测量所述第二应变片力传感器的应变,得到所述第二摄像机的平移加速度;
步骤4,将步骤2中得到的旋转加速度和步骤3中得到的平移加速度作为运动反馈量反馈给稳像决策单元;
步骤5,所述FPGA板卡对所述第一摄像机拍摄的图像的前帧图像、后帧图像进行匹配运动估计,同时,所述FPGA板卡对所述第二摄像机拍摄的图像的前帧图像、后帧图像进行匹配运动估计,所述FPGA板卡把匹配运动结果反馈给所述稳像决策单元;
步骤6,所述稳像决策单元根据步骤4得到的运动反馈量和步骤5得到的匹配运动结果反馈结果,通过稳像算法,得到所述第一摄像机和所述第二摄像机补偿运动所需旋转的速度和方向,同时将得到的所需旋转的速度和方向发送给伺服控制单元,控制所述第一摄像机和所述第二摄像机的运动,实现所述第一摄像机和所述第二摄像机拍摄图像的稳像。
作为本发明进一步的改进,步骤5中的匹配运动估计方法的具体步骤为:
步骤S1,对所述第一摄像机和所述第二摄像机拍摄的图像,提取SIFT特征,进行特征点匹配;
步骤S2,利用视差原理计算特征点的三维坐标;
步骤S3,匹配所述第一摄像机拍摄的图像的前帧图像、后帧图像的SIFT特征,匹配所述第二摄像机拍摄的图像的前帧图像、后帧图像的SIFT特征,转换所有SIFT特征得到同组特征点帧间的运动三维坐标变化,通过最小二乘法求解特征点方程,得到旋转矩阵和平移向量。
作为本发明进一步的改进,所述稳像算法采用的算法模型为:
ρr=g1β2+gnα2+gnβ1α3
ρ=g1β1+gnα1+gnβ2α3
Hang表示所述第一摄像机和所述第二摄像机的旋转的角度,表示所述第一摄像机和所述第二摄像机平移的加速度,El表示所述第一摄像机的输出,Er表示所述第二摄像机的输出;
其中,C(S)为半规管的传递函数,Tc为半规管的时间常数,N(S)为神经积分器的传递函数,Tv为神经积分器的时间常数,O(S)为耳石器官的传递函数,To为耳石器官的时间常数,P(S)为眼球运动装置的传递函数,Te为眼球运动装置的时间常数,Ke为眼球运动装置的增益,α为半规管与前庭神经核间的增益,α1为外展神经核与动眼神经核间的常数增益,α2为外展神经核与对侧动眼神经核间的常数增益,α3为外展神经核与对侧动眼神经核间的常数增益,β为耳石器管与前庭神经核间的增益,β1为外展神经核与前庭神经核间的常数增益,β2为对侧前庭器官与外展神经核间的增益,gn为内直肌的常数增益,g1为外直肌的常数增益,m为平移前庭动眼反射在神经积分器中的增益,n为旋转前庭动眼反射在神经积分器中的增益。
本发明还提供了一种基于前庭反射机理的仿生电子稳像装置,包括:
第一摄像机,其与第一电机连接,所述第一摄像机模拟左眼的前庭动眼反射,所述第一电机模拟所述第一摄像机的旋转运动;
第二摄像机,其与第二电机连接,所述第二摄像机模拟右眼的前庭动眼反射,所述第二电机模拟所述第二摄像机的旋转运动;
第一应变片力传感器,其与所述第一电机连接,所述第一应变片力传感器模拟所述第一摄像机的平移运动;
第二应变片力传感器,其与所述第二电机连接,所述第二应变片力传感器模拟所述第二摄像机的平移运动;
FPGA板卡,其与所述第一电机、所述第二电机、所述第一应变片力传感器、所述第二应变片力传感器和稳像决策单元连接,所述FPGA板卡测量所述第一电机和所述第二电机的电流突变,得到所述第一摄像机和所述第二摄像机的旋转加速度,所述FPGA板卡测量所述第一应变片力传感器和所述第二应变片力传感器的应变,得到所述第一摄像机和所述第二摄像机的平移加速度,所述FPGA板卡对所述第一摄像机和所述第二摄像机拍摄的图像的前帧图像、后帧图像进行匹配运动估计,同时,所述FPGA板卡把匹配运动结果、旋转加速度和平移加速度反馈给稳像决策单元;
稳像决策单元,其与所述FPGA板卡和伺服控制单元连接,所述稳像决策单元接收匹配运动结果、旋转加速度和平移加速度,并根据稳像算法,得到所述第一摄像机和所述第二摄像机补偿运动所需旋转的速度和方向,同时将得到的所需旋转的速度和方向发送给伺服控制单元;
伺服控制单元,其与所述稳像决策单元、所述第一摄像机和所述第二摄像机连接,所述伺服控制单元根据所述稳像决策单元得到的旋转的速度和方向,控制所述第一摄像机和所述第二摄像机的运动,实现所述第一摄像机和所述第二摄像机拍摄图像的稳像。
作为本发明进一步的改进,所述FPGA板卡进行匹配运动估计的方法具体包括:
步骤S1,对所述第一摄像机和所述第二摄像机拍摄的图像,提取SIFT特征,进行特征点匹配;
步骤S2,利用视差原理计算特征点的三维坐标;
步骤S3,匹配所述第一摄像机拍摄的图像的前帧图像、后帧图像的SIFT特征,匹配所述第二摄像机拍摄的图像的前帧图像、后帧图像的SIFT特征,转换所有SIFT特征得到同组特征点帧间的运动三维坐标变化,通过最小二乘法求解特征点方程,得到旋转矩阵和平移向量。
作为本发明进一步的改进,所述稳像决策单元采用的稳像算法的算法模型为:
ρr=g1β2+gnα2+gnβ1α3
ρ=g1β1+gnα1+gnβ2α3
Hang表示所述第一摄像机和所述第二摄像机的旋转的角度,表示所述第一摄像机和所述第二摄像机平移的加速度,El表示所述第一摄像机的输出,Er表示所述第二摄像机的输出;
其中,C(S)为半规管的传递函数,Tc为半规管的时间常数,N(S)为神经积分器的传递函数,Tv为神经积分器的时间常数,O(S)为耳石器官的传递函数,To为耳石器官的时间常数,P(S)为眼球运动装置的传递函数,Te为眼球运动装置的时间常数,Ke为眼球运动装置的增益,α为半规管与前庭神经核间的增益,α1为外展神经核与动眼神经核间的常数增益,α2为外展神经核与对侧动眼神经核间的常数增益,α3为外展神经核与对侧动眼神经核间的常数增益,β为耳石器管与前庭神经核间的增益,β1为外展神经核与前庭神经核间的常数增益,β2为对侧前庭器官与外展神经核间的增益,gn为内直肌的常数增益,g1为外直肌的常数增益,m为平移前庭动眼反射在神经积分器中的增益,n为旋转前庭动眼反射在神经积分器中的增益。
本发明的有益效果为:
1、通过两台摄像机分别模拟人的左眼和右眼,根据仿生眼眼球前庭动眼反射,当摄像机发生旋转与平移的时候,两摄像机可以实时自主地调节,从而使被测目标图像稳定,获得三维深度信息;
2、通过FPGA来实现稳像算法,根据控制指令控制两摄像机的运动,实现两摄像机拍摄图像的稳像,稳定性好,消除摄像机由于本身旋转或者平移带来的视觉误差;
3、通过FPGA对前帧图像、后帧图像进行并行匹配运动估计,提高了效率、耗时少、实时性好。
附图说明
图1为内耳前庭解剖图;
图2为本发明实施例所述的基于前庭反射机理的仿生电子稳像方法所采用的稳像算法模型;
图3为图2的简化模型;
图4为本发明实施例所述的基于前庭反射机理的仿生电子稳像方法的流程示意图;
图5为本发明实施例所述的基于前庭反射机理的仿生电子稳像装置的结构示意图;
图6为步骤5中的匹配运动估计方法的具体步骤的流程示意图。
具体实施方式
下面通过具体的实施例并结合附图对本发明做进一步的详细描述。
实施例1,如图4所示,本发明实施例的一种基于前庭反射机理的仿生电子稳像方法,该方法包括:
步骤1,采用的双目视觉系统模拟人眼的眼球双目前庭动眼反射,第一摄像机模拟左眼的前庭动眼反射,第二摄像机模拟右眼的前庭动眼反射;
步骤2,第一电机与第一摄像机连接,FPGA板卡测量第一电机的电流突变,得到第一摄像机的旋转加速度,第二电机与第二摄像机连接,FPGA板卡测量第二电机的电流突变,得到第二摄像机的旋转加速度;
步骤3,第一应变片力传感器与第一摄像机连接,FPGA板卡测量第一应变片力传感器的应变,得到第一摄像机的平移加速度,第二应变片力传感器与第二摄像机连接,FPGA板卡测量第二应变片力传感器的应变,得到第二摄像机的平移加速度;
步骤4,将步骤2中得到的旋转加速度和步骤3中得到的平移加速度作为运动反馈量反馈给稳像决策单元;
步骤5,FPGA板卡对第一摄像机拍摄的图像的前帧图像、后帧图像进行匹配运动估计,同时,FPGA板卡对第二摄像机拍摄的图像的前帧图像、后帧图像进行匹配运动估计,FPGA板卡把匹配运动结果反馈给稳像决策单元;
步骤6,稳像决策单元根据步骤4得到的运动反馈量和步骤5得到的匹配运动结果反馈结果,通过稳像算法,得到第一摄像机和第二摄像机补偿运动所需旋转的速度和方向,同时将得到的所需旋转的速度和方向发送给伺服控制单元,控制第一摄像机和第二摄像机的运动,实现第一摄像机和第二摄像机拍摄图像的稳像。
其中,如图6所示,步骤5中的匹配运动估计方法的具体步骤为:
步骤S1,对第一摄像机和第二摄像机拍摄的图像,提取SIFT特征,进行特征点匹配;
步骤S2,利用视差原理计算特征点的三维坐标;
步骤S3,匹配第一摄像机拍摄的图像的前帧图像、后帧图像的SIFT特征,匹配第二摄像机拍摄的图像的前帧图像、后帧图像的SIFT特征,转换所有SIFT特征得到同组特征点帧间的运动三维坐标变化,通过最小二乘法求解特征点方程,得到旋转矩阵和平移向量。
如图2所示,为本实施例所采用的稳像算法模型,图3为图2简化后的模型。根据图3所示,稳像算法采用的算法模型为:
ρr=g1β2+gnα2+gnβ1α3
ρ=g1β1+gnα1+gnβ2α3
Hang表示所述第一摄像机和所述第二摄像机的旋转的角度,表示所述第一摄像机和所述第二摄像机平移的加速度,El表示所述第一摄像机的输出,Er表示所述第二摄像机的输出;
其中,C(S)为半规管的传递函数,Tc为半规管的时间常数,N(S)为神经积分器的传递函数,Tv为神经积分器的时间常数,O(S)为耳石器官的传递函数,To为耳石器官的时间常数,P(S)为眼球运动装置的传递函数,Te为眼球运动装置的时间常数,Ke为眼球运动装置的增益,α为半规管与前庭神经核间的增益,α1为外展神经核与动眼神经核间的常数增益,α2为外展神经核与对侧动眼神经核间的常数增益,α3为外展神经核与对侧动眼神经核间的常数增益,β为耳石器管与前庭神经核间的增益,β1为外展神经核与前庭神经核间的常数增益,β2为对侧前庭器官与外展神经核间的增益,gn为内直肌的常数增益,g1为外直肌的常数增益,m为平移前庭动眼反射在神经积分器中的增益,n为旋转前庭动眼反射在神经积分器中的增益。
实施例2,如图5所示,本发明还提供了一种基于前庭反射机理的仿生电子稳像装置,包括:
第一摄像机,其与第一电机连接,第一摄像机模拟左眼的前庭动眼反射,第一电机模拟第一摄像机的旋转运动;
第二摄像机,其与第二电机连接,第二摄像机模拟右眼的前庭动眼反射,第二电机模拟第二摄像机的旋转运动;
第一应变片力传感器,其与第一电机连接,第一应变片力传感器模拟第一摄像机的平移运动;
第二应变片力传感器,其与第二电机连接,第二应变片力传感器模拟第二摄像机的平移运动;
FPGA板卡,其与第一电机、第二电机、第一应变片力传感器、第二应变片力传感器和稳像决策单元连接,FPGA板卡测量第一电机和第二电机的电流突变,得到第一摄像机和第二摄像机的旋转加速度,FPGA板卡测量第一应变片力传感器和第二应变片力传感器的应变,得到第一摄像机和第二摄像机的平移加速度,FPGA板卡对第一摄像机和第二摄像机拍摄的图像的前帧图像、后帧图像进行匹配运动估计,同时,FPGA板卡把匹配运动结果、旋转加速度和平移加速度反馈给稳像决策单元;
稳像决策单元,其与FPGA板卡和伺服控制单元连接,稳像决策单元接收匹配运动结果、旋转加速度和平移加速度,并根据稳像算法,得到第一摄像机和第二摄像机补偿运动所需旋转的速度和方向,同时将得到的所需旋转的速度和方向发送给伺服控制单元;
伺服控制单元,其与稳像决策单元、第一摄像机和第二摄像机连接,伺服控制单元根据稳像决策单元得到的旋转的速度和方向,控制第一摄像机和第二摄像机的运动,实现第一摄像机和第二摄像机拍摄图像的稳像。
其中,FPGA板卡进行匹配运动估计的方法如图6所示,具体包括:
步骤S1,对第一摄像机和第二摄像机拍摄的图像,提取SIFT特征,进行特征点匹配;
步骤S2,利用视差原理计算特征点的三维坐标;
步骤S3,匹配第一摄像机拍摄的图像的前帧图像、后帧图像的SIFT特征,匹配第二摄像机拍摄的图像的前帧图像、后帧图像的SIFT特征,转换所有SIFT特征得到同组特征点帧间的运动三维坐标变化,通过最小二乘法求解特征点方程,得到旋转矩阵和平移向量。
如图2所示,为本实施例所采用的稳像算法模型,图3为图2简化后的模型。根据图3所示,稳像决策单元采用的稳像算法的算法模型为:
ρr=g1β2+gnα2+gnβ1α3
ρ=g1β1+gnα1+gnβ2α3
Hang表示所述第一摄像机和所述第二摄像机的旋转的角度,表示所述第一摄像机和所述第二摄像机平移的加速度,El表示所述第一摄像机的输出,Er表示所述第二摄像机的输出;
其中,C(S)为半规管的传递函数,Tc为半规管的时间常数,N(S)为神经积分器的传递函数,Tv为神经积分器的时间常数,O(S)为耳石器官的传递函数,To为耳石器官的时间常数,P(S)为眼球运动装置的传递函数,Te为眼球运动装置的时间常数,Ke为眼球运动装置的增益,α为半规管与前庭神经核间的增益,α1为外展神经核与动眼神经核间的常数增益,α2为外展神经核与对侧动眼神经核间的常数增益,α3为外展神经核与对侧动眼神经核间的常数增益,β为耳石器管与前庭神经核间的增益,β1为外展神经核与前庭神经核间的常数增益,β2为对侧前庭器官与外展神经核间的增益,gn为内直肌的常数增益,g1为外直肌的常数增益,m为平移前庭动眼反射在神经积分器中的增益,n为旋转前庭动眼反射在神经积分器中的增益。
以上仅为本发明的优选实施例而已,并不用于限制本发明,对于本领域的技术人员来说,本发明可以有各种更改和变化。凡在本发明的精神和原则之内,所作的任何修改、等同替换、改进等,均应包含在本发明的保护范围之内。

Claims (6)

1.一种基于前庭反射机理的仿生电子稳像方法,其特征在于,该方法包括:
步骤1,采用的双目视觉系统模拟人眼的眼球双目前庭动眼反射,第一摄像机模拟左眼的前庭动眼反射,第二摄像机模拟右眼的前庭动眼反射;
步骤2,第一电机与第一摄像机连接,FPGA板卡测量所述第一电机的电流突变,得到所述第一摄像机的旋转加速度,第二电机与第二摄像机连接,所述FPGA板卡测量所述第二电机的电流突变,得到所述第二摄像机的旋转加速度;
步骤3,第一应变片力传感器与所述第一摄像机连接,所述FPGA板卡测量所述第一应变片力传感器的应变,得到所述第一摄像机的平移加速度,第二应变片力传感器与所述第二摄像机连接,所述FPGA板卡测量所述第二应变片力传感器的应变,得到所述第二摄像机的平移加速度;
步骤4,将步骤2中得到的旋转加速度和步骤3中得到的平移加速度作为运动反馈量反馈给稳像决策单元;
步骤5,所述FPGA板卡对所述第一摄像机拍摄的图像的前帧图像、后帧图像进行匹配运动估计,同时,所述FPGA板卡对所述第二摄像机拍摄的图像的前帧图像、后帧图像进行匹配运动估计,所述FPGA板卡把匹配运动结果反馈给所述稳像决策单元;
步骤6,所述稳像决策单元根据步骤4得到的运动反馈量和步骤5得到的匹配运动结果反馈结果,通过稳像算法,得到所述第一摄像机和所述第二摄像机补偿运动所需旋转的速度和方向,同时将得到的所需旋转的速度和方向发送给伺服控制单元,控制所述第一摄像机和所述第二摄像机的运动,实现所述第一摄像机和所述第二摄像机拍摄图像的稳像。
2.根据权利要求1所述的仿生电子稳像方法,其特征在于,步骤5中的匹配运动估计方法的具体步骤为:
步骤S1,对所述第一摄像机和所述第二摄像机拍摄的图像,提取SIFT特征,进行特征点匹配;
步骤S2,利用视差原理计算特征点的三维坐标;
步骤S3,匹配所述第一摄像机拍摄的图像的前帧图像、后帧图像的SIFT特征,匹配所述第二摄像机拍摄的图像的前帧图像、后帧图像的SIFT特征,转换所有SIFT特征得到同组特征点帧间的运动三维坐标变化,通过最小二乘法求解特征点方程,得到旋转矩阵和平移向量。
3.根据权利要求1所述的仿生电子稳像方法,其特征在于,所述稳像算法采用的算法模型为:
E l = [ H a n g s 2 α C ( S ) ( N ( S ) + n ) ( - ρ r - ρ ) + H ·· l i n O ( S ) β ( N ( S ) + m ) ( - ρ r - ρ ) ] P ( S ) ;
E r = [ H a n g s 2 α C ( S ) ( N ( S ) + n ) ( ρ r + ρ ) + H ·· l i n O ( S ) β ( N ( S ) + m ) ( ρ r + ρ ) ] P ( S ) ;
ρr=g1β2+gnα2+gnβ1α3
ρ=g1β1+gnα1+gnβ2α3
C ( S ) = T c sT c + 1 ;
N ( S ) = T v sT v + 1 ;
O ( S ) = 1 sT o + 1 ;
P ( S ) = K e sT e + 1 ;
Hang表示所述第一摄像机和所述第二摄像机的旋转的角度,表示所述第一摄像机和所述第二摄像机平移的加速度,El表示所述第一摄像机的输出,Er表示所述第二摄像机的输出;
其中,C(S)为半规管的传递函数,Tc为半规管的时间常数,N(S)为神经积分器的传递函数,Tv为神经积分器的时间常数,O(S)为耳石器官的传递函数,To为耳石器官的时间常数,P(S)为眼球运动装置的传递函数,Te为眼球运动装置的时间常数,Ke为眼球运动装置的增益,α为半规管与前庭神经核间的增益,α1为外展神经核与动眼神经核间的常数增益,α2为外展神经核与对侧动眼神经核间的常数增益,α3为外展神经核与对侧动眼神经核间的常数增益,β为耳石器管与前庭神经核间的增益,β1为外展神经核与前庭神经核间的常数增益,β2为对侧前庭器官与外展神经核间的增益,gn为内直肌的常数增益,g1为外直肌的常数增益,m为平移前庭动眼反射在神经积分器中的增益,n为旋转前庭动眼反射在神经积分器中的增益。
4.一种基于前庭反射机理的仿生电子稳像装置,其特征在于,包括:
第一摄像机,其与第一电机连接,所述第一摄像机模拟左眼的前庭动眼反射,所述第一电机模拟所述第一摄像机的旋转运动;
第二摄像机,其与第二电机连接,所述第二摄像机模拟右眼的前庭动眼反射,所述第二电机模拟所述第二摄像机的旋转运动;
第一应变片力传感器,其与所述第一电机连接,所述第一应变片力传感器模拟所述第一摄像机的平移运动;
第二应变片力传感器,其与所述第二电机连接,所述第二应变片力传感器模拟所述第二摄像机的平移运动;
FPGA板卡,其与所述第一电机、所述第二电机、所述第一应变片力传感器、所述第二应变片力传感器和稳像决策单元连接,所述FPGA板卡测量所述第一电机和所述第二电机的电流突变,得到所述第一摄像机和所述第二摄像机的旋转加速度,所述FPGA板卡测量所述第一应变片力传感器和所述第二应变片力传感器的应变,得到所述第一摄像机和所述第二摄像机的平移加速度,所述FPGA板卡对所述第一摄像机和所述第二摄像机拍摄的图像的前帧图像、后帧图像进行匹配运动估计,同时,所述FPGA板卡把匹配运动结果、旋转加速度和平移加速度反馈给稳像决策单元;
稳像决策单元,其与所述FPGA板卡和伺服控制单元连接,所述稳像决策单元接收匹配运动结果、旋转加速度和平移加速度,并根据稳像算法,得到所述第一摄像机和所述第二摄像机补偿运动所需旋转的速度和方向,同时将得到的所需旋转的速度和方向发送给伺服控制单元;
伺服控制单元,其与所述稳像决策单元、所述第一摄像机和所述第二摄像机连接,所述伺服控制单元根据所述稳像决策单元得到的旋转的速度和方向,控制所述第一摄像机和所述第二摄像机的运动,实现所述第一摄像机和所述第二摄像机拍摄图像的稳像。
5.根据权利要求4所述的仿生电子稳像装置,其特征在于,所述FPGA板卡进行匹配运动估计的方法具体包括:
步骤S1,对所述第一摄像机和所述第二摄像机拍摄的图像,提取SIFT特征,进行特征点匹配;
步骤S2,利用视差原理计算特征点的三维坐标;
步骤S3,匹配所述第一摄像机拍摄的图像的前帧图像、后帧图像的SIFT特征,匹配所述第二摄像机拍摄的图像的前帧图像、后帧图像的SIFT特征,转换所有SIFT特征得到同组特征点帧间的运动三维坐标变化,通过最小二乘法求解特征点方程,得到旋转矩阵和平移向量。
6.根据权利要求4所述的仿生电子稳像装置,其特征在于,所述稳像决策单元采用的稳像算法的算法模型为:
E l = [ H a n g s 2 α C ( S ) ( N ( S ) + n ) ( - ρ r - ρ ) + H ·· l i n O ( S ) β ( N ( S ) + m ) ( - ρ r - ρ ) ] P ( S ) ;
E r = [ H a n g s 2 α C ( S ) ( N ( S ) + n ) ( ρ r + ρ ) + H ·· l i n O ( S ) β ( N ( S ) + m ) ( ρ r + ρ ) ] P ( S ) ;
ρr=g1β2+gnα2+gnβ1α3
ρ=g1β1+gnα1+gnβ2α3
C ( S ) = T c sT c + 1 ;
N ( S ) = T v sT v + 1 ;
O ( S ) = 1 sT o + 1 ;
P ( S ) = K e sT e + 1 ;
Hang表示所述第一摄像机和所述第二摄像机的旋转的角度,表示所述第一摄像机和所述第二摄像机平移的加速度,El表示所述第一摄像机的输出,Er表示所述第二摄像机的输出;
其中,C(S)为半规管的传递函数,Tc为半规管的时间常数,N(S)为神经积分器的传递函数,Tv为神经积分器的时间常数,O(S)为耳石器官的传递函数,To为耳石器官的时间常数,P(S)为眼球运动装置的传递函数,Te为眼球运动装置的时间常数,Ke为眼球运动装置的增益,α为半规管与前庭神经核间的增益,α1为外展神经核与动眼神经核间的常数增益,α2为外展神经核与对侧动眼神经核间的常数增益,α3为外展神经核与对侧动眼神经核间的常数增益,为β耳石器管与前庭神经核间的增益,β1为外展神经核与前庭神经核间的常数增益,β2为对侧前庭器官与外展神经核间的增益,gn为内直肌的常数增益,g1为外直肌的常数增益,m为平移前庭动眼反射在神经积分器中的增益,n为旋转前庭动眼反射在神经积分器中的增益。
CN201510796432.2A 2015-11-18 2015-11-18 基于前庭反射机理的仿生电子稳像方法及装置 Active CN105472373B (zh)

Priority Applications (1)

Application Number Priority Date Filing Date Title
CN201510796432.2A CN105472373B (zh) 2015-11-18 2015-11-18 基于前庭反射机理的仿生电子稳像方法及装置

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
CN201510796432.2A CN105472373B (zh) 2015-11-18 2015-11-18 基于前庭反射机理的仿生电子稳像方法及装置

Publications (2)

Publication Number Publication Date
CN105472373A CN105472373A (zh) 2016-04-06
CN105472373B true CN105472373B (zh) 2017-03-29

Family

ID=55609593

Family Applications (1)

Application Number Title Priority Date Filing Date
CN201510796432.2A Active CN105472373B (zh) 2015-11-18 2015-11-18 基于前庭反射机理的仿生电子稳像方法及装置

Country Status (1)

Country Link
CN (1) CN105472373B (zh)

Families Citing this family (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN106488081B (zh) * 2016-10-17 2019-06-28 深圳市前海视微科学有限责任公司 视频稳像系统及方法
CN113359462B (zh) * 2021-06-25 2022-12-20 北京理工大学 一种基于扰动解耦与补偿的仿生眼稳像系统及方法

Family Cites Families (8)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US7892180B2 (en) * 2002-11-18 2011-02-22 Epley Research Llc Head-stabilized medical apparatus, system and methodology
KR101059806B1 (ko) * 2007-10-29 2011-08-26 재단법인서울대학교산학협력재단 전정안 반사를 응용한 안정화 제어 시스템 및 방법
CN101729783B (zh) * 2009-12-22 2011-08-10 上海大学 基于类人眼球前庭动眼反射的双目视觉系统在颠簸环境中的图像稳定方法
US8886578B2 (en) * 2011-01-11 2014-11-11 The Royal Institution For The Advancement Of Learning/Mcgill University Method and system for automatically classifying and identifying vestibulo-ocular responses
CN202018340U (zh) * 2011-03-21 2011-10-26 中国航天科工集团第三研究院第八三五八研究所 一种电子稳像装置
CN102497494A (zh) * 2011-12-09 2012-06-13 首都师范大学 基于fpga的高速稳像系统中的运动估计模块
CN103414853B (zh) * 2013-07-26 2016-11-09 东华大学 支持多自由度运动的视频图像序列实时稳定装置与方法
FR3020169A1 (fr) * 2014-04-16 2015-10-23 Parrot Drone a voilure tournante muni d'une camera video delivrant des sequences d'images stabilisees

Also Published As

Publication number Publication date
CN105472373A (zh) 2016-04-06

Similar Documents

Publication Publication Date Title
CN104699247B (zh) 一种基于机器视觉的虚拟现实交互系统及方法
CN104436597B (zh) 运动辅助装置以及运动辅助方法
KR20190087912A (ko) 증강현실과 가상현실을 이용한 훈련용 응급처치 시뮬레이션 방법
CN105472373B (zh) 基于前庭反射机理的仿生电子稳像方法及装置
JP5831893B1 (ja) 航空機の遠隔操縦システム
US20170135612A1 (en) Feedback Wearable
CN108021241A (zh) 一种实现ar眼镜虚实融合的方法
SE527257C2 (sv) Anordning och metod för att presentera en omvärldsbild
CN108572723B (zh) 一种防晕车方法及设备
WO2020049886A1 (ja) 歩行補助システム
CN110032208B (zh) 一种用于水下侦查与摄影无人机及其控制方法
CN109302546A (zh) 摄像头组件及电子设备
CN110465079A (zh) 基于720影院平台的全景游戏交互系统
CN105187812B (zh) 一种双目视觉立体匹配方法
CN108366902A (zh) 胸外按压系统和方法
CN113808163A (zh) 机械臂位置的动图动态展示方法和控制终端
TW200940116A (en) A motion sickness prevention device
CN107870675A (zh) 一种虚拟现实显示系统
JP2021184260A (ja) 3次元映像および前庭電気刺激を統合するためのシステム
CN210616536U (zh) 一种基于vr技术的机器人控制装置
JP6855561B1 (ja) 透析患者運動支援システムおよび透析患者運動支援装置ならびにその方法およびプログラム
CN106257924B (zh) 多视角摄像装置及多视角摄像方法
US11947725B2 (en) Force sense presentation device and force sense presentation method
JP7494662B2 (ja) レッスン講習システム及びレッスン講習方法
CN106725334A (zh) 性行为数据测量装置及系统

Legal Events

Date Code Title Description
C06 Publication
PB01 Publication
C10 Entry into substantive examination
SE01 Entry into force of request for substantive examination
GR01 Patent grant
GR01 Patent grant