CN101385677A - 基于运动物体跟踪的导盲方法及装置 - Google Patents

基于运动物体跟踪的导盲方法及装置 Download PDF

Info

Publication number
CN101385677A
CN101385677A CNA200810201253XA CN200810201253A CN101385677A CN 101385677 A CN101385677 A CN 101385677A CN A200810201253X A CNA200810201253X A CN A200810201253XA CN 200810201253 A CN200810201253 A CN 200810201253A CN 101385677 A CN101385677 A CN 101385677A
Authority
CN
China
Prior art keywords
moving object
moving
information
blind
sound
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Pending
Application number
CNA200810201253XA
Other languages
English (en)
Inventor
童善保
聂旻
解程程
石梦莹
李正军
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Shanghai Jiaotong University
Original Assignee
Shanghai Jiaotong University
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Shanghai Jiaotong University filed Critical Shanghai Jiaotong University
Priority to CNA200810201253XA priority Critical patent/CN101385677A/zh
Publication of CN101385677A publication Critical patent/CN101385677A/zh
Pending legal-status Critical Current

Links

Images

Abstract

本发明涉及一种残疾人辅助设备技术领域的基于运动物体跟踪的导盲方法及装置。其中运动物体信息读入单元负责拾取视野范围内的图像,并将图像信息传入运动物体检测单元,运动物体跟踪处理这些图像信息后检测出运动物体的运动方向和速度,最后由声音转换输出单元将带有运动物体运动信息的声音从耳机输出给盲人,本发明主要应用于辅助盲人获取周围环境中的运动物体信息并转变为特定声音,盲人通过这些带有运动物体信息的声音,判断自己所处的环境,如面前驶过的车辆、走路的行人等。

Description

基于运动物体跟踪的导盲方法及装置
技术领域
本发明涉及一种检测技术领域的导盲装置及方法,具体地说,涉及的是一种基于运动物体跟踪的导盲方法及装置。
背景技术
人类获取外界的信息有将近80%依赖于视觉,其他20%依靠听觉和触觉获取。但是对于盲人,由于失去了视觉感官,他们对外界信息的获取受到了很大限制。为了提高盲人的生活质量,尽量减少由失明带来的痛苦,科学家们考虑用听觉代替视觉,希望通过这种感觉替代,将一些重要的视觉信息传递给盲人,特别是运动物体信息。
由于盲人失去了最为重要的信息输入途径——视觉,他们对于运动物体的感知将会大大下降,比如说马路上疾行的汽车。而解决这个问题单靠简单的辨别物体声音是不够的。如果通过特定的运动物体跟踪方法和声音输出系统,将视觉信号顺利转变为听觉信号,那么就可以提醒盲人周围环境中的运动物体,从而避免诸多不安全因素,达到导盲的目的。
目前国内对基于运动物体跟踪的导盲系统研究很少,但是听觉对视觉的代替已经有所发展。经对现有技术的文献检索发现,中国专利名称:基于认知和目标辨识的视觉替代方法,专利申请号200710039631.4,该技术可以检测物体在环境中的类别和位置信息,并可将这些信息转化为声音信号,从而实现视觉对听觉的代替。但此项技术其实仍然是针对环境中静止物体的辨识,虽然能借助缓冲区不断更新环境中的物体信息,但对于运动物体检测来说却没有实现连续性,且因为需要用到缓冲区,算法比较复杂,无法满足实时性,这对于运动物体检测是很大的不足。
发明内容
本发明针对现有技术的不足,提供了一种基于运动物体跟踪的导盲方法及装置,该装置将视觉信号转变为听觉信号,盲人通过该装置能及时获取视野范围内的运动物体信息,以便于了解周围环境,保护自身安全。
本发明是通过以下技术方案实现的:
本发明所涉及的基于运动物体跟踪的导盲方法,包括如下步骤:
步骤一,运动物体信息读入:摄像头读入周围物体信息,图像以数字信号的形式表示,每一帧图像对应表达了每一像素点灰度级信息的矩阵。
步骤二,运动物体检测:连续两帧图像行数字图像处理进行相减运算,所得结果矩阵中,灰度级为0的像素点即为两帧图像中相同部分也就是静止物体位置,灰度级非零的像素点即为两帧图像不同部分也就是运动物体位置,并重新将这些点的灰度级赋为一相同的非零值。摄像头读入的所有帧都进行上述处理即可得到运动物体的运动轨迹。
步骤三,运动物体质心获得:获得运动物体轨迹后,也就可读出轨迹在矩阵中的行列位置,分别在这两个方向上进行先加和后平均的坐标运算,获得运动物体的质心。
步骤四,视频信号转换为音频信号:将运动物体检测得到运动物体信息转换为能为盲人辨识的三维声音信号,由耳机输出,提示盲人运动物体信息。
所述步骤二、三都由DSP完成,步骤四中的声音转换计算也在DSP中完成,然后耳机输出声音信号给盲人。
本发明所涉及的基于运动物体跟踪的导盲装置,包括运动物体信息读入单元、运动物体检测单元和声音转换输出单元。运动物体检测单元的输入端连接运动物体信息读入单元,其输出端连接声音转换输出单元。
所述运动物体信息读入单元读入盲人视野范围内的视觉信息,图像转换为数字信号的方式表达,每一帧图像对应表达为一个灰度级信息的矩阵。
所述运动物体检测单元接受来自运动物体信息读入单元传递来的连续图像,并通过运动物体检测算法,获得运动物体的位置信息。记录运动物体的位置,通过求平均值的运算得到运动物体质心。对连续不断的多幅图像进行相同处理后,就可以得到运动物体的质心轨迹,质心的运动方向和运动速度,即代表了运动物体的运动方向和运动速度。
所述声音转换输出单元接受来自运动物体检测单元传来的运动物体信息,通过合成声音将其转换为虚拟三维声音信号,由耳机输出,为盲人辨识,提示他们周围环境中的运动物体信息。
所述运动物体信息读入单元通过黑白摄像头完成视觉信息的读入。
与现有技术相比,本发明具有以下的优点:
首先,只是能够获得静止物体的位置信息对于盲人来说是远远不够的,而目前的导盲技术大多是针对静止物体的。本发明能够为盲人提供运动物体的识别,从另一个角度上改善了盲人对外界环境的感知,使得盲人能够通过声音更确切的辨识运动物体信息。
其次,运动物体本身产生的声音可以为盲人提供一定的信息,但假如在嘈杂的环境中,物体本身的声音混杂在一起,为盲人的识别带来很多困难。本发明可以将摄像头视野锁定在盲人正对面,即只提供盲人正前方的运动物体信息,通过产生很容易辨识二维模拟声音信号将其与其他运动物体信息区分开来。
再次,从设备本身来说,DSP的小巧轻便方便了盲人的携带,使其几乎可以在所有场合得到应用,这对于盲人是十分重要的。如果便携性的要求得不到满足,导盲的作用无法最大程度的发挥,设备也就失去了意义,而本发明恰恰满足了这个要求。
附图说明
图1为本发明实施例的结构框图
图2为本发明实施例的使用状态图
具体实施方式
下面结合附图对本发明的实施例作详细说明:本实施例在以本发明技术方案为前提下进行实施,给出了详细的实施方式和具体的操作过程,但本发明的保护范围不限于下述的实施例。
如图1所示,本实施例中,所述装置由装配在盲人头部的黑白摄像头(即运动物体信息读入单元)、运动物体检测单元、声音转换输出单元组成,其中:运动物体检测单元、声音转换输出单元的功能均由DSP平台实现。另外,还有外围设备耳机。
运动物体信息读入单元读入运动物体信息,利用黑白摄像头拾取视野范围内的图像,将图像信息提供给运动物体检测单元。
运动物体检测单元接受读入单元传来的信息之后,首先进行去噪和阈值化预处理,再进行运动物体检测,得到运动物体轮廓和质心,一连串的图像输入可以得到一条质心轨迹,此质心运动的方向和速度,就等价于实际运动物体的运动方向和速度。运动物体检测提供了一种简单易行的运动物体跟踪方法。当以设定的的时间间隔来拾取两幅固定场景的连续图像,并且将两幅图像相减,场景中的运动物体就会因为位置差别而出现结果为非0的运动物体轮廓,而图像其他部分,比如说背景、非运动物体,其相减结果为0。得到所有非0像素点的位置信息后,根据简单的坐标求和平均法得到运动物体质心。此质心作为运动物体的标志,可以表达其运动方向和速度。
声音转换输出单元接受运动物体检测单元传来的质心运动信息,并通过合成声音:利用HRTF(Head-Related Transfer Function头相关传输函数)这一音效定位算法实现视频信号向音频信号的转换。与HRTF对应的时域表示称为头相关冲激响应HRIR(Head-Related Impulse Response),它是方位角θ、仰角φ和时间t的函数。
本实施例所采用的声音转换算法中,HRIR是对25个方位角、50个仰角以及200个时间点进行的离散采样。HRIR作为周围环境对于声音的冲激响应,声源输出的声音序列只要与对应的HRIR数据进行卷积就能得到带有位置信息的声音序列。
S l ( n ) = Σ k = 0 n - 1 HRTF l ( k ) × x ( n - k )
S r ( n ) = Σ k = 0 n - 1 HRTF r ( k ) × x ( n - k )
双耳耳机将得到的结果,即左右耳不同的声音序列Sl(n)和Sr(n),输出给盲人,就可使他们听到带有运动物体运动信息的虚拟三维立体声。但此方法的不足之处在于盲人难以识别运动物体的远近,因为HRIR在采样时并没有涉及距离的信息。
为了弥补这一不足,本实施例采用声强级的方法来代替距离信息,距离远的运动物体对应的声音比较弱,而距离近的物体对应较强的声音。
本实施例中,采用了北京瑞泰创新公司生产的ICETEK-DM642-C评估板作为开发平台。此评估板是一个低功耗独立开发平台。板上设备主要包括美国德州仪器公司(TI)的TMS320DM642 DSP芯片、独立HPI接口、2路视频端口、4M同步动态存储器、32MFlash、AIC23立体声数字信号编解码器、JTAG仿真接口、以及4个用户指示灯。
如图2所示,本实施例使用时,运动物体信息读入单元可以采用黑白摄像头,进一步的,可以采用如图2中所示的摄像头眼镜1,运动物体检测单元、声音转换输出单元,可以采用现有的DSP 3实现,另外,声音转换输出单元连接耳机2。
上述实施例主要应用于辅助盲人获取周围环境中的运动物体信息并转变为特定声音,盲人通过这些带有运动物体信息的声音,判断自己所处的环境,如面前驶过的车辆、走路的行人等。上述实施例方法简洁易行,硬件携带方便,运行速度快,为盲人的日常生活提供便利。

Claims (7)

1.一种基于运动物体跟踪的导盲方法,其特征在于,包括如下步骤:
步骤一,运动物体信息读入:摄像头读入周围物体信息,图像以数字信号的形式表示,每一帧图像对应表达了每一像素点灰度级信息的矩阵;
步骤二,运动物体检测:连续两帧图像行数字图像处理进行相减运算,所得结果矩阵中,灰度级为0的像素点即为两帧图像中相同部分也就是静止物体位置,灰度级非零的像素点即为两帧图像不同部分也就是运动物体位置,并重新将这些点的灰度级赋为一相同的非零值,摄像头读入的所有帧都进行上述处理即可得到运动物体的运动轨迹;
步骤三,运动物体质心获得:获得运动物体轨迹后,读出轨迹在矩阵中的行列位置,分别在这两个方向上进行先加和后平均的坐标运算,获得运动物体的质心;
步骤四,视频信号转换为音频信号:将运动物体检测得到运动物体信息转换为能为盲人辨识的三维声音信号,由耳机输出,提示盲人运动物体信息。
2.根据权利要求1所述的基于运动物体跟踪的导盲方法,其特征是,所述视频信号转换为音频信号通过头相关传输函数实现。
3.根据权利要求2所述的基于运动物体跟踪的导盲方法,其特征是,所述头相关传输函数种,采用声强级的方法来代替距离信息,距离远的运动物体对应的声音弱,而距离近的物体对应较强的声音。
4.一种基于运动物体跟踪的导盲装置,其特征在于,包括运动物体信息读入单元、运动物体检测单元和声音转换输出单元,运动物体检测单元的输入端连接运动物体信息读入单元,其输出端连接声音转换输出单元,其中:
所述运动物体信息读入单元读入盲人视野范围内的视觉信息,图像转换为数字信号的方式表达,每一帧图像对应表达为一个灰度级信息的矩阵。
所述运动物体检测单元接受来自运动物体信息读入单元传递来的连续图像,并通过运动物体检测,获得运动物体的位置信息,记录运动物体的位置,通过求平均值的运算得到运动物体质心,对连续的多幅图像进行相同处理后,得到运动物体的质心轨迹,质心的运动方向和运动速度,即代表了运动物体的运动方向和运动速度;
所述声音转换输出单元接受来自运动物体检测单元传来的运动物体信息,通过合成声音将其转换为虚拟三维声音信号,由耳机输出,为盲人辨识,提示他们周围环境中的运动物体信息。
5.如权利要求4所述的基于运动物体跟踪的导盲装置,其特征是,所述运动物体信息读入单元通过黑白摄像头完成视觉信息的读入。
6.如权利要求4所述的基于运动物体跟踪的导盲装置,其特征是,所述运动物体检测单元接受读入单元传来的信息之后,首先进行去噪和阈值化预处理,再进行运动物体检测,得到运动物体轮廓和质心,一连串的图像输入得到一条质心轨迹。
7.如权利要求4所述的基于运动物体跟踪的导盲装置,其特征是,所述运动物体检测单元当以设定的时间间隔来拾取两幅固定场景的连续图像,并且将两幅图像相减,场景中的运动物体就会因为位置差别而出现结果为非0的运动物体轮廓,而图像其他部分,其相减结果为0,得到所有非0像素点的位置信息后,根据简单的坐标求和平均法得到运动物体质心。
CNA200810201253XA 2008-10-16 2008-10-16 基于运动物体跟踪的导盲方法及装置 Pending CN101385677A (zh)

Priority Applications (1)

Application Number Priority Date Filing Date Title
CNA200810201253XA CN101385677A (zh) 2008-10-16 2008-10-16 基于运动物体跟踪的导盲方法及装置

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
CNA200810201253XA CN101385677A (zh) 2008-10-16 2008-10-16 基于运动物体跟踪的导盲方法及装置

Publications (1)

Publication Number Publication Date
CN101385677A true CN101385677A (zh) 2009-03-18

Family

ID=40475490

Family Applications (1)

Application Number Title Priority Date Filing Date
CNA200810201253XA Pending CN101385677A (zh) 2008-10-16 2008-10-16 基于运动物体跟踪的导盲方法及装置

Country Status (1)

Country Link
CN (1) CN101385677A (zh)

Cited By (11)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN101584624B (zh) * 2009-06-18 2011-01-19 上海交通大学 基于dsp的路牌识别导盲装置及其方法
CN102688120A (zh) * 2012-06-08 2012-09-26 綦峰 彩色声像导盲方法及彩色声像导盲仪
CN102895093A (zh) * 2011-12-13 2013-01-30 冷春涛 一种基于rgb-d传感器的助行机器人跟踪系统及方法
CN103294880A (zh) * 2012-02-24 2013-09-11 联想(北京)有限公司 一种信息输出方法、装置及电子设备
US8589067B2 (en) 2010-11-30 2013-11-19 International Business Machines Corporation Method, device and computer program for mapping moving direction by sounds
CN103908365A (zh) * 2014-04-09 2014-07-09 天津思博科科技发展有限公司 一种电子行走辅助装置
CN107157651A (zh) * 2017-06-13 2017-09-15 浙江诺尔康神经电子科技股份有限公司 一种基于声音刺激的视觉图像感知系统和方法
CN107278301A (zh) * 2016-12-30 2017-10-20 深圳前海达闼云端智能科技有限公司 一种辅助用户寻物的方法及装置
CN107320296A (zh) * 2017-06-23 2017-11-07 重庆锦上医疗器械有限公司 视觉信号的空间三维声音表达系统及方法
CN109243150A (zh) * 2018-09-30 2019-01-18 深圳市金豪泰科技有限公司 一种车辆预警方法及终端
CN112101461A (zh) * 2020-09-16 2020-12-18 北京邮电大学 一种基于hrtf-pso-fcm的无人机侦察视觉信息可听化方法

Cited By (14)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN101584624B (zh) * 2009-06-18 2011-01-19 上海交通大学 基于dsp的路牌识别导盲装置及其方法
US8589067B2 (en) 2010-11-30 2013-11-19 International Business Machines Corporation Method, device and computer program for mapping moving direction by sounds
CN102895093A (zh) * 2011-12-13 2013-01-30 冷春涛 一种基于rgb-d传感器的助行机器人跟踪系统及方法
CN103294880B (zh) * 2012-02-24 2016-12-14 联想(北京)有限公司 一种信息输出方法、装置及电子设备
CN103294880A (zh) * 2012-02-24 2013-09-11 联想(北京)有限公司 一种信息输出方法、装置及电子设备
CN102688120A (zh) * 2012-06-08 2012-09-26 綦峰 彩色声像导盲方法及彩色声像导盲仪
CN103908365A (zh) * 2014-04-09 2014-07-09 天津思博科科技发展有限公司 一种电子行走辅助装置
CN107278301A (zh) * 2016-12-30 2017-10-20 深圳前海达闼云端智能科技有限公司 一种辅助用户寻物的方法及装置
CN107278301B (zh) * 2016-12-30 2020-12-08 深圳前海达闼云端智能科技有限公司 一种辅助用户寻物的方法及装置
CN107157651A (zh) * 2017-06-13 2017-09-15 浙江诺尔康神经电子科技股份有限公司 一种基于声音刺激的视觉图像感知系统和方法
CN107320296A (zh) * 2017-06-23 2017-11-07 重庆锦上医疗器械有限公司 视觉信号的空间三维声音表达系统及方法
CN109243150A (zh) * 2018-09-30 2019-01-18 深圳市金豪泰科技有限公司 一种车辆预警方法及终端
CN112101461A (zh) * 2020-09-16 2020-12-18 北京邮电大学 一种基于hrtf-pso-fcm的无人机侦察视觉信息可听化方法
CN112101461B (zh) * 2020-09-16 2022-02-25 北京邮电大学 一种基于hrtf-pso-fcm的无人机侦察视觉信息可听化方法

Similar Documents

Publication Publication Date Title
CN101385677A (zh) 基于运动物体跟踪的导盲方法及装置
CN101474020B (zh) 基于条形码标识的盲人超市导购方法和装置
CN101561710B (zh) 一种基于人脸姿态估计的人机交互方法
CN103970264B (zh) 手势辨识与控制方法及其装置
CN104700385B (zh) 基于fpga实现的双目视觉定位装置
CN106128121B (zh) 基于局部特征分析的车辆排队长度快速检测算法
CN102609724B (zh) 一种基于双摄像头的周围环境信息提示方法
CN104598915A (zh) 一种手势识别方法与装置
CN109903328B (zh) 一种应用于智能手机的物体体积测量的装置及方法
CN104504856A (zh) 基于Kinect及人脸识别的疲劳驾驶检测方法
CN101201695A (zh) 一种基于眼部区域运动特征提取与跟踪的鼠标系统
Xing et al. People-following system design for mobile robots using kinect sensor
CN103279188A (zh) 一种基于Kinect无接触性操作控制PPT的方法
CN104318588A (zh) 一种基于位置感知判别外观模型的多摄像机目标跟踪方法
CN106651873B (zh) 一种基于rgb-d相机和立体声的视障人士斑马线检测眼镜
CN103268706B (zh) 一种基于局部方差的车队列长度检测方法
CN106447695A (zh) 一种多物体追踪中判断同一物体的方法和装置
Hsu et al. Real-time finger tracking for virtual instruments
CN102509224A (zh) 基于深度影像获取技术的人体试衣方法
Karbasi et al. Real-time hands detection in depth image by using distance with Kinect camera
Zhang et al. Road marking segmentation based on siamese attention module and maximum stable external region
CN103456012B (zh) 基于最大稳定曲率区域的视觉人手检测跟踪方法及系统
CN114627186A (zh) 一种测距方法及测距装置
CN105118073A (zh) 基于Xtion摄像机的人体头部目标识别方法
CN107049717B (zh) 一种基于rgb-d相机和立体声的视障人士斑马线检测系统及方法

Legal Events

Date Code Title Description
C06 Publication
PB01 Publication
C10 Entry into substantive examination
SE01 Entry into force of request for substantive examination
C12 Rejection of a patent application after its publication
RJ01 Rejection of invention patent application after publication

Open date: 20090318