CN108845324A - 障碍物识别方法、装置、设备及存储介质 - Google Patents

障碍物识别方法、装置、设备及存储介质 Download PDF

Info

Publication number
CN108845324A
CN108845324A CN201810671244.0A CN201810671244A CN108845324A CN 108845324 A CN108845324 A CN 108845324A CN 201810671244 A CN201810671244 A CN 201810671244A CN 108845324 A CN108845324 A CN 108845324A
Authority
CN
China
Prior art keywords
signal
frequency domain
time difference
frequency
frame
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
CN201810671244.0A
Other languages
English (en)
Other versions
CN108845324B (zh
Inventor
史润宇
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Beijing Xiaomi Mobile Software Co Ltd
Original Assignee
Beijing Xiaomi Mobile Software Co Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Beijing Xiaomi Mobile Software Co Ltd filed Critical Beijing Xiaomi Mobile Software Co Ltd
Priority to CN201810671244.0A priority Critical patent/CN108845324B/zh
Publication of CN108845324A publication Critical patent/CN108845324A/zh
Application granted granted Critical
Publication of CN108845324B publication Critical patent/CN108845324B/zh
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Classifications

    • GPHYSICS
    • G01MEASURING; TESTING
    • G01SRADIO DIRECTION-FINDING; RADIO NAVIGATION; DETERMINING DISTANCE OR VELOCITY BY USE OF RADIO WAVES; LOCATING OR PRESENCE-DETECTING BY USE OF THE REFLECTION OR RERADIATION OF RADIO WAVES; ANALOGOUS ARRANGEMENTS USING OTHER WAVES
    • G01S15/00Systems using the reflection or reradiation of acoustic waves, e.g. sonar systems
    • G01S15/88Sonar systems specially adapted for specific applications
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F18/00Pattern recognition
    • G06F18/20Analysing
    • G06F18/21Design or setup of recognition systems or techniques; Extraction of features in feature space; Blind source separation
    • G06F18/214Generating training patterns; Bootstrap methods, e.g. bagging or boosting
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • G06F3/01Input arrangements or combined input and output arrangements for interaction between user and computer
    • G06F3/011Arrangements for interaction with the human body, e.g. for user immersion in virtual reality

Abstract

本申请公开了一种障碍物识别方法、装置、设备及存储介质,涉及移动终端领域。该方法包括:通过声波发生器向预定方向发射带通超声信号;通过声波接收器接收混合信号,混合信号包括带通超声信号;对混合信号进行特征提取得到时间特征量;将时间特征量输入神经网络模型得到障碍物识别结果。该方法通过提取声波接收器接收到的混合信号中的时间特征量,将时间特征量输入神经网络模型,实现了利用声波对障碍物移动状态的判别;当终端的前面板不设置距离传感器时,可以通过该方案对终端前方的障碍物进行识别。

Description

障碍物识别方法、装置、设备及存储介质
技术领域
本申请实施例涉及移动终端领域,特别涉及一种障碍物识别方法、装置、设备及存储介质。
背景技术
诸如智能手机、平板电脑之类的移动终端上设置有触摸屏。以智能手机为例,当用户脸部接近触摸屏时,触摸屏会自动熄灭;当用户脸部远离触摸屏时,触摸屏会自动点亮。
相关技术中,智能手机的前面板顶部设置有红外距离传感器,该红外距离传感器用于向智能手机的前面板前方发射第一红外线信号,然后接收遇到用户脸部反射回的第二红外线信号,根据第一红外线信号和第二红外线信号之间的幅度变化,计算得到用户脸部与前面板之间的距离,识别有无障碍物接近。
发明内容
本申请实施例提供了一种障碍物识别方法、装置、设备及存储介质,可以解决诸如智能手机、平板电脑之类设置有触摸屏的移动终端的前面板不设置红外距离传感器时,如何识别前方障碍物的问题。所述技术方案如下:
根据本公开的第一方面,提供一种障碍物识别方法,应用于设置有声波发生器和声波接收器的终端中,所述方法包括:
通过声波发生器向预定方向发射带通超声信号;
通过声波接收器接收混合信号,混合信号包括带通超声信号;
对混合信号进行特征提取得到时间特征量;
将时间特征量输入神经网络模型得到障碍物识别结果。
在一个可选的实施例中,时间特征量包括当前帧和/或历史帧之间的一阶时间差分值和/或N阶时间差分值,N为N≥2的正整数;
上述将时间特征量输入神经网络模型得到障碍物识别结果,包括:
将当前帧和/或历史帧之间的一阶时间差分值和/或N阶时间差分值输入神经网络模型,得到障碍物识别结果;障碍物识别结果包括:接近事件、远离事件、无事件中的任意一种。
在一个可选的实施例中,神经网络模型包括:
依次相连的三层全连接神经网络和输出层;
或,
依次相连的双层循环神经网络、一层所述全连接神经网络和所述输出层。
在一个可选的实施例中,上述对混合信号进行特征提取得到时间特征量,包括:
提取混合信号中的待处理信号;
将待处理信号中的历史帧和当前帧进行频域转换得到频域信号,上述历史帧和当前帧中每个声音帧的频域信号包括n个频域分量,n为正整数;
对当前帧中的n个频域分量和历史帧中的n个频域分量进行差分,计算得到频域时间差分值的一阶时间差分值和/或N阶时间差分值;
根据频域时间差分值的一阶时间差分值和/或N阶时间差分值得到时间特征量;
其中,历史帧包括位于当前帧之前的M个声音帧,M为正整数。
在一个可选的实施例中,上述对当前帧中的n个频域分量和历史帧中的n个频域分量进行差分,计算得到频域时间差分值的一阶时间差分值,包括:
对第i帧中的n个频域分量和第i-1帧中的n个频域分量进行差分,计算得到一阶时间差分值,i为i≤0的整数,其中,若i=0,则为当前帧的一阶时间差分值;
上述对当前帧中的n个频域分量和历史帧中的n个频域分量进行差分,计算得到频域时间差分值的N阶时间差分值,包括:
对第i帧中的n个频域分量和第i-N帧中的n个频域分量进行差分,计算得到N阶时间差分值,N为N≤M+i的正整数,其中,若i=0,则为当前帧的N阶时间差分值。
在一个可选的实施例中,上述提取所述混合信号中的待处理信号,包括:
将混合信号进行滤波处理,得到滤波后的声音信号;
根据滤波后的声音信号得到待处理信号。
在一个可选的实施例中,上述根据滤波后的声音信号得到待处理信号,包括:
将滤波后的声音信号进行移频处理,得到移频后的声音信号;
将移频后的声音信号进行降采样处理,将降采样后的声音信号确定为待处理信号。
在一个可选的实施例中,该方法还包括:
对混合信号进行特征提取得到空间特征量;
根据空间特征量进行声波干涉分析,得到预定方向上的障碍物距离;
当障碍物距离小于距离阈值且障碍物识别结果为接近事件时,确定障碍物正在接近;
当障碍物距离小于距离阈值且障碍物识别结果为远离事件时,确定障碍物正在远离;
当障碍物距离大于距离阈值时,确定不存在障碍物。
在一个可选的实施例中,带通超声信号包括如下信号形式中的任意一种:带通噪声信号;单频/多频正弦信号;带通噪声信号和单频/多频正弦信号的组合信号。
根据本公开的第二方面,提供一种障碍物识别装置,该装置包括:
发生模块,被配置为通过声波发生器向预定方向发射带通超声信号;
接收模块,被配置为通过声波接收器接收混合信号,混合信号包括带通超声信号;
提取模块,被配置为对混合信号进行特征提取得到时间特征量;
识别模块,被配置为将时间特征量输入神经网络模型得到障碍物识别结果。
在一个可选的实施例中,时间特征量包括当前帧和/或历史帧之间的一阶时间差分值和/或N阶时间差分值,N为N≥2的正整数;
识别模块,被配置为将当前帧和/或历史帧之间的一阶时间差分值和/或N阶时间差分值输入神经网络模型,得到障碍物识别结果;障碍物识别结果包括:接近事件、远离事件、无事件中的任意一种。
在一个可选的实施例中,神经网络模型包括:
依次相连的三层全连接神经网络和输出层;
或,
依次相连的双层循环神经网络、一层所述全连接神经网络和所述输出层。
在一个可选的实施例中,提取模块,包括:
提取子模块,被配置为提取混合信号中的待处理信号;
转换子模块,被配置为将待处理信号中的历史帧和当前帧进行频域转换得到频域信号,上述历史帧和当前帧中每个声音帧的频域信号包括n个频域分量,n为正整数;
差分子模块,被配置为对当前帧中的n个频域分量和历史帧中的n个频域分量进行差分,计算得到频域时间差分值的一阶时间差分值和/或N阶时间差分值;
组合子模块,被配置为根据频域时间差分值的一阶时间差分值和/或N阶时间差分值得到时间特征量;
其中,历史帧包括位于当前帧之前的M个声音帧,M为正整数。
在一个可选的实施例中,差分子模块,被配置为对第i帧中的n个频域分量和第i-1帧中的n个频域分量进行差分,计算得到一阶时间差分值,i为i≤0的整数,其中,若i=0,则为当前帧的一阶时间差分值;对第i帧中的n个频域分量和第i-N帧中的n个频域分量进行差分,计算得到N阶时间差分值,N为N≤M+i的正整数,其中,若i=0,则为当前帧的N阶时间差分值。
在一个可选的实施例中,提取子模块,被配置为将混合信号进行滤波处理,得到滤波后的声音信号;根据滤波后的声音信号得到待处理信号。
在一个可选的实施例中,提取子模块,被配置为将滤波后的声音信号进行移频处理,得到移频后的声音信号;将移频后的声音信号进行降采样处理,将降采样后的声音信号确定为待处理信号。
在一个可选的实施例中,该装置还包括:
提取模块,被配置为对混合信号进行特征提取得到空间特征量;
计算模块,被配置为根据空间特征量进行声波干涉分析,得到所述预定方向上的障碍物距离;
识别模块,被配置为当障碍物距离小于距离阈值且障碍物识别结果为接近事件时,确定障碍物正在接近;当障碍物距离小于距离阈值且障碍物识别结果为远离事件时,确定障碍物正在远离;当障碍物距离大于距离阈值时,确定不存在障碍物。
在一个可选的实施例中,带通超声信号包括如下信号形式中的任意一种:带通噪声信号;单频/多频正弦信号;带通噪声信号和单频/多频正弦信号的组合信号。
根据本公开的第三方面,提供一种障碍物识别装置,该装置包括:
处理器;用于存储处理器可执行指令的存储器;
其中,可执行指令被处理器加载并执行以实现如上第一方面所述的障碍物识别方法。
根据本公开的第四方面,提供一种计算机可读存储介质,所述可读存储介质中存储有至少一条指令,所述至少一条指令被处理器加载并执行以实现如上第一方面所述的障碍物识别方法。
本申请实施例提供的技术方案带来的有益效果至少包括:
通过声波发生器向预定方向发射带通超声信号,声波接收器接收混合信号,对混合信号进行特征提取得到时间特征量,最终将时间特征量输入神经网络模型得到障碍物识别结果,实现了利用声波对障碍物移动状态的判别;当终端的前面板不设置距离传感器时,可以通过该方案对障碍物进行识别。
附图说明
为了更清楚地说明本申请实施例中的技术方案,下面将对实施例描述中所需要使用的附图作简单地介绍,显而易见地,下面描述中的附图仅仅是本申请的一些实施例,对于本领域普通技术人员来讲,在不付出创造性劳动的前提下,还可以根据这些附图获得其他的附图。
图1是本申请一个示例性的实施例提供的一种终端的框图;
图2是本申请一个示例性实施例提供的距离测量方法的流程图;
图3是本申请另一个示例性实施例提供的距离测量方法的流程图;
图4是本申请另一个示例性实施例提供的距离测量方法的流程图;
图5是本申请另一个示例性实施例提供的距离测量方法的流程图;
图6是本申请另一个示例性实施例提供的距离测量方法的流程图;
图7是本申请另一个示例性实施例提供的距离测量方法的流程图;
图8是本申请另一个示例性实施例提供的距离测量方法的流程图;
图9是本申请另一个示例性的实施例提供的距离测量方法的流程图;
图10是本申请另一个示例性的实施例提供的距离测量方法的流程图;
图11是本申请另一个示例性的实施例提供的距离测量方法的流程图;
图12是本申请一个示例性实施例提供的距离测量方法的频谱示意图;
图13是本申请一个示例性的实施例提供的距离测量装置的框图;
图14是本申请另一个示例性的实施例提供的距离测量装置的框图。
具体实施方式
为使本申请的目的、技术方案和优点更加清楚,下面将结合附图对本申请实施方式作进一步地详细描述。
图1是本申请一个示例性的实施例提供的一种终端的框图,该终端包括:声波发生器101、声波接收器102、处理器103和存储器104。
声波发生器101被配置为输出声音信号。示意性的,声波发生器101的组成参考图2,声波发生器101包括信号激励器11、数模转换器(Digital Analog Converter,DAC)12和信号发射器13,信号发射器13包括但不限于喇叭、听筒和超声波发射器中的至少一种。信号激励器11中的激励器14生成噪声信号,噪声信号通过带通滤波器15滤除掉可听波频段和次声波频段,得到带通超声信号;带通超声信号经过DAC12由数字信号转换为模拟信号;最终经由信号发射器13向外界发射上述模拟信号。
可选地,激励器14也可以生成如下形式的信号中的任意一种:单频/多频正弦信号;噪声信号和单频/多频正弦信号的组合信号。
声波接收器102被配置为输入声音信号。示意性的,声波接收器102的组成参考图3,声波接收器102包括信号接收器16和模数转换器(Analog Digital Converter,ADC)17,信号接收器16包括但不限于麦克风。信号接收器16接收声波发生器101发射后直接传入声波接收器102的声音信号、声波发生器101发射后经过障碍物反射后传入声波接收器102的声音信号和环境噪音的混合信号;上述混合信号经过ADC17由模拟信号转换为数字信号;最后,上述数字信号被输入处理器103中。
处理器103通常控制装置的整体操作,处理器103可以包括一个或多个部件来执行指令,以完成上述的方法的全部或部分步骤。此外,处理器103可以包括一个或多个模块,便于处理器103和其他器件之间的交互以及处理器103中模块和/或部件之间的信息交流。示意性的,参考图4和图5,处理器103中可以包括滤波器21、移频器22、降采样单元23、频域变换器24、频域位置差分单元25、延迟单元26、频域时间差分单元27和特征量组合单元28,事件识别单元31、距离计算单元32和综合识别单元33,上述部分通过硬件和/或软件的结合组成了分析器200和识别器300,以实现障碍物识别方法的部分步骤。
可选地,上述频域位置差分单元25、特征量组合单元28、距离计算单元32和综合识别单元33是可选部件。
存储器104被配置为存储各种类型的数据以支持在上述装置的操作。这些数据的示例包括任何应用程序或方法的指令,联系人数据,电话簿数据,消息,图片,视频等。存储器104可以由任何类型的易失性或非易失性存储设备或者它们的组合实现,如静态随机存取存储器(SRAM),电可擦除可编程只读存储器(EEPROM),可擦除可编程只读存储器(EPROM),可编程只读存储器(PROM),只读存储器(ROM),磁存储器,快闪存储器,磁盘或光盘。
图6是本申请另一个示例性的实施例提供的障碍物识别方法的流程图,本实施例中以该方法应用于图1所示的终端为例进行说明,该方法包括:
步骤201,通过声波发生器向预定方向发射带通超声信号。
可选地,终端中的声波发生器包括信号激励器、带通滤波器、DAC和信号发射器。终端通过信号激励器中的激励器生成数字形式的噪声信号,噪声信号通过带通滤波器滤除可听波频段和次声波频段,得到带通超声信号;带通超声信号经过DAC由数字信号转换为模拟信号;最终经由信号发射器向预定方向发射上述模拟信号,也即声波形式的带通超声信号。
示意性的,预定方向为前面板朝向的任一方向。其中,带通超声信号包括如下信号形式中的任意一种:带通噪声信号;单频/多频正弦信号;带通噪声信号和单频/多频正弦信号的组合信号。
步骤202,通过声波接收器接收混合信号,混合信号包括带通超声信号。
终端中的声波接收器包括信号接收器和ADC。终端通过信号接收器接收混合信号,其中,混合信号包括声波发生器发射后直接传入声波接收器的声音信号、声波发生器发射后经过障碍物反射后传入声波接收器的声音信号和环境噪音;混合信号经过ADC由模拟信号转换为数字信号;最后,上述数字信号被输入处理器中。
步骤203,对混合信号进行特征提取得到时间特征量。
可选地,终端对混合信号进行特征提取得到时间特征量的过程包括如下步骤:
终端提取混合信号中的待处理信号;将待处理信号中的历史帧和当前帧进行频域转换得到频域信号,上述历史帧和当前帧中每个声音帧的频域信号包括n个频域分量,n为正整数;对当前帧中的n个频域分量和历史帧中的n个频域分量进行差分,计算得到频域时间差分值的一阶时间差分值和/或N阶时间差分值;根据频域时间差分值的一阶时间差分值和/或N阶时间差分值得到时间特征量;其中,历史帧包括位于当前帧之前的M个声音帧,M为正整数。
可选地,终端提取混合信号中的待处理信号时,还包括如下步骤:
终端将混合信号进行滤波处理,得到滤波后的声音信号;根据滤波后的声音信号得到待处理信号。该滤波处理用于滤除混合信号中的可听波频段和次声波频段。该滤波处理可以由滤波器执行。
终端将滤波后的声音信号进行移频处理,得到移频后的声音信号;将移频后的声音信号进行降采样处理,将降采样后的声音信号确定为待处理信号。该移频处理可以由移频器执行,该降采样处理可以由降采样单元执行。
可选的,频率转换的方式包括但不限于:傅里叶变换、余弦变换和Z变换中的至少一种。
可选的,对当前帧中的n个频域分量和历史帧中的n个频域分量进行差分,计算得到频域时间差分值的一阶时间差分值和/或N阶时间差分值,包括以下步骤:
对第i帧中的n个频域分量和第i-1帧中的n个频域分量进行差分,计算得到一阶时间差分值,i为i≤0的整数,其中,若i=0,则为当前帧的一阶时间差分值;
和/或,对第i帧中的n个频域分量和第i-N帧中的n个频域分量进行差分,计算得到N阶时间差分值,N为N≤M+i的正整数,其中,若i=0,则为当前帧的N阶时间差分值。
终端中的处理器对混合信号进行特征提取得到空间特征量。该步骤由处理器中的分析器执行,示意性的,在步骤202中得到混合信号即数字信号W,将数字信号W输入滤波器,滤波器对数字信号W进行滤波,滤除声波发生器发射的带通超声信号的频率范围之外的环境噪声,得到滤波后的声音信号Wfilt;滤波后的声音信号Wfilt经过移频器的移频得到移频后的声音信号Wshift;降采样单元对移频后的声音信号Wshift进行降采样,得到降采样后的声音信号Wdownmix;将降采样后的声音信号Wdownmix由频域变换器按帧进行频域变换,根据变换后的声音信号F求得声音信号的n个频域分量,再计算得到各频域分量的能量值Fpow;频域位置差分单元将上述能量值Fpow与预录制的无障碍物接近时的频域分量的能量值Frawpow进行差分,得到当前帧的频域位置差分值Fposdiff;确定当前帧的频域位置差分值Fposdiff为空间特征值Ppos;同时,延迟单元对当前帧至过去M帧的频域分量的能量值Fpow 0...Fpow -M进行保存;频域时间差分单元根据当前帧至过去M帧的频域分量的能量值Fpow 0...Fpow -M进行差分计算得到频域时间差分值Ftimediff;特征量组合单元将上述得到的频域位置差分值Fposdiff和频域时间差分值Ftimediff进行组合,得到时间特征量Ptime
可选的,将频域时间差分值Ftimediff确定为时间特征量Ptime
步骤204,将时间特征量输入神经网络模型得到障碍物识别结果。
终端将时间特征量Ptime输入神经网络模型得到障碍物识别结果,该识别结果包括:接近事件、远离事件、无事件中的任一种。
可选地,该神经网络模型是预先通过多个样本进行训练得到的。该样本包括不同障碍物接近/远离终端时所采集到的样本时间特征量以及对应的样本事件,该样本事件包括接近事件、远离事件、无事件中的任意一种。该样本还包括:无障碍物接近终端时所采集到的样本时间特征量以及对应的样本事件。
示意性的,参考图7和图8,上述神经网络模型可以如图7所示,神经网络模型包括:全连接层41、全连接层42、全连接层43共三层全神经网络和输出层(softmax层)44;上述神经网络模型也可以如图8所示,神经网络模型包括:双层循环神经网络(Multi-RecurrentNeural Network Core,Multi-RNN Core),全连接神经网络47和输出层(softmax层)48,Multi-RNN Core包括两层门循环单元(Gated Recurrent Unit Core,GRU Core):GRU Core1层和GRU Core 2层。终端通过上述神经网络模型对时间特征量不断的进行特征提取、分析、识别,最终得到识别结果。
特别的,上述神经网络模型包括但不限于图7和图8任一所示的神经网络模型。
综上所述,本实施例提供的障碍物识别方法,通过声波发生器向预定方向发射带通超声信号,声波接收器接收混合信号,对混合信号进行特征提取得到时间特征量,最终将时间特征量输入神经网络模型得到障碍物识别结果,实现了利用声波对障碍物移动状态的判别;当终端的前面板不设置距离传感器时,可以通过该方案对障碍物进行识别。
基于图6所示的示例性实施例,图9和图10所示的示例性实施例对基于时间特征量实现障碍物识别方法进行了详细的阐释说明;图11所示的示例性实施例基于空间特征量和时间特征量同时实现障碍物识别方法进行了详细的阐释说明。
图9是本申请另一个示例性的实施例提供的障碍物识别方法的流程图,本实施例中以该方法应用于图1所示的终端为例进行说明,该方法包括:
步骤301,通过声波发生器向预定的方向发射带通超声信号。
终端中的声波发生器包括信号激励器、带通滤波器、DAC和信号发射器。终端通过信号激励器中的激励器生成数字形式的噪声信号,噪声信号通过带通滤波器滤除可听波频段和次声波频段,得到带通超声信号;带通超声信号经过DAC由数字信号转换为模拟信号;最终经由信号发射器向预定方向发射上述模拟信号,也即声波形式的带通超声信号。
示意性的,预定方向为前面板朝向的任一方向。其中,带通超声信号包括如下信号形式中的任意一种:带通噪声信号;单频/多频正弦信号;带通噪声信号和单频/多频正弦信号的组合信号。
步骤302,通过声波接收器接收混合信号,混合信号包括带通超声信号。
终端中的声波接收器包括信号接收器和ADC。终端通过信号接收器接收混合信号。其中,混合信号包括声波发生器发射后直接传入声波接收器的声音信号、声波发生器发射后经过障碍物反射后传入声波接收器的声音信号和环境噪音;混合信号经过ADC由模拟信号转换为数字信号W;最后,上述数字信号W被输入处理器中。
步骤303,提取混合信号中的待处理信号。
终端提取混合信号中的待处理信号,包括以下三种情况:
1、在环境噪声可忽略的条件下,终端将混合信号确定为待处理信号;
2、终端将滤波后的声音信号确定为待处理信号;
3、终端将降采样后的声音信号确定为待处理信号。
示意性的,在第二种情况下,终端将混合信号进行滤波处理,得到滤波后的声音信号;将滤波后的声音信号确定为待处理信号。
在第三种情况下,终端将混合信号进行滤波处理,得到滤波后的声音信号;将滤波后的声音信号进行移频处理,得到移频后的声音信号;将移频后的声音信号进行降采样处理,将降采样后的声音信号确定为待处理信号。
示意性的,该步骤由处理器中的分析器执行,在步骤302中得到混合信号即数字信号W,将数字信号W输入滤波器,滤波器对数字信号W进行滤波,滤除声波发生器发射的带通超声信号的频率范围之外的环境噪声,得到滤波后的声音信号Wfilt;滤波后的声音信号Wfilt经过移频器的移频得到移频后的声音信号Wshift,公式如下所示:
r=2*pi*(0:n)/fs;
b=(f0-ft)*r;
Wshift=Wfilt*exp(-j*b);
其中,f0为原频率,ft为目标频率,r为声音信号的相位值,pi为圆周率,fs为采样率;降采样单元对移频后的声音信号Wshift进行降采样,得到降采样后的声音信号Wdownmix
步骤304,将待处理信号中的历史帧和当前帧进行频域转换得到频域信号,历史帧和当前帧中每个声音帧的频域信号包括n个频域分量,n为正整数。
终端将待处理信号中的历史帧和当前帧进行频域转换得到频域信号,历史帧和当前帧中每个声音帧的频域信号包括n个频域分量,n为正整数。
可选的,频域转换的方式包括但不限于:傅里叶变换、余弦变换和Z变换中的至少一种。
该步骤由处理器中的分析器执行,示意性的,将降采样后的声音信号Wdownmix按帧进行频域变换,得到变换后的声音信号F,公式表示为:
F(1...n)=FT(Wdownmix(t=-(n-1)...0));
其中,FT表示频域转换方式,此处设频域变换后的频域分辨率为n,即每帧的F包含F(1)…F(n)的n个频率分量。
可选的,当在环境噪声可以忽略的情况下,可以将待处理信号确定为数字信号W,则将数字信号W按帧进行频域变换,得到变换后的声音信号F,公式表示为:
F(1...n)=FT(W(t=-(n-1)...0));
可选的,终端将滤波后的声音信号Wfilt确认为待处理信号,则将滤波后的声音信号Wfilt按帧进行频域变换,得到变换后的声音信号F,公式表示为:
F(1...n)=FT(Wfilt(t=-(n-1)...0))。
终端将待处理信号中的当前帧进行频域转换后,还包括根据频域变换后的声音信号F求上述的n个频率分量的能量值Fpow,公式表示为:
Fpow(1...n)=RMS(F(1...n))。
步骤305,对当前帧中的n个频域分量和历史帧的n个频域分量进行差分,计算得到频域时间差分值的一阶时间差分值和/或N阶时间差分值。
终端对当前帧中的n个频域分量和历史帧的n个频域分量进行差分,计算得到频域时间差分值的一阶时间差分值和/或N阶时间差分值,包括以下步骤:
对第i帧中的n个频域分量和第i-1帧中的n个频域分量进行差分,计算得到所述一阶时间差分值,i为i≤0的整数,其中,若i=0,则为当前帧的一阶时间差分值;对第i帧中的n个频域分量和第i-N帧中的n个频域分量进行差分,计算得到N阶时间差分值,N为N≤M+i的正整数,其中,若i=0,则为当前帧的N阶时间差分值。
该步骤由处理器中的分析器执行,示意性的,终端对当前帧至过去M帧的频域分量的能量值Fpow 0...Fpow -M进行保存,M为正整数;对第i帧中的n个频域分量和第i-1帧中的n个频域分量进行差分,计算得到所述一阶时间差分值,i为i≤0的整数,公式如下所示:
Ftimediff 1=Fpow(t=i)-Fpow(t=i-1),
上述公式表示第i帧的一阶频域时间差分值;
对第i帧中的n个频域分量和第i-N帧中的n个频域分量进行差分,计算得到N阶时间差分值,N为N≤M+i的正整数,公式如下所示:
Ftimediff N=Fpow(t=i)-Fpow(t=i-N),
上述公式表示第i帧的N阶频域时间差分值;其中,若i=0时,为当前帧的一阶频域时间差分值Ftimediff 1和N阶频域时间差分值Ftimediff N
同时,终端将n个频域分量与n个参考频域分量进行差分,将得到的n个频域位置差分值确定为当前帧的空间特征量。
该步骤由处理器中的分析器执行,示意性的,预录制无物体接近时的n个频域分量作为参考频域分量,计算得到参考频域分量的能量值Drawpow;对步骤304中求得的频率分量的能量值Fpow与参考频域分量的能量值Drawpow进行差分得到当前帧的频域位置差分值Fposdiff,公式如下所示:
Fposdiff(1...n)=Frawpow(1...n)-Fpow(1...n);
上述频域位置差分值Fposdiff即为空间特征量Ppos,公式表示为:
Ppos=Fposdiff
步骤306,根据频域时间差分值的一阶时间差分值和/或N阶时间差分值得到时间特征量。
终端根据频域时间差分值的一阶时间差分值和/或N阶时间差分值得到时间特征量,即将频域时间差分值Ftimediff确定为时间特征量Ptime
可选的,终端根据频域位置差分值、频域时间差分值的一阶时间差分值和/或N阶时间差分值得到时间特征量,将频域时间差分值Ftimediff和频域位置差分值Fposdiff进行组合得到时间特征量Ptime,其中,时间特征量有两种形式Ptime,如下所示:
形式1:Ptimeinclude(Ftimediff 1(t=0...-M)&Fposdiff);
形式2:Ptimeinclude(Ftimediff (1...N)(t=0)&Fposdiff)。
步骤307,将当前帧和/或历史帧之间的一阶时间差值和/或N阶时间差值输入神经网络模型,得到障碍物识别结果。
终端将当前帧和/或历史帧之间的一阶时间差值和/或N阶时间差值Ftimediff作为时间特征量Ptime输入到神经网络模型,得到障碍物识别结果,该识别结果包括:接近事件、远离事件、无事件中的任一种。
或,终端将频域时间差分值Ftimediff和频域位置差分值Fposdiff进行组合的时间特征量作为时间特征量Ptime输入到神经网络模型,得到障碍物识别结果,该识别结果包括:接近事件、远离事件、无事件中的任一种。
可选地,该神经网络模型是预先通过多个样本进行训练得到的。该样本包括不同障碍物接近/远离终端时所采集到的样本时间特征量以及对应的样本事件,该样本事件包括接近事件、远离事件、无事件中的任意一种。该样本还包括:无障碍物接近终端时所采集到的样本时间特征量以及对应的样本事件。
综上所述,本实施例提供的障碍物识别方法,通过声波发生器向预定方向发射带通超声信号,声波接收器接收混合信号,对混合信号进行特征提取得到时间特征量,最终将时间特征量输入神经网络模型得到障碍物识别结果,实现了利用声波对障碍物移动状态的判别;当终端的前面板不设置距离传感器时,可以通过该方案对障碍物进行识别。另外,该方法通过获得组合时间特征量进行障碍物识别,提高了识别结果的准确性。
本实施例提供的方法,通过对一阶时间差分值和/或N阶时间差分值的应用,为神经网络提供了有效的特征量。
图10是本申请另一个示例性的实施例提供的距离测量方法的流程图,本实施例中以该方法应用于图1所示的终端为例进行说明,该方法包括:
步骤401,通过声波发生器向预定的方向发射带通超声信号。
终端中的声波发生器包括信号激励器、带通滤波器、DAC和信号发射器。终端通过信号激励器中的激励器生成数字形式的噪声信号,噪声信号通过带通滤波器滤除可听波频段和次声波频段,得到带通超声信号;带通超声信号经过DAC由数字信号转换为模拟信号;最终经由信号发射器向预定方向发射上述模拟信号,也即声波形式的带通超声信号。
预定方向为前面板朝向的任一方向。其中,带通超声信号包括如下信号形式中的任意一种:带通噪声信号;单频/多频正弦信号;带通噪声信号和单频/多频正弦信号的组合信号。
步骤402,通过声波接收器接收混合信号,混合信号包括带通超声信号。
终端中的声波接收器包括信号接收器和ADC。终端通过信号接收器接收混合信号。其中,混合信号包括声波发生器发射后直接传入声波接收器的声音信号、声波发生器发射后经过障碍物反射后传入声波接收器的声音信号和环境噪音;混合信号经过ADC由模拟信号转换为数字信号W;最后,上述数字信号W被输入处理器中。
步骤403,将混合信号进行滤波处理,得到滤波后的声音信号。
终端将所述混合信号进行滤波处理,得到滤波后的声音信号。
该步骤由处理器中的分析器执行,示意性的,在步骤402中得到混合信号即数字信号W,将数字信号W输入滤波器,滤波器对数字信号W进行滤波,滤除声波发生器发射的带通超声信号的频率范围之外的环境噪声,得到滤波后的声音信号Wfilt
步骤404,将滤波后的声音信号进行移频处理,得到移频后的声音信号。
终端将滤波后的声音信号进行移频处理,得到移频后的声音信号。
该步骤由处理器中的分析器执行,示意性的,滤波后的声音信号Wfilt经过移频器的移频得到移频后的声音信号Wshift,公式如下所示:
r=2*pi*(0:n)/fs;
b=(f0-ft)*r;
Wshift=Wfilt*exp(-j*b);
其中,f0为原频率,ft为目标频率,r为声音信号的相位值,pi为圆周率,fs为采样率。
步骤405,将移频后的声音信号进行降采样处理,将降采样后的声音信号确定为待处理信号。
降采样单元对移频后的声音信号Wshift进行降采样,得到降采样后的声音信号Wdownmix,将降采样后的声音信号Wdownmix确定为待处理信号。
步骤406,将待处理信号中的历史帧和当前帧进行频域转换得到频域信号,历史帧和当前帧中每个声音帧的频域信号包括n个频域分量,n为正整数。
终端将待处理信号中的历史帧和当前帧进行频域转换得到频域信号,历史帧和当前帧中每个声音帧的频域信号包括n个频域分量,n为正整数。
可选的,频域转换的方式包括但不限于:傅里叶变换、余弦变换和Z变换中的至少一种。
该步骤由处理器中的分析器执行,示意性的,将降采样后的声音信号Wdownmix按帧进行频域变换,得到变换后的声音信号F,公式表示为:
F(1...n)=FT(Wdownmix(t=-(n-1)...0));
其中,FT表示频域转换方式,此处设频域变换后的频域分辨率为n,即每帧的F包含F(1)…F(n)的n个频率分量。
终端将待处理信号中的当前帧进行频域转换后,还包括根据频域变换后的声音信号F求上述的n个频率分量的能量值Fpow,公式表示为:
Fpow(1...n)=RMS(F(1...n))。
步骤407,对第i帧中的n个频域分量和第i-1帧中的n个频域分量进行差分,计算得到所述一阶时间差分值;对第i帧中的n个频域分量和第i-N帧中的n个频域分量进行差分,计算得到N阶时间差分值。
该步骤由处理器中的分析器执行,示意性的,终端对当前帧至过去M帧的频域分量的能量值Fpow 0...Fpow -M进行保存,M为正整数;对第i帧中的n个频域分量和第i-1帧中的n个频域分量进行差分,计算得到所述一阶时间差分值,i为i≤0的整数,公式如下所示:
Ftimediff 1=Fpow(t=i)-Fpow(t=i-1),
上述公式表示第i帧的一阶频域时间差分值;
对第i帧中的n个频域分量和第i-N帧中的n个频域分量进行差分,计算得到N阶时间差分值,N为N≤M+i的正整数,公式如下所示:
Ftimediff N=Fpow(t=i)-Fpow(t=i-N),
上述公式表示第i帧的N阶频域时间差分值;其中,若i=0时,为当前帧的一阶频域时间差分值Ftimediff 1和N阶频域时间差分值Ftimediff N
同时,终端将n个频域分量与n个参考频域分量进行差分,将得到的n个频域位置差分值确定为当前帧的空间特征量。
该步骤由处理器中的分析器执行,示意性的,预录制无物体接近时的n个频域分量作为参考频域分量,计算得到参考频域分量的能量值Drawpow;对步骤304中求得的频率分量的能量值Fpow与参考频域分量的能量值Drawpow进行差分得到当前帧的频域位置差分值Fposdiff,公式如下所示:
Fposdiff(1...n)=Frawpow(1...n)-Fpow(1...n);
上述频域位置差分值Fposdiff即为空间特征量Ppos,公式表示为:
Ppos=Fposdiff
步骤408,根据频域时间差分值的一阶时间差分值和/或N阶时间差分值得到时间特征量。
终端根据频域时间差分值的一阶时间差分值和/或N阶时间差分值得到时间特征量,即将频域时间差分值Ftimediff确定为时间特征量Ptime
可选的,终端根据频域位置差分值、频域时间差分值的一阶时间差分值和/或N阶时间差分值得到时间特征量,将频域时间差分值Ftimediff和频域位置差分值Fposdiff进行组合得到时间特征量Ptime,其中,时间特征量有两种形式Ptime,如下所示:
形式1:Ptimeinclude(Ftimediff 1(t=0...-M)&Fposdiff);
形式2:Ptimeinclude(Ftimediff (1...N)(t=0)&Fposdiff)。
步骤409,将当前帧和/或历史帧之间的一阶时间差值和/或N阶时间差值输入神经网络模型,得到障碍物识别结果。
终端将当前帧和/或历史帧之间的一阶时间差值和/或N阶时间差值Ftimediff作为时间特征量Ptime输入到神经网络模型,得到障碍物识别结果,该识别结果包括:接近事件、远离事件、无事件中的任一种。
或,终端将频域时间差分值Ftimediff和频域位置差分值Fposdiff进行组合的时间特征量作为时间特征量Ptime输入到神经网络模型,得到障碍物识别结果,该识别结果包括:接近事件、远离事件、无事件中的任一种。
可选地,该神经网络模型是预先通过多个样本进行训练得到的。该样本包括不同障碍物接近/远离终端时所采集到的样本时间特征量以及对应的样本事件,该样本事件包括接近事件、远离事件、无事件中的任意一种。该样本还包括:无障碍物接近终端时所采集到的样本时间特征量以及对应的样本事件。
综上所述,本实施例提供的障碍物识别方法,通过声波发生器向预定方向发射带通超声信号,声波接收器接收混合信号,对混合信号进行特征提取得到时间特征量,最终将时间特征量输入神经网络模型得到障碍物识别结果,实现了利用声波对障碍物移动状态的判别;当终端的前面板不设置距离传感器时,可以通过该方案对障碍物进行识别。另外,该方法通过获得组合时间特征量进行障碍物识别,提高了识别结果的准确性。
本实施例提供的方法,通过对一阶时间差分值和/或N阶时间差分值的应用,为神经网络提供了有效的特征量;还通过对混合信号进行滤波处理滤除了冗杂的噪声信号,移频和降采频处理,减少了数据量,简化计算。
图11是本申请另一个示例性的实施例提供的距离测量方法的流程图,本实施例中以该方法应用于图1所示的终端为例进行说明,该方法包括:
步骤501,通过声波发生器向预定的方向发射带通超声信号。
终端中的声波发生器包括信号激励器、带通滤波器、DAC和信号发射器。终端通过信号激励器中的激励器生成数字形式的噪声信号,噪声信号通过带通滤波器滤除可听波频段和次声波频段,得到带通超声信号;带通超声信号经过DAC由数字信号转换为模拟信号;最终经由信号发射器向预定方向发射上述模拟信号,也即声波形式的带通超声信号。
预定方向为前面板朝向的任一方向。其中,带通超声信号包括如下信号形式中的任意一种:带通噪声信号;单频/多频正弦信号;带通噪声信号和单频/多频正弦信号的组合信号。
步骤502,通过声波接收器接收混合信号,混合信号包括带通超声信号。
终端中的声波接收器包括信号接收器和ADC。终端通过信号接收器接收混合信号。其中,混合信号包括声波发生器发射后直接传入声波接收器的声音信号、声波发生器发射后经过障碍物反射后传入声波接收器的声音信号和环境噪音;混合信号经过ADC由模拟信号转换为数字信号W;最后,上述数字信号W被输入处理器中。
步骤503,对混合信号进行特征提取得到空间特征量和时间特征量。
终端对混合信号进行特征提取得到时间特征量,包括如下步骤:
终端提取混合信号中的待处理信号;将待处理信号中的历史帧和当前帧进行频域转换得到频域信号,上述历史帧和当前帧中每个声音帧的频域信号包括n个频域分量,n为正整数;对当前帧中的n个频域分量和历史帧中的n个频域分量进行差分,计算得到频域时间差分值的一阶时间差分值和/或N阶时间差分值;根据频域时间差分值的一阶时间差分值和/或N阶时间差分值得到时间特征量;其中,历史帧包括位于当前帧之前的M个声音帧,M为正整数。
可选地,终端提取混合信号中的待处理信号时,还包括如下步骤:
终端将混合信号进行滤波处理,得到滤波后的声音信号;根据滤波后的声音信号得到待处理信号。该滤波处理用于滤除混合信号中的可听波频段和次声波频段。该滤波处理可以由滤波器执行。
终端将滤波后的声音信号进行移频处理,得到移频后的声音信号;将移频后的声音信号进行降采样处理,将降采样后的声音信号确定为待处理信号。该移频处理可以由移频器执行,该降采样处理可以由降采样单元执行。
可选的,频率转换的方式包括但不限于:傅里叶变换、余弦变换和Z变换中的至少一种。
可选的,对当前帧中的n个频域分量和历史帧中的n个频域分量进行差分,计算得到频域时间差分值的一阶时间差分值和/或N阶时间差分值包括以下步骤:
对第i帧中的n个频域分量和第i-1帧中的n个频域分量进行差分,计算得到所述一阶时间差分值,i为i≤0的整数,其中,若i=0,则为当前帧的一阶时间差分值;对第i帧中的n个频域分量和第i-N帧中的n个频域分量进行差分,计算得到N阶时间差分值,N为N≤M+i的正整数,其中,若i=0,则为当前帧的N阶时间差分值。
同时,终端对混合信号进行特征提取得到空间特征量。
该步骤由处理器中的分析器执行,示意性的,时间特征量的提取参考图9所示过程中的步骤304、步骤305和步骤306;空间特征量的提取参考图9所示过程中的步骤304和步骤305。
步骤504,将时间特征量输入神经网络模型得到障碍物识别结果。
终端将时间特征量输入神经网络模型得到障碍物识别结果,障碍物识别结果包括接近事件、远离事件、无事件中的任意一种。
可选地,该神经网络模型是预先通过多个样本进行训练得到的。该样本包括不同障碍物接近/远离终端时所采集到的样本时间特征量以及对应的样本事件,该样本事件包括接近事件、远离事件、无事件中的任意一种。该样本还包括:无障碍物接近终端时所采集到的样本时间特征量以及对应的样本事件。
步骤505,根据空间特征量进行声波干涉分析,得到预定方向上的障碍物距离。
终端根据空间特征量进行声波干涉分析,得到预定方向上的障碍物距离,包括以下步骤:
终端计算当前帧的各个频率位置差分值的第一平均值;在当前帧的各个频率分量中,确定频率分量的能量值比第一平均值低预设能量值以上的目标频率分量;将目标频率分量确定为当前帧中位于干涉位置的至少两个频域分量;根据至少两个频域分量中相邻频域分量的频率值之差,计算相邻频域分量的频率间隔;根据相邻频域分量的频域间隔,计算得到预定方向上的障碍物距离。
该步骤由处理器中的识别器执行,示意性的,根据空间特征值Ppos计算各频域分量的能量值的平均值T,公式如下所示:
T=average(Fposdiff(1...n)),
该平均值T即为第一平均值;根据第一平均值确定频率分量的能量值Fpow比第一平均值低预设能量值R以上的目标频率分量,标记为当前帧的干涉位置Pitf,上述过程采用如下代码:
根据当前帧的干涉位置Pitf上的各频率分量获取各频率分量的频率值;计算相邻频率分量之间的频率值之差;对上述频率值之差求第二平均值,第二平均值即为频率间隔Finterval,上述过程采用如下代码:
值即为频率间隔
参考图12所示的各频率值在不同相对距离下的干涉结果示意图。颜色越亮表示能量越强,越暗表示能量越弱。在某一特定相对距离下,不同频率的干涉结果将会出现能量强弱交替出现的情况,即干涉条纹。且不同距离下的干涉条纹间距不同,干涉条纹间距和相对距离为一一对应的关系。
所以通过计算干涉条纹的间距,即相邻2个干涉位置(图上深色位置)频率差Finterval即可求得相对距离Dinterval,公式如下所示:
Dinterval=SoundSpeed/(Finterval*2);
将声速SoundSpeed除以两倍的第二平均值得到的相除结果为相对距离,相对距离即为预定方向上的障碍物距离Dinterval
步骤506,根据障碍物距离和障碍物识别结果判断障碍物移动状态。
终端根据障碍物距离和障碍物识别结果判断障碍物移动状态。可选地,终端判断障碍物距离是否小于距离阈值,根据障碍物距离与距离阈值之间的大小关系以及障碍物识别结果的结果类型判断障碍物移动状态。
可选地,距离阈值为终端识别障碍物的最大有效距离,当终端与障碍物之间的距离大于距离阈值时,则障碍物不存在;
当终端与障碍物之间的距离小于距离阈值时,则障碍物存在,根据障碍物识别结果判断障碍物的移送状态。
当障碍物距离小于距离阈值且障碍物识别结果为接近事件时,进入步骤507;
当障碍物距离小于距离阈值且障碍物识别结果为远离事件时,进入步骤508;
当障碍物距离大于距离阈值时,进入步骤509。
步骤507,当障碍物距离小于距离阈值且障碍物识别结果为接近事件时,确定障碍物正在接近。
步骤508,当障碍物距离小于距离阈值且障碍物识别结果为远离事件时,确定障碍物正在远离。
步骤509,当障碍物距离大于距离阈值时,确定不存在障碍物。
综上所述,本实施例提供的障碍物识别方法,通过声波发生器向预定方向发射带通超声信号,声波接收器接收混合信号,对混合信号进行特征提取得到时间特征量,最终将时间特征量输入神经网络模型得到障碍物识别结果,实现了利用声波对障碍物移动状态的判别;当终端的前面板不设置距离传感器时,可以通过该方案对障碍物进行识别。
本实施例提供的方法,根据时间特征量与空间特征量的结合准确的得出了障碍物是否存在,以及障碍物接近/远离的移动状态。
图13是本申请一个示例性的实施例提供的距离测量装置的框图。该装置可以通过软件、硬件或者两者的结合实现成为电子设备的全部或一部分,所述装置包括:
发生模块601,被配置为通过声波发生器向预定方向发射带通超声信号;
接收模块602,被配置为通过声波接收器接收混合信号,混合信号包括带通超声信号;
提取模块603,被配置为对混合信号进行特征提取得到时间特征量;
识别模块604,被配置为将时间特征量输入神经网络模型得到障碍物识别结果。
在一个可选的实施例中,时间特征量包括当前帧和/或历史帧之间的一阶时间差分值和/或N阶时间差分值,N为N≥2的正整数;
识别模块604,被配置为将当前帧和/或历史帧之间的一阶时间差分值和/或N阶时间差分值输入神经网络模型,得到障碍物识别结果;障碍物识别结果包括:接近事件、远离事件、无事件中的任意一种。
在一个可选的实施例中,神经网络模型包括:
依次相连的三层全连接神经网络和输出层;
或,
依次相连的双层循环神经网络、一层所述全连接神经网络和所述输出层。
在一个可选的实施例中,提取模块603,包括:
提取子模块61,被配置为提取混合信号中的待处理信号;
转换子模块62,被配置为将待处理信号中的历史帧和当前帧进行频域转换得到频域信号,上述历史帧和当前帧中每个声音帧的频域信号包括n个频域分量,n为正整数;
差分子模块63,被配置为对当前帧中的n个频域分量和历史帧中的n个频域分量进行差分,计算得到频域时间差分值的一阶时间差分值和/或N阶时间差分值;
组合子模块64,被配置为根据频域时间差分值的一阶时间差分值和/或N阶时间差分值得到时间特征量;
其中,历史帧包括位于当前帧之前的M个声音帧,M为正整数。
在一个可选的实施例中,差分子模块63,被配置为对第i帧中的n个频域分量和第i-1帧中的n个频域分量进行差分,计算得到一阶时间差分值,i为i≤0的整数,其中,若i=0,则为当前帧的一阶时间差分值;对第i帧中的n个频域分量和第i-N帧中的n个频域分量进行差分,计算得到N阶时间差分值,N为N≤M+i的正整数,其中,若i=0,则为当前帧的N阶时间差分值。
在一个可选的实施例中,提取子模块61,被配置为将混合信号进行滤波处理,得到滤波后的声音信号;根据滤波后的声音信号得到待处理信号。
在一个可选的实施例中,提取子模块61,被配置为将滤波后的声音信号进行移频处理,得到移频后的声音信号;将移频后的声音信号进行降采样处理,将降采样后的声音信号确定为待处理信号。
在一个可选的实施例中,该装置还包括:
提取模块603,被配置为对混合信号进行特征提取得到空间特征量;
计算模块605,被配置为根据空间特征量进行声波干涉分析,得到所述预定方向上的障碍物距离;
识别模块604,被配置为当障碍物距离小于距离阈值且障碍物识别结果为接近事件时,确定障碍物正在接近;当障碍物距离小于距离阈值且障碍物识别结果为远离事件时,确定障碍物正在远离;当障碍物距离大于距离阈值时,确定不存在障碍物。
在一个可选的实施例中,带通超声信号包括如下信号形式中的任意一种:带通噪声信号;单频/多频正弦信号;带通噪声信号和单频/多频正弦信号的组合信号。
综上所述,本实施例提供的障碍物识别装置,通过声波发生器向预定方向发射带通超声信号,声波接收器接收混合信号,对混合信号进行特征提取得到时间特征量,最终将时间特征量输入神经网络模型得到障碍物识别结果,实现了利用声波对障碍物移动状态的判别;当终端的前面板不设置距离传感器时,可以通过该方案对障碍物进行识别。另外,该方法通过时间特征量与空间特征量的结合准确的得出了障碍物是否存在,以及障碍物接近/远离的移动状态。
图14是本申请另一个示例性的实施例提供的距离测量装置的框图。例如,装置700可以是移动电话,计算机,数字广播终端,消息收发设备,游戏控制台,平板设备,医疗设备,健身设备,个人数字助理等。
参照图14,装置700可以包括以下一个或多个组件:处理组件702,存储器704,电源组件706,多媒体组件708,音频组件710,输入/输出(I/O)接口712,传感器组件714,以及通信组件716。
处理组件702通常控制装置700的整体操作,诸如与显示,电话呼叫,数据通信,相机操作和记录操作相关联的操作。处理组件702可以包括一个或多个处理器718来执行指令,以完成上述的方法的全部或部分步骤。此外,处理组件702可以包括一个或多个模块,便于处理组件702和其他组件之间的交互。例如,处理组件702可以包括多媒体模块,以方便多媒体组件708和处理组件702之间的交互。
存储器704被配置为存储各种类型的数据以支持在装置700的操作。这些数据的示例包括用于在装置700上操作的任何应用程序或方法的指令,联系人数据,电话簿数据,消息,图片,视频等。存储器704可以由任何类型的易失性或非易失性存储设备或者它们的组合实现,如静态随机存取存储器(SRAM),电可擦除可编程只读存储器(EEPROM),可擦除可编程只读存储器(EPROM),可编程只读存储器(PROM),只读存储器(ROM),磁存储器,快闪存储器,磁盘或光盘。
电源组件706为装置700的各种组件提供电力。电源组件706可以包括电源管理系统,一个或多个电源,及其他与为装置700生成、管理和分配电力相关联的组件。
多媒体组件708包括在装置700和用户之间的提供一个输出接口的屏幕。在一些实施例中,屏幕可以包括液晶显示器(LCD)和触摸面板(TP)。如果屏幕包括触摸面板,屏幕可以被实现为触摸屏,以接收来自用户的输入信号。触摸面板包括一个或多个触摸传感器以感测触摸、滑动和触摸面板上的手势。触摸传感器可以不仅感测触摸或滑动动作的边界,而且还检测与触摸或滑动操作相关的持续时间和压力。在一些实施例中,多媒体组件708包括一个前置摄像头和/或后置摄像头。当装置700处于操作模式,如拍摄模式或视频模式时,前置摄像头和/或后置摄像头可以接收外部的多媒体数据。每个前置摄像头和后置摄像头可以是一个固定的光学透镜系统或具有焦距和光学变焦能力。
音频组件710被配置为输出和/或输入音频信号。例如,音频组件710包括一个麦克风(MIC),当装置700处于操作模式,如呼叫模式、记录模式和语音识别模式时,麦克风被配置为接收外部音频信号。所接收的音频信号可以被进一步存储在存储器704或经由通信组件716发送。在一些实施例中,音频组件710还包括一个扬声器,用于输出音频信号。
I/O接口712为处理组件702和外围接口模块之间提供接口,上述外围接口模块可以是键盘,点击轮,按钮等。这些按钮可包括但不限于:主页按钮、音量按钮、启动按钮和锁定按钮。
传感器组件714包括一个或多个传感器,用于为装置700提供各个方面的状态评估。例如,传感器组件714可以检测到装置700的打开/关闭状态,组件的相对定位,例如组件为装置700的显示器和小键盘,传感器组件714还可以检测装置700或装置700一个组件的位置改变,用户与装置700接触的存在或不存在,装置700方位或加速/减速和装置700的温度变化。传感器组件714可以包括接近传感器,被配置用来在没有任何的物理接触时检测附近物体的存在。传感器组件714还可以包括光传感器,如CMOS或CCD图像传感器,用于在成像应用中使用。在一些实施例中,该传感器组件714还可以包括加速度传感器,陀螺仪传感器,磁传感器,压力传感器或温度传感器。
通信组件716被配置为便于装置700和其他设备之间有线或无线方式的通信。装置700可以接入基于通信标准的无线网络,如Wi-Fi,2G、3G或4G,或它们的组合。在一个示例性实施例中,通信组件716经由广播信道接收来自外部广播管理系统的广播信号或广播相关信息。在一个示例性实施例中,通信组件716还包括近场通信(NFC)模块,以促进短程通信。例如,在NFC模块可基于射频识别(RFID)技术,红外数据协会(IrDA)技术,超宽带(UWB)技术,蓝牙(BT)技术和其他技术来实现。
在示例性实施例中,装置700可以被一个或多个应用专用集成电路(ASIC)、数字信号处理器(DSP)、数字信号处理设备(DSPD)、可编程逻辑器件(PLD)、现场可编程门阵列(FPGA)、控制器、微控制器、微处理器或其他电子元件实现,用于执行上述障碍物识别方法。
在示例性实施例中,还提供了一种包括指令的非临时性计算机可读存储介质,例如包括指令的存储器704,上述指令可由装置700的处理器718执行以完成上述障碍物识别方法。例如,非临时性计算机可读存储介质可以是ROM、随机存取存储器(RAM)、CD-ROM、磁带、软盘和光数据存储设备等。
本领域技术人员在考虑说明书及实践这里公开的发明后,将容易想到本公开的其它实施方案。本申请旨在涵盖本公开的任何变型、用途或者适应性变化,这些变型、用途或者适应性变化遵循本公开的一般性原理并包括本公开未公开的本技术领域中的公知常识或惯用技术手段。说明书和实施例仅被视为示例性的,本公开的真正范围和精神由下面的权利要求指出。
应当理解的是,本公开并不局限于上面已经描述并在附图中示出的精确结构,并且可以在不脱离其范围进行各种修改和改变。本公开的范围仅由所附的权利要求来限制。

Claims (20)

1.一种障碍物识别方法,其特征在于,应用于设置有声波发生器和声波接收器的终端中,所述方法包括:
通过所述声波发生器向预定方向发射带通超声信号;
通过所述声波接收器接收混合信号,所述混合信号包括带通超声信号;
对所述混合信号进行特征提取得到时间特征量;
将所述时间特征量输入神经网络模型得到障碍物识别结果。
2.根据权利要求1所述的方法,其特征在于,所述时间特征量包括当前帧和/或历史帧之间的一阶时间差分值和/或N阶时间差分值,N为N≥2的正整数;
所述将所述时间特征量输入神经网络模型得到障碍物识别结果,包括:
将所述当前帧和/或历史帧之间的一阶时间差分值和/或N阶时间差分值输入所述神经网络模型,得到所述障碍物识别结果;所述障碍物识别结果包括:接近事件、远离事件、无事件中的任意一种。
3.根据权利要求2所述的方法,其特征在于,所述神经网络神经网络模型包括:
依次相连的三层全连接神经网络和输出层;
或,
依次相连的双层循环神经网络、一层所述全连接神经网络和所述输出层。
4.根据权利要求1至3任一所述的方法,其特征在于,所述对所述混合信号进行特征提取得到时间特征量,包括:
提取所述混合信号中的待处理信号;
将所述待处理信号中的历史帧和当前帧进行频域转换得到频域信号,所述历史帧和所述当前帧中每个声音帧的频域信号包括n个频域分量,n为正整数;
对所述当前帧中的n个频域分量和所述历史帧中的n个频域分量进行差分,计算得到频域时间差分值的一阶时间差分值和/或N阶时间差分值;
根据所述频域时间差分值的一阶时间差分值和/或N阶时间差分值得到所述时间特征量;
其中,所述历史帧包括位于所述当前帧之前的M个声音帧,M为正整数。
5.根据权利要求4所述的方法,其特征在于,所述对所述当前帧中的n个频域分量和所述历史帧中的n个频域分量进行差分,计算得到频域时间差分值的一阶时间差分值,包括:
对第i帧中的n个频域分量和第i-1帧中的n个频域分量进行差分,计算得到所述一阶时间差分值,i为i≤0的整数,其中,若i=0,则为所述当前帧的一阶时间差分值;
所述对所述当前帧中的n个频域分量和所述历史帧中的n个频域分量进行差分,计算得到所述频域时间差分值的N阶时间差分值,包括:
对所述第i帧中的n个频域分量和第i-N帧中的n个频域分量进行差分,计算得到所述N阶时间差分值,N为N≤M+i的正整数,其中,若i=0,则为所述当前帧的N阶时间差分值。
6.根据权利要求4所述的方法,其特征在于,所述提取所述混合信号中的待处理信号,包括:
将所述混合信号进行滤波处理,得到滤波后的声音信号;
根据所述滤波后的声音信号得到所述待处理信号。
7.根据权利要求6所述的方法,其特征在于,所述根据滤波后的声音信号得到所述待处理信号,包括:
将所述滤波后的声音信号进行移频处理,得到移频后的声音信号;
将所述移频后的声音信号进行降采样处理,将降采样后的声音信号确定为所述待处理信号。
8.根据权利要求1至5任一所述的方法,其特征在于,所述方法还包括:
对所述混合信号进行特征提取得到空间特征量;
根据所述空间特征量进行声波干涉分析,得到所述预定方向上的障碍物距离;
当所述障碍物距离小于距离阈值且所述障碍物识别结果为所述接近事件时,确定所述障碍物正在接近;
当所述障碍物距离小于距离阈值且所述障碍物识别结果为所述远离事件时,确定所述障碍物正在远离;
当所述障碍物距离大于距离阈值时,确定不存在障碍物。
9.根据权利要求1至8任一所述的方法,其特征在于,所述带通超声信号包括如下信号形式中的任意一种:
带通噪声信号;
单频/多频正弦信号;
所述带通噪声信号和所述单频/多频正弦信号的组合信号。
10.一种障碍物识别装置,其特征在于,所述装置包括:
发生模块,被配置为通过所述声波发生器向预定方向发射带通超声信号;
接收模块,被配置为通过所述声波接收器接收混合信号,所述混合信号包括带通超声信号;
提取模块,被配置为对所述混合信号进行特征提取得到时间特征量;
识别模块,被配置为将所述时间特征量输入神经网络模型得到障碍物识别结果。
11.根据权利要求10所述的装置,其特征在于,所述时间特征量包括当前帧和/或历史帧之间的一阶时间差分值和/或N阶时间差分值,N为N≥2的正整数;
所述识别模块,被配置为将所述当前帧和/或历史帧之间的一阶时间差分值和/或N阶时间差分值输入所述神经网络模型,得到所述障碍物识别结果;所述障碍物识别结果包括:接近事件、远离事件、无事件中的任意一种。
12.根据权利要求11所述的装置,其特征在于,所述神经网络模型包括:
依次相连的三层全连接神经网络和输出层;
或,
依次相连的双层循环神经网络、一层所述全连接神经网络和所述输出层。
13.根据权利要求10至12任一所述的装置,其特征在于,所述提取模块,包括:
提取子模块,被配置为提取所述混合信号中的待处理信号;
转换子模块,被配置为将所述待处理信号中的历史帧和当前帧进行频域转换得到频域信号,所述历史帧和所述当前帧中每个声音帧的频域信号包括n个频域分量,n为正整数;
差分子模块,被配置为对所述当前帧中的n个频域分量和所述历史帧中的n个频域分量进行差分,计算得到频域时间差分值的一阶时间差分值和/或N阶时间差分值;
组合子模块,被配置为根据所述频域时间差分值的一阶时间差分值和/或N阶时间差分值得到所述时间特征量;
其中,所述历史帧包括位于所述当前帧之前的M个声音帧,M为正整数。
14.根据权利要求13所述的装置,其特征在于,
所述差分子模块,被配置为对第i帧中的n个频域分量和第i-1帧中的n个频域分量进行差分,计算得到所述一阶时间差分值,i为i≤0的整数,其中,若i=0,则为所述当前帧的一阶时间差分值;对所述第i帧中的n个频域分量和第i-N帧中的n个频域分量进行差分,计算得到所述N阶时间差分值,N为N≤M+i的正整数,其中,若i=0,则为所述当前帧的N阶时间差分值。
15.根据权利要求13所述的装置,其特征在于,
所述提取子模块,被配置为将所述混合信号进行滤波处理,得到滤波后的声音信号;根据所述滤波后的声音信号得到所述待处理信号。
16.根据权利要求15所述的装置,其特征在于,
所述提取子模块,被配置为将所述滤波后的声音信号进行移频处理,得到移频后的声音信号;将所述移频后的声音信号进行降采样处理,将降采样后的声音信号确定为所述待处理信号。
17.根据权利要求10至14任一所述的装置,其特征在于,所述装置还包括:
所述提取模块,被配置为对所述混合信号进行特征提取得到空间特征量;
计算模块,被配置为根据所述空间特征量进行声波干涉分析,得到所述预定方向上的障碍物距离;
所述识别模块,被配置为当所述障碍物距离小于距离阈值且所述障碍物识别结果为所述接近事件时,确定所述障碍物正在接近;当所述障碍物距离小于距离阈值且所述障碍物识别结果为所述远离事件时,确定所述障碍物正在远离;当所述障碍物距离大于距离阈值时,确定不存在障碍物。
18.根据权利要求10至17任一所述的装置,其特征在于,所述带通超声信号包括如下信号形式中的任意一种:
带通噪声信号;
单频/多频正弦信号;
所述带通噪声信号和所述单频/多频正弦信号的组合信号。
19.一种障碍物识别装置,其特征在于,所述装置包括:
处理器;用于存储所述处理器可执行指令的存储器;
其中,所述可执行指令被所述处理器加载并执行以实现如权利要求1至9任一所述的障碍物识别方法。
20.一种计算机可读存储介质,其特征在于,所述计算机可读存储介质中存储有至少一条指令,所述至少一条指令被处理器加载并执行以实现如权利要求1至9任一所述的障碍物识别方法。
CN201810671244.0A 2018-06-26 2018-06-26 障碍物识别方法、装置、设备及存储介质 Active CN108845324B (zh)

Priority Applications (1)

Application Number Priority Date Filing Date Title
CN201810671244.0A CN108845324B (zh) 2018-06-26 2018-06-26 障碍物识别方法、装置、设备及存储介质

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
CN201810671244.0A CN108845324B (zh) 2018-06-26 2018-06-26 障碍物识别方法、装置、设备及存储介质

Publications (2)

Publication Number Publication Date
CN108845324A true CN108845324A (zh) 2018-11-20
CN108845324B CN108845324B (zh) 2022-09-23

Family

ID=64202341

Family Applications (1)

Application Number Title Priority Date Filing Date
CN201810671244.0A Active CN108845324B (zh) 2018-06-26 2018-06-26 障碍物识别方法、装置、设备及存储介质

Country Status (1)

Country Link
CN (1) CN108845324B (zh)

Cited By (7)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2020147500A1 (zh) * 2019-01-15 2020-07-23 北京百度网讯科技有限公司 超声波阵列障碍物检测结果处理方法及系统
CN112055119A (zh) * 2019-06-06 2020-12-08 北京小米移动软件有限公司 识别障碍物的终端、方法、装置及存储介质
WO2021035861A1 (zh) * 2019-08-29 2021-03-04 中国科学技术大学 一种障碍物检测系统、方法及存储介质
CN113029154A (zh) * 2021-04-01 2021-06-25 北京深睿博联科技有限责任公司 一种盲人导航方法及装置
CN113395389A (zh) * 2020-03-13 2021-09-14 北京小米移动软件有限公司 一种防止屏幕误触的方法、装置及存储介质
CN115565549A (zh) * 2022-10-08 2023-01-03 中国海洋大学 行为识别方法、远程控制方法、装置、系统、设备及介质
US11828843B2 (en) 2021-02-08 2023-11-28 Beijing Xiaomi Mobile Software Co., Ltd. Method and apparatus for event detection, electronic device, and storage medium

Citations (11)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US5889870A (en) * 1996-07-17 1999-03-30 American Technology Corporation Acoustic heterodyne device and method
JP2005196350A (ja) * 2004-01-05 2005-07-21 Seiko Epson Corp 情報入力装置、その制御方法、制御プログラム及び記録媒体
EP1757956A1 (de) * 2005-08-24 2007-02-28 Leica Geosystems AG Mehrzielfähiges Distanzmessverfahren nach dem Phasenmessprinzip
CN105718064A (zh) * 2016-01-22 2016-06-29 南京大学 基于超声波的手势识别系统与方法
CN106650383A (zh) * 2016-12-30 2017-05-10 深圳天珑无线科技有限公司 终端控制方法和终端控制装置
CN106790955A (zh) * 2016-11-25 2017-05-31 北京小米移动软件有限公司 终端控制方法及装置
CN106896356A (zh) * 2016-08-17 2017-06-27 阿里巴巴集团控股有限公司 确定距离变化的方法、位置提示方法及其装置和系统
CN106970357A (zh) * 2017-04-26 2017-07-21 清华大学 高精度的实时超声波定位追踪方法及系统
CN107402387A (zh) * 2017-08-31 2017-11-28 努比亚技术有限公司 基于超声波的运动趋势确定方法、装置及可读存储介质
CN107566951A (zh) * 2016-07-01 2018-01-09 北京小米移动软件有限公司 音频信号处理方法及装置
CN108196778A (zh) * 2017-12-29 2018-06-22 努比亚技术有限公司 屏幕状态的控制方法、移动终端及计算机可读存储介质

Patent Citations (11)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US5889870A (en) * 1996-07-17 1999-03-30 American Technology Corporation Acoustic heterodyne device and method
JP2005196350A (ja) * 2004-01-05 2005-07-21 Seiko Epson Corp 情報入力装置、その制御方法、制御プログラム及び記録媒体
EP1757956A1 (de) * 2005-08-24 2007-02-28 Leica Geosystems AG Mehrzielfähiges Distanzmessverfahren nach dem Phasenmessprinzip
CN105718064A (zh) * 2016-01-22 2016-06-29 南京大学 基于超声波的手势识别系统与方法
CN107566951A (zh) * 2016-07-01 2018-01-09 北京小米移动软件有限公司 音频信号处理方法及装置
CN106896356A (zh) * 2016-08-17 2017-06-27 阿里巴巴集团控股有限公司 确定距离变化的方法、位置提示方法及其装置和系统
CN106790955A (zh) * 2016-11-25 2017-05-31 北京小米移动软件有限公司 终端控制方法及装置
CN106650383A (zh) * 2016-12-30 2017-05-10 深圳天珑无线科技有限公司 终端控制方法和终端控制装置
CN106970357A (zh) * 2017-04-26 2017-07-21 清华大学 高精度的实时超声波定位追踪方法及系统
CN107402387A (zh) * 2017-08-31 2017-11-28 努比亚技术有限公司 基于超声波的运动趋势确定方法、装置及可读存储介质
CN108196778A (zh) * 2017-12-29 2018-06-22 努比亚技术有限公司 屏幕状态的控制方法、移动终端及计算机可读存储介质

Non-Patent Citations (4)

* Cited by examiner, † Cited by third party
Title
JAMES DOWNEY: "A stepped-frequency continuous wave ranger for aiding pedestrian navigation", 《2013 IEEE TOPICAL CONFERENCE ON WIRELESS SENSORS AND SENSOR NETWORKS (WISNET)》 *
何朝霞等: "音色变换音频信号的篡改检测技术研究", 《中国测试》 *
张良等: "地基雷达测量误差源及提高精度的措施", 《电子器件》 *
李文峰等: "《露天矿信息化建设》", 31 January 2017 *

Cited By (10)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2020147500A1 (zh) * 2019-01-15 2020-07-23 北京百度网讯科技有限公司 超声波阵列障碍物检测结果处理方法及系统
US11933921B2 (en) 2019-01-15 2024-03-19 Beijing Baidu Netcom Science And Technology Co., Ltd. Method and system for processing obstacle detection result of ultrasonic sensor array
CN112055119A (zh) * 2019-06-06 2020-12-08 北京小米移动软件有限公司 识别障碍物的终端、方法、装置及存储介质
WO2021035861A1 (zh) * 2019-08-29 2021-03-04 中国科学技术大学 一种障碍物检测系统、方法及存储介质
CN113395389A (zh) * 2020-03-13 2021-09-14 北京小米移动软件有限公司 一种防止屏幕误触的方法、装置及存储介质
EP3879309A1 (en) * 2020-03-13 2021-09-15 Beijing Xiaomi Mobile Software Co., Ltd. Method, device, and storage medium for preventing false touch of screen
US11256369B2 (en) 2020-03-13 2022-02-22 Beijing Xiaomi Mobile Software Co., Ltd. Method, device, and storage medium for preventing false touch of screen
US11828843B2 (en) 2021-02-08 2023-11-28 Beijing Xiaomi Mobile Software Co., Ltd. Method and apparatus for event detection, electronic device, and storage medium
CN113029154A (zh) * 2021-04-01 2021-06-25 北京深睿博联科技有限责任公司 一种盲人导航方法及装置
CN115565549A (zh) * 2022-10-08 2023-01-03 中国海洋大学 行为识别方法、远程控制方法、装置、系统、设备及介质

Also Published As

Publication number Publication date
CN108845324B (zh) 2022-09-23

Similar Documents

Publication Publication Date Title
CN108845324A (zh) 障碍物识别方法、装置、设备及存储介质
CN109031315A (zh) 距离测量方法、装置、设备及存储介质
CN106651955A (zh) 图片中目标物的定位方法及装置
CN109599104A (zh) 多波束选取方法及装置
CN105391621B (zh) 信息通信方法和装置
CN106157952B (zh) 声音识别方法及装置
CN108766457A (zh) 音频信号处理方法、装置、电子设备及存储介质
CN105554266B (zh) 消息提醒处理方法、装置及设备
CN105515952B (zh) 多媒体消息发送方法及装置
CN105100363A (zh) 信息处理方法、装置及终端
CN107343069A (zh) 终端及声波信号传输方法
CN109212534A (zh) 移动终端的握持姿态检测方法、装置、设备及存储介质
CN106657737B (zh) 摄像头组件及终端
CN109324846A (zh) 应用显示方法及装置、存储介质
CN109903765A (zh) 语音控制方法及装置
US20220270627A1 (en) Method and apparatus for audio processing, and storage medium
CN106657543A (zh) 语音信息处理方法及装置
CN109451148A (zh) 事件处理方法、装置及存储介质
CN106980836A (zh) 身份验证方法及装置
CN106791245A (zh) 确定滤波器系数的方法及装置
EP4040190A1 (en) Method and apparatus for event detection, electronic device, and storage medium
CN106598445A (zh) 输出通讯消息的方法及装置
CN109243447A (zh) 语音发送触发方法及装置
EP4027339A1 (en) Method and apparatus for controlling device, and readable storage medium
CN107450940A (zh) 智能终端打开应用程序的方法及装置

Legal Events

Date Code Title Description
PB01 Publication
PB01 Publication
SE01 Entry into force of request for substantive examination
SE01 Entry into force of request for substantive examination
GR01 Patent grant
GR01 Patent grant