CN110550037B - 用于车辆的驾驶辅助系统及驾驶辅助系统方法 - Google Patents
用于车辆的驾驶辅助系统及驾驶辅助系统方法 Download PDFInfo
- Publication number
- CN110550037B CN110550037B CN201810555637.5A CN201810555637A CN110550037B CN 110550037 B CN110550037 B CN 110550037B CN 201810555637 A CN201810555637 A CN 201810555637A CN 110550037 B CN110550037 B CN 110550037B
- Authority
- CN
- China
- Prior art keywords
- sound
- vehicle
- occupant
- driving assistance
- correlation
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Active
Links
Images
Classifications
-
- B—PERFORMING OPERATIONS; TRANSPORTING
- B60—VEHICLES IN GENERAL
- B60W—CONJOINT CONTROL OF VEHICLE SUB-UNITS OF DIFFERENT TYPE OR DIFFERENT FUNCTION; CONTROL SYSTEMS SPECIALLY ADAPTED FOR HYBRID VEHICLES; ROAD VEHICLE DRIVE CONTROL SYSTEMS FOR PURPOSES NOT RELATED TO THE CONTROL OF A PARTICULAR SUB-UNIT
- B60W40/00—Estimation or calculation of non-directly measurable driving parameters for road vehicle drive control systems not related to the control of a particular sub unit, e.g. by using mathematical models
- B60W40/02—Estimation or calculation of non-directly measurable driving parameters for road vehicle drive control systems not related to the control of a particular sub unit, e.g. by using mathematical models related to ambient conditions
-
- B—PERFORMING OPERATIONS; TRANSPORTING
- B60—VEHICLES IN GENERAL
- B60W—CONJOINT CONTROL OF VEHICLE SUB-UNITS OF DIFFERENT TYPE OR DIFFERENT FUNCTION; CONTROL SYSTEMS SPECIALLY ADAPTED FOR HYBRID VEHICLES; ROAD VEHICLE DRIVE CONTROL SYSTEMS FOR PURPOSES NOT RELATED TO THE CONTROL OF A PARTICULAR SUB-UNIT
- B60W50/00—Details of control systems for road vehicle drive control not related to the control of a particular sub-unit, e.g. process diagnostic or vehicle driver interfaces
- B60W50/08—Interaction between the driver and the control system
- B60W50/14—Means for informing the driver, warning the driver or prompting a driver intervention
-
- B—PERFORMING OPERATIONS; TRANSPORTING
- B60—VEHICLES IN GENERAL
- B60W—CONJOINT CONTROL OF VEHICLE SUB-UNITS OF DIFFERENT TYPE OR DIFFERENT FUNCTION; CONTROL SYSTEMS SPECIALLY ADAPTED FOR HYBRID VEHICLES; ROAD VEHICLE DRIVE CONTROL SYSTEMS FOR PURPOSES NOT RELATED TO THE CONTROL OF A PARTICULAR SUB-UNIT
- B60W50/00—Details of control systems for road vehicle drive control not related to the control of a particular sub-unit, e.g. process diagnostic or vehicle driver interfaces
- B60W50/08—Interaction between the driver and the control system
- B60W50/14—Means for informing the driver, warning the driver or prompting a driver intervention
- B60W2050/143—Alarm means
Landscapes
- Engineering & Computer Science (AREA)
- Automation & Control Theory (AREA)
- Transportation (AREA)
- Mechanical Engineering (AREA)
- Human Computer Interaction (AREA)
- Physics & Mathematics (AREA)
- Mathematical Physics (AREA)
- Traffic Control Systems (AREA)
- Fittings On The Vehicle Exterior For Carrying Loads, And Devices For Holding Or Mounting Articles (AREA)
Abstract
本发明涉及用于车辆的驾驶辅助系统和驾驶辅助方法。驾驶辅助系统包括:音频处理装置,其配置为处理来自于音频传感器的环境声音,以确定所述环境声音中的至少一个声音的类型和方位;图像处理装置,其配置为基于所述至少一个声音的类型和方位从来自于图像传感器的环境图像中识别与所述至少一个声音对应的目标的状态参数;相关度计算装置,其配置为基于与所述至少一个声音对应的目标的状态参数计算所述至少一个声音与所述车辆的乘员相关联的相关度;以及输出装置,其配置为基于所述相关度将所述至少一个声音输出给所述车辆的乘员。根据本发明的驾驶辅助系统能够通过音频处理和图像处理来选择性地输出与驾乘人员相关联的环境声音。
Description
技术领域
本发明大体上涉及车辆的辅助驾驶领域,特别涉及一种用于车辆的驾驶辅助系统及驾驶辅助方法。
背景技术
为了抑制或预防外部环境噪声到达车辆内部,车辆制造商在设计车辆(尤其是高端车辆或豪华车辆)时,往往会选择被动技术(例如,噪声抑制材料和设计)和/或主动技术(例如,噪声消除系统、主动噪声控制等)来降低外部噪声。但是,事实上,许多车辆的安静驾驶环境通常借助于降低车辆内部噪声来实现。
然而,降低车辆内部噪声会导致不加区别地减弱各种环境声音。换言之,驾乘人员可能想要听到的声音与不想听到的声音会被同时减弱。而且,驾乘人员应该听到的声音(例如,与安全驾驶有关的声音)与不应该听到的声音(例如,公路噪声)会被同时减弱。因此,通过减弱所有环境声音来降低车厢内部噪声可对驾乘人员的行驶体验具有不利影响。
另外,尽管通过对由听觉系统(例如,麦克风)采集的环境声音(例如包括喇叭声、警笛声)进行降噪处理也能识别车辆的某些外部驾驶环境,但是,当车辆的外部驾驶场景较为复杂时,仅利用声音可能会导致忽视一些与车辆安全驾驶真正相关的环境声音。例如,当车辆周围有许多人在同时说话时,此时仅利用环境声音就难以识别哪种环境声音与车辆相关。
为此,需要一种能够通过音频处理和图像处理来选择性地输出与驾乘人员相关联的环境声音的驾驶辅助系统。
发明内容
本发明的一个目的在于提供能够结合音频处理和图像处理来识别与驾乘人员相关联的环境声音的驾驶辅助系统及驾驶辅助方法。本发明的另一目的在于提供能够选择性地输出与驾乘人员相关联的环境声音的驾驶辅助系统及驾驶辅助方法。
本发明的一个方面提供了一种用于车辆的驾驶辅助系统,包括:音频处理装置,其配置为处理来自于音频传感器的环境声音,以确定所述环境声音中的至少一个声音的类型和方位;图像处理装置,其配置为基于所述至少一个声音的类型和方位从来自于图像传感器的环境图像中识别与所述至少一个声音对应的目标的状态参数;相关度计算装置,其配置为基于与所述至少一个声音对应的目标的状态参数计算所述至少一个声音与所述车辆的乘员相关联的相关度;以及输出装置,其配置为基于所述相关度将所述至少一个声音输出给所述车辆的乘员。
根据本发明的实施例,所述音频处理装置还配置为在确定所述至少一个声音为说话声的情况下,使用语音识别来确定所述至少一个声音的语义,并且其中,所述相关度计算装置配置基于所述至少一个声音的语义和与所述至少一个声音对应的目标的状态参数来计算所述至少一个声音与所述车辆的乘员相关联的相关度。
根据本发明的实施例,所述相关度计算装置配置为通过对与所述至少一个声音对应的目标的所有状态参数的预定权重执行相加操作来计算所述至少一个声音与所述车辆的乘员相关联的相关度。
根据本发明的实施例,所述相关度计算装置配置为通过对所述至少一个声音的语义的预定权重和与所述至少一个声音对应的目标的所有状态参数的预定权重执行相加操作来计算所述至少一个声音与所述车辆的乘员相关联的相关度。
根据本发明的实施例,所述音频处理装置配置为通过从所述环境声音中过滤掉场景噪声来得到所述至少一个声音,所述场景声音包括车辆背景噪声。
根据本发明的实施例,所述驾驶辅助系统还包括:音频修改装置,其配置为修改所述至少一个声音的至少一个听觉特征,并且其中所述输出装置还配置为输出被修改的所述至少一个声音。
根据本发明的实施例,所述输出装置配置为使用扬声器将所述至少一个声音输出给所述车辆的乘员。
根据本发明的实施例,所述输出装置配置为使用车载显示装置将所述至少一个声音以文字形式输出给所述车辆的乘员。
本发明的另一方面提供了一种用于车辆的驾驶辅助方法,包括以下步骤:处理来自于音频传感器的环境声音,以确定所述环境声音中的至少一个声音的类型和方位;基于所述至少一个声音的类型和方位从来自于图像传感器的环境图像中识别与所述至少一个声音对应的目标的状态参数;基于与所述至少一个声音对应的目标的状态参数计算所述至少一个声音与所述车辆的乘员相关联的相关度;以及基于所述相关度将所述至少一个声音输出给所述车辆的乘员。
根据本发明的实施例,所述驾驶辅助方法还包括以下步骤:在确定所述至少一个声音为说话声的情况下,使用语音识别来确定所述至少一个声音的语义;以及基于所述至少一个声音的语义和与所述至少一个声音对应的目标的状态参数来计算所述至少一个声音与所述车辆的乘员相关联的相关度。
根据本发明的实施例,所述至少一个声音与所述车辆的乘员相关联的相关度通过对与所述至少一个声音对应的目标的所有状态参数的预定权重执行相加操作来计算。
根据本发明的实施例,所述至少一个声音与所述车辆的乘员相关联的相关度通过对所述至少一个声音的语义的预定权重和与所述至少一个声音对应的目标的所有状态参数的预定权重执行相加操作来计算。
根据本发明的实施例,所述至少一个声音通过从所述环境声音中过滤掉场景噪声来得到,所述场景声音包括车辆背景噪声。
根据本发明的实施例,所述驾驶辅助方法还包括以下步骤:修改所述至少一个声音的至少一个听觉特征;以及输出被修改的所述至少一个声音。
根据本发明的实施例,所述至少一个声音经由扬声器输出给所述车辆的乘员。
根据本发明的实施例,所述至少一个声音经由车载显示装置以文字形式输出给所述车辆的乘员。
因此,与现有技术相比,根据本发明的驾驶辅助系统和驾驶辅助方法能够结合音频处理和图像处理两者来选择性地输出与驾乘人员相关联的环境声音,由此可以提高驾乘人员对环境声音的识别度。
附图说明
图1示出了设有根据本发明的实施例的驾驶辅助系统的车辆的示意图;
图2示出了音频传感器的一个应用示例的示意图;以及
图3示出了根据本发明的实施例的驾驶辅助方法的流程框图。
具体实施方式
下文中,参照附图描述本发明的实施例。下面的详细描述和附图用于示例性地说明本发明的原理,本发明不限于所描述的优选实施例,本发明的范围由权利要求书限定。现参考示例性的实施方式详细描述本发明,一些实施例图示在附图中。以下描述参考附图进行,除非另有表示,否则在不同附图中的相同附图标记代表相同或类似的元件。以下示例性实施方式中描述的方案不代表本发明的所有方案。相反,这些方案仅是所附权利要求中涉及的本发明的各个方面的系统和方法的示例。
根据本发明的实施例的驾驶辅助系统可以安装在车辆上或应用于车辆。车辆可以是以内燃机为驱动源的内燃机汽车、以电动机为驱动源的电动汽车或燃料电池汽车、以上述两者为驱动源的混合动力汽车、或具有其他驱动源的汽车。
图1示出了设有根据本发明的实施例的驾驶辅助系统的车辆的示意图。如图1所示,车辆10包括音频传感器100、图像传感器200、驾驶辅助系统300以及扬声器400。车辆10的各个装置可以配置成以各个装置中的部件相互连接的方式工作。连接方式包括系统总线、网络和/或其他适合的连接方式。根据本发明的其他实施例,车辆10可以包括更多、更少或不同的装置,并且各个装置可以包括更多、更少或不同的部件。
音频传感器100可以感测车辆10外部的环境声音。音频传感器100例如可以是麦克风、转换器等。音频传感器100的数目可以是一个或多个。在车辆10包括多个音频传感器100的情况下,多个音频传感器100可以放置在车辆100上的不同位置处(例如,车辆10的前侧、后侧、左侧、右侧、顶部、底部或发动机中等)。图2示出了音频传感器100的一个应用示例的示意图,其中示出了音频传感器100在车辆10中的分布位置。如图2所示,音频传感器100A、100B、100C和100D可以分别放置在车辆10的前侧、后侧、左侧和右侧。另外,音频传感器100可以放置在车辆10的车体外表面上。但是,应理解,在其他示例中,音频传感器100可以不可见的方式嵌入到车辆10的车体中,例如位于车门与车体之间等。环境声音可以例如包括由车辆(包括车辆10以及除了车辆10以外的其他车辆等)发出的声音(例如,刹车声、喇叭声、鸣笛声等)、由人(包括行人、交通警察、建筑工人等)发出的声音(说话声、脚步声等)、由天气发出的声音(雷声、风声、雨声等)以及由车辆10周围的其他物体(例如,动物)发出的声音等。
图像传感器200可以捕获车辆10外部的环境图像。图像传感器200可以是一般摄像头、红外摄像头等。图像传感器可以安装在车辆10的前侧、后侧或便于对进行图像采集的其他位置。在一个示例中,图像传感器200可以设置在车辆100的至少一侧的后视镜处,例如后视镜的下方或背部。图像传感器200可以设置成可调节的,使其视场能够覆盖车辆10四周的场景图像。例如,图像传感器200可以设置成能够相对于车辆10的车体或者相对于后视镜旋转或平移,以获得合适的视角和/或视场,从而拍摄车辆10四周的环境图像。环境图像包括静态图像、立体图像和/或动态图像等。
驾驶辅助系统300可以接收来自于音频传感器100的环境声音和来自于图像传感器200的环境图像,接着通过对环境声音执行音频处理并对与环境声音对应的环境图像执行图像处理来识别环境声音中与驾乘人员相关联的声音,然后可以使用扬声器400来提供与驾乘人员相关联的声音的输出。
扬声器400可以向车辆10的驾乘人员输出环境声音或经处理的环境声音。扬声器400可以放置在车辆10的任何位置,使得车辆10的驾乘人员能够听到其音频输出。在一个示例中,扬声器400可以放置为对驾乘人员可见,例如放置在耳内扬声器或头戴式耳机中,或安装于头枕、车顶、侧面板上。但是,应理解,在其他示例中,扬声器400可以放置为对驾乘人员不可见,例如,嵌入仪表板或座椅内。此外,扬声器400可以是与车辆10的音频系统(例如,收音机、CD播放器、DVD播放器等)中使用的扬声器相同的扬声器。
下面,继续参考图1来详细地描述根据本发明的实施例的驾驶辅助系统300的各个单元和/或部件的配置和功能。如图1所示,驾驶辅助系统300包括音频处理装置310、图像处理装置320、相关度计算装置330、输出装置350。根据本发明的某些实施例,驾驶辅助系统300还可以包括音频修改装置340。此外,驾驶辅助系统300还可以包括存储装置360。驾驶辅助系统300可为软件、固件、硬件或其任意组合。
音频处理装置310可以对来自于音频传感器100的环境声音进行处理来确定所述环境声音中的至少一个声音的类型。由于音频传感器100检测到的环境声音是不同的声音混合而成,因此,为了识别与驾乘人员相关联的声音或感兴趣的声音,音频处理装置310会将环境声音进行过滤或隔离后来评估环境声音中的特定声音。
首先,音频处理装置310可以从环境声音中过滤场景噪声。场景噪声可以是车辆背景噪声。车辆背景噪声表示由车辆10产生的噪声,例如发动机在不同转速下产生的噪声、轮胎在不同车速下产生的噪声以及喇叭产生的噪声等。但是,应理解,在其他示例中,场景噪声也可以包括因天气因素产生的噪声。场景噪声可以预先存储在如后所述的存储装置360中。音频处理装置310可以通过访问存储装置360来获取与车辆10的运动状况对应的场景噪声,并且从环境声音中去除掉场景噪声。应注意,经过滤的环境声音可以包括一个声音,或者也可以包括不止一个声音。下面将以经过滤的环境声音包括一个声音为例进行说明。
接着,音频处理装置310将经过滤的环境声音与预定声音进行匹配以确定经过滤的环境声音的类型。不同类型的声音具有不同的听觉参数(例如,频率、幅值、相位等),例如人的说话声具有与人的脚步声或车辆鸣笛声不同的听觉参数。因此,音频处理装置310可以提取经过滤的环境声音的听觉参数,然后将提取的听觉参数与预定声音的已知听觉参数进行匹配。预定声音(包括类型以及听觉参数)可以预先存储在如后所述的存储装置360中,例如,可以存储为数据库或表格形式。音频处理装置310可以访问该数据库或表格来将提取的听觉参数与存储在存储装置360中的听觉参数进行匹配。在匹配度高于一个或多个阈值的情况下,音频处理装置310可以将该预定声音的类型定义为经过滤的环境声音的类型。
音频处理装置310还可以确定经过滤的环境声音的方位。由于音频传感器100的数目可以是多个,因此音频处理装置310可以根据来自于不同音频传感器100的环境声音的听觉参数来确定环境声音的方位。方位包括环境声音相对于车辆10的方向和位置。下面参考图2来进行详细地描述。
如图2所示,由于四个音频传感器100A、100B、100C和100D放置在车辆10的不同位置处,因此,四个音频传感器100A、100B、100C和100D所采集到的环境声音具有不同的听觉参数。例如,音频传感器100A、100B、100C和100D均可感测到车辆外部的环境声音,例如与目标20(在图2中用方框表示)对应的环境声音。然而,因为音频传感器100A距离物体20比音频传感器100B近,所以由音频传感器100A感测到的声音相比于音频传感器100B感测到的声音具有更大的幅值。这样,音频处理装置310可以确定环境声音可能源于车辆10的前方(相对于如图2所示的视图)。另外,因为音频传感器100C距离物体20比音频传感器100D近,所以由音频传感器100C感测到的声音相比于音频传感器100D感测到的声音具有更大的幅值。这样,音频处理装置310可以确定环境声音可能源于车辆10的右侧(相对于如图2所示的视图)。如此,音频处理装置310可以确定环境声音的方向,即位于源于车辆10的右前方。
此外,音频传感器100A会早于音频传感器100B感测到声音,并且音频传感器100C会早于音频传感器100D感测到声音。由此,音频处理装置310可以通过确定环境声音何时抵达各个音频检测器100A、100B、100C和100D,来估算环境声音与各个音频检测器100A、100B、100C和100D的距离。如此,音频处理装置310可以确定环境声音的位置。
图像处理装置320可以与音频处理装置310有线或无线通信。图像处理装置320可以基于经过滤的环境声音的类型和方位从来自于图像传感器200的环境图像中识别与经过滤的环境声音对应的目标的状态参数。
首先,在音频处理装置310确定了经过滤的环境声音的类型和方位后,图像处理装置320可以基于类型和方位从来自于图像传感器200的环境图像中获取与经过滤的环境声音相对应的目标的相关图像。目标就是经过滤的环境声音的声源。目标可以是车辆10外部的人(例如,行人或交通警察等)、动物、车辆(例如,自行车、三轮车、汽车或卡车等)或其他交通参与者。例如,如果音频处理装置310判断经过滤的环境声音为人的说话声并且该说话声源于车辆10的右前方,则图像处理装置320可以获取位于车辆10右前方的人的相关图像,例如身体图像和面部图像等。又如,如果音频处理装置310判断经过滤的环境声音为鸣笛声并且该鸣笛声源于车辆10的左前方,则图像处理装置320可以获取位于车辆10左前方的其他车辆的相关图像。
接着,图像处理装置320可以对所获取的目标的相关图像进行图像分析处理,以得到与经过滤的环境声音相对应的目标的状态参数。状态参数包括但不限于目标类型、相对于车辆10的距离、接近车辆10的速度、相对于车辆10的取向等。在目标是人的情况下,状态参数还包括人的身体姿势、面部表情和注视方向等。例如,图像处理装置230可以通过对动态图像进行分析来得到目标接近车辆10的速度。
相关度计算装置330可以与音频处理装置310和图像处理装置320有线或无线通信。相关度计算装置330可以基于与经过滤的环境声音对应的目标的状态参数计算经过滤的环境声音与驾乘人员相关联的相关度。相关度计算装置330可以预先定义车辆10周围的每个目标的重要性,并将其存储在如后所述的存储装置360中。也就是说,相关度计算装置330可以预先为车辆10周围的每个目标的每个状态参数分配权重,以区分目标与车辆10相关联的相关度。在一个示例中,相关度计算装置330可以将朝向车辆10行驶的目标的权重定义为1,并且将远离车辆10行驶的权重定义为0。在另一个示例中,当目标朝向车辆10行驶时,相关度计算装置330可以将大于阈值的速度的权重定义为1,并且将小于或等于阈值的速度的权重定义为0。在又一个示例中,当目标是人时,相关度计算装置330可以将目标的姿势或注视方向面对车辆10的权重定义为1,并且将目标的姿势或注视方向背离车辆10的权重定义为0等。
在图像处理装置320得到与经过滤的环境声音相对应的目标的状态参数后,相关度计算装置330可以访问存储装置360以获取与这些状态参数相对应的权重,接着计算这些权重的总和。与经过滤的环境声音相对应的目标的状态参数的权重的总和就是经过滤的环境声音与驾乘人员相关联的相关度。
状态参数包括但不限于目标类型、相对于车辆10的距离、接近车辆10的速度、相对于车辆10的取向等。在目标是人的情况下,状态参数还包括人的身体姿势、面部表情和注视方向等。例如,图像处理装置230可以通过对动态图像进行分析来得到目标接近车辆10的速度。
根据本发明的某些实施例,在确定了经过滤的环境声音为人的说话声的情况下,音频处理装置310可以进一步通过语音识别来确定经过滤的环境声音的语义。具体而言,音频处理装置310可以抽取经过滤的环境声音所具有的物理特征(例如频谱等),并接着通过该物理特征与预先存储的母音、子音或单词的物理特征模型进行比较来将其转换为文字信息,由此可以识别出经过滤的环境声音的语义。
相关度计算装置330可以基于经过滤的环境声音的语义和与经过滤的环境声音对应的目标的状态参数计算经过滤的环境声音与驾乘人员相关联的相关度。如上所述,相关度计算装置330可以预先定义车辆10周围的每个目标的重要性,并将其存储在如后所述的存储装置360中。在一个示例中,相关度计算装置330可以将与车辆10的车辆信息有关的词语的权重定义为1。车辆信息包括但不限于颜色、品牌、牌照号码和驾驶员的姓名等。在另一个示例中,相关度计算装置330可以将与安全驾驶有关的词语(例如,停车、小心、减速、左转和右转等)的权重定义为1。接着,相关度计算装置330可以获取与经过滤的环境声音的语义的权重和与经过滤的环境声音对应的目标的所有状态参数相对应的权重,并计算这些权重的总和。此处所计算的权重的总和就是经过滤的环境声音与驾乘人员相关联的相关度。
但是,应理解,相关度计算装置330可以仅基于经过滤的环境声音的语义来计算经过滤的环境声音与驾乘人员相关联的相关度。计算方法类似于以上所述,在此不再赘述。
在经过滤的环境声音与驾乘人员相关联的相关度大于阈值的情况下,相关度计算装置330判断经过滤的环境声音与驾乘人员相关联。反之,在经过滤的环境声音与驾乘人员相关联的相关度小于或等于阈值的情况下,相关度计算装置330判断经过滤的环境声音与驾乘人员无关。
输出装置350可以与相关度计算装置330有线或无线通信。输出装置350可以基于相关度计算装置330计算的相关度将经过滤的环境声音输出给驾乘人员。具体地,输出装置350可以将相关度大于阈值的环境声音提供给驾乘人员。
在一个示例中,输出装置350可以使用扬声器400回放经过滤的环境声音作为对驾乘人员的警报。但是,应理解,输出装置350可以使用回放采集的原始环境声音。输出装置350可利用扬声器400的立体环绕效果回放环境声音,以便为驾乘人员传达环境声音的方向。或者,输出装置350可仅利用一个或两个扬声器400回放环境声音,以达到向驾乘人员传达环境声音的方向的相同效果。
在另一示例中,输出装置350可以使用显示装置将经过滤的环境声音以文字形式输出给驾乘人员。显示装置可以是集成在主车辆10上的车载显示屏,例如抬头显示器(HUD)和导航显示器等。输出装置350可以将经过滤的环境声音的语义显示在显示装置上,以作为对驾乘人员的文字警报。
此外,根据本发明的某些实施例,在输出装置350回放环境声音之前,音频修改装置340还可以修改与驾乘人员相关联的环境声音,以便驾乘人员快速地识别目标并且及时做出反应,例如刹车、转弯、减速等。具体地,音频修改装置340可以提高音调、放大音量、变更频率分布和隔离与驾乘人员无关或相关度较低的声音等。接着,输出装置350可以输出被音频修改装置340修改后的声音。
存储装置360可以预先存储各种类型的信息,例如场景噪声、预定声音和各种状态参数的权重等。存储装置360可以由任何类型的易失性或非易失性存储设备或者它们的组合实现。存储装置360可以包括半导体存储器,例如随机存储器(RAM)、静态随机存取存储器(SRAM)、动态随机存取存储器(DRAM)、只读存储器(ROM)、可编程只读存储器(PROM)、可擦除可编程只读存储器(EPROM)、电可擦除可编程只读存储器(EEPROM)、快闪存储器等。存储装置360也可以包括例如使用纸介质、磁介质和/或光介质的任何存储器,如纸带、硬盘、磁带、软盘、磁光盘(MO)、CD、DVD、Blue-ray等。
因此,根据本发明的驾驶辅助系统能够结合音频处理和图像处理两者来选择性地输出与驾乘人员相关联的环境声音,由此可以提高驾乘人员对环境声音的识别度。
下面将参考图3描述根据本发明的实施例的驾驶辅助方法。图3是示出根据本发明的实施例的驾驶辅助方法300的流程图。驾驶辅助方法300由上述驾驶辅助系统300来执行。
如图3所示,在步骤310,确定环境声音中的至少一个声音的类型和方位。首先,可以从音频传感器所获取的环境声音过滤掉场景噪声来得到至少一个声音。接着,可以将至少一个声音与预定声音进行匹配来确定至少一个声音的类型。然后,可以根据来自于不同音频传感器的环境声音的听觉参数来确定至少一个声音的方位。上文已经详细地描述了如何来确定至少一个声音的类型和方位,故在此不再赘述。接着,方法300行进到步骤S320。
在步骤S320中,识别与至少一个声音对应的目标的状态参数。根据本发明的实施例,首先,可以基于至少一个声音的类型和方位从来自于图像传感器200的环境图像中获取与至少一个声音相对应的目标的相关图像。接着,可以对相关图像进行图像分析处理,来得到与至少一个声音相对应的目标的状态参数。状态参数包括但不限于目标类型、相对于车辆10的距离、接近车辆10的速度、相对于车辆10的取向等。在目标是人的情况下,状态参数还包括人的身体姿势、面部表情和注视方向等。接着,方法300行进到步骤S330。
在步骤S330中,计算至少一个声音与驾乘人员相关联的相关度。根据本发明的实施例,可以基于与至少一个声音对应的目标的状态参数计算至少一个声音与驾乘人员相关联的相关度。具体而言,可以通过对与至少一个声音对应的目标的状态参数的权重进行求和来获取至少一个声音与驾乘人员相关联的相关度。与至少一个声音相对应的目标的状态参数的权重的总和就是至少一个声音与驾乘人员相关联的相关度。接着,方法300行进到步骤S340。
在步骤S340中,判断至少一个声音与驾乘人员相关联的相关度是否大于阈值。在至少一个声音与驾乘人员相关联的相关度大于阈值的情况下,判断经过滤的环境声音与驾乘人员相关联,由此方法300接着行进到步骤S360。反之,在至少一个声音与驾乘人员相关联的相关度小于或等于阈值的情况下,判断经过滤的环境声音与驾乘人员无关,由此方法300返回到步骤S310。
在步骤S350中,输出至少一个声音。在一个示例中,至少一个声音可以利用扬声器400输出。在另一示例中,至少一个声音可以利用显示装置以文字形式输出。
此外,根据本发明的某些实施例,方法300还包括步骤S360。在步骤S310确定了至少一个声音是人的说话声时,在步骤S360中,可以进一步识别至少一个声音的语义,接着,在步骤S330中,可以基于至少一个声音的语义和与至少一个声音对应的目标的状态参数来计算至少一个声音与驾乘人员相关联的相关度。上文已经详细描述了语义的识别处理,在此不再赘述。
此外,根据本发明的某些实施例,方法300还包括步骤S370。在步骤S370中,修改至少一个声音,以便驾乘人员快速地识别目标并且及时做出反应,例如刹车、转弯、减速等。具体地,可以提高音调、放大音量、变更频率分布和隔离与驾乘人员无关或相关度较低的声音等。
因此,根据本发明的驾驶辅助系统能够结合音频处理和图像处理两者来选择性地输出与驾乘人员相关联的环境声音,由此可以提高驾乘人员对环境声音的识别度。
尽管已经参考示例性实施例描述了本发明,但是应理解,本发明并不限于上述实施例的构造和方法。相反,本发明意在覆盖各种修改例和等同配置。另外,尽管在各种示例性结合体和构造中示出了所公开发明的各种元件和方法步骤,但是包括更多、更少的元件或方法的其它组合也落在本发明的范围之内。
Claims (14)
1.一种用于车辆的驾驶辅助系统,包括:
音频处理装置,其配置为处理来自于音频传感器的环境声音,以确定所述环境声音中的至少一个声音的类型和方位;
图像处理装置,其配置为基于所述至少一个声音的类型和方位从来自于图像传感器的环境图像中识别与所述至少一个声音对应的目标的状态参数,所述状态参数包括以下项中的至少一者:所述目标的类型、所述目标相对于所述车辆的距离、所述目标接近所述车辆的速度、所述目标相对于所述车辆的取向、所述目标的身体姿势、面部表情和注视方向;
相关度计算装置,其配置为基于与所述至少一个声音对应的目标的状态参数计算所述至少一个声音与所述车辆的乘员相关联的相关度,其中,所述相关度计算装置配置为对与所述至少一个声音对应的目标的所有状态参数中的各自预定权重执行相加操作来计算所述相关度;以及
输出装置,其配置为在所述相关度大于预定阈值时将所述至少一个声音输出给所述车辆的乘员。
2.根据权利要求1所述的驾驶辅助系统,其中,
所述音频处理装置还配置为在确定所述至少一个声音为说话声的情况下,使用语音识别来确定所述至少一个声音的语义,并且其中,
所述相关度计算装置配置基于所述至少一个声音的语义和与所述至少一个声音对应的目标的状态参数来计算所述至少一个声音与所述车辆的乘员相关联的相关度。
3.根据权利要求2所述的驾驶辅助系统,其中,
所述相关度计算装置配置为通过对所述至少一个声音的语义的预定权重和与所述至少一个声音对应的目标的所有状态参数的预定权重执行相加操作来计算所述至少一个声音与所述车辆的乘员相关联的相关度。
4.根据权利要求1所述的驾驶辅助系统,其中,
所述音频处理装置配置为通过从所述环境声音中过滤掉场景噪声来得到所述至少一个声音,所述场景噪 声包括车辆背景噪声。
5.根据权利要求1所述的驾驶辅助系统,还包括:
音频修改装置,其配置为修改所述至少一个声音的至少一个听觉特征,并且其中
所述输出装置还配置为输出被修改的所述至少一个声音。
6.根据权利要求1所述的驾驶辅助系统,其中,
所述输出装置配置为使用扬声器将所述至少一个声音输出给所述车辆的乘员。
7.根据权利要求1所述的驾驶辅助系统,其中,
所述输出装置配置为使用车载显示装置将所述至少一个声音以文字形式输出给所述车辆的乘员。
8.一种用于车辆的驾驶辅助方法,包括以下步骤:
处理来自于音频传感器的环境声音,以确定所述环境声音中的至少一个声音的类型和方位;
基于所述至少一个声音的类型和方位从来自于图像传感器的环境图像中识别与所述至少一个声音对应的目标的状态参数,所述状态参数包括以下项中的至少一者:所述目标的类型、所述目标相对于所述车辆的距离、所述目标接近所述车辆的速度、所述目标相对于所述车辆的取向、所述目标的身体姿势、面部表情和注视方向;
基于与所述至少一个声音对应的目标的状态参数计算所述至少一个声音与所述车辆的乘员相关联的相关度,其中所述相关度通过对与所述至少一个声音对应的目标的所有状态参数中的各自预定权重执行相加操作来计算;以及
在所述相关度大于预定阈值时将所述至少一个声音输出给所述车辆的乘员。
9.根据权利要求8所述的驾驶辅助方法,还包括以下步骤:
在确定所述至少一个声音为说话声的情况下,使用语音识别来确定所述至少一个声音的语义;以及
基于所述至少一个声音的语义和与所述至少一个声音对应的目标的状态参数来计算所述至少一个声音与所述车辆的乘员相关联的相关度。
10.根据权利要求9所述的驾驶辅助方法,其中,
所述至少一个声音与所述车辆的乘员相关联的相关度通过对所述至少一个声音的语义的预定权重和与所述至少一个声音对应的目标的所有状态参数的预定权重执行相加操作来计算。
11.根据权利要求8所述的驾驶辅助方法,其中,
所述至少一个声音通过从所述环境声音中过滤掉场景噪声来得到,所述场景噪 声包括车辆背景噪声。
12.根据权利要求8所述的驾驶辅助方法,还包括以下步骤:
修改所述至少一个声音的至少一个听觉特征;以及
输出被修改的所述至少一个声音。
13.根据权利要求8所述的驾驶辅助方法,其中,
所述至少一个声音经由扬声器输出给所述车辆的乘员。
14.根据权利要求8所述的驾驶辅助方法,其中,
所述至少一个声音经由车载显示装置以文字形式输出给所述车辆的乘员。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN201810555637.5A CN110550037B (zh) | 2018-06-01 | 2018-06-01 | 用于车辆的驾驶辅助系统及驾驶辅助系统方法 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN201810555637.5A CN110550037B (zh) | 2018-06-01 | 2018-06-01 | 用于车辆的驾驶辅助系统及驾驶辅助系统方法 |
Publications (2)
Publication Number | Publication Date |
---|---|
CN110550037A CN110550037A (zh) | 2019-12-10 |
CN110550037B true CN110550037B (zh) | 2022-11-11 |
Family
ID=68734544
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN201810555637.5A Active CN110550037B (zh) | 2018-06-01 | 2018-06-01 | 用于车辆的驾驶辅助系统及驾驶辅助系统方法 |
Country Status (1)
Country | Link |
---|---|
CN (1) | CN110550037B (zh) |
Families Citing this family (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN113487909B (zh) * | 2021-06-07 | 2023-06-30 | 惠州市德赛西威汽车电子股份有限公司 | 一种基于声纹识别的弯道对向车预警方法及系统 |
Citations (6)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
EP1531605A1 (en) * | 2003-11-12 | 2005-05-18 | Harman/Becker Automotive Systems GmbH | Method and system for noise reduction of a sound signal |
EP2011711A1 (en) * | 2007-07-04 | 2009-01-07 | Harman Becker Automotive Systems GmbH | Method and apparatus for conveying information to an occupant of a motor vehicle |
EP2161174A1 (en) * | 2008-09-05 | 2010-03-10 | Mazda Motor Corporation | Driving assist device and method of vehicle |
CN105799584A (zh) * | 2014-12-29 | 2016-07-27 | 博世汽车部件(苏州)有限公司 | 周围车辆鸣笛声音微处理器、提示装置和自动驾驶系统 |
CN105938657A (zh) * | 2016-06-27 | 2016-09-14 | 常州加美科技有限公司 | 一种无人驾驶车辆的听觉感知与智能决策系统 |
CN107097793A (zh) * | 2016-02-23 | 2017-08-29 | Lg电子株式会社 | 驾驶员辅助设备和具有该驾驶员辅助设备的车辆 |
-
2018
- 2018-06-01 CN CN201810555637.5A patent/CN110550037B/zh active Active
Patent Citations (6)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
EP1531605A1 (en) * | 2003-11-12 | 2005-05-18 | Harman/Becker Automotive Systems GmbH | Method and system for noise reduction of a sound signal |
EP2011711A1 (en) * | 2007-07-04 | 2009-01-07 | Harman Becker Automotive Systems GmbH | Method and apparatus for conveying information to an occupant of a motor vehicle |
EP2161174A1 (en) * | 2008-09-05 | 2010-03-10 | Mazda Motor Corporation | Driving assist device and method of vehicle |
CN105799584A (zh) * | 2014-12-29 | 2016-07-27 | 博世汽车部件(苏州)有限公司 | 周围车辆鸣笛声音微处理器、提示装置和自动驾驶系统 |
CN107097793A (zh) * | 2016-02-23 | 2017-08-29 | Lg电子株式会社 | 驾驶员辅助设备和具有该驾驶员辅助设备的车辆 |
CN105938657A (zh) * | 2016-06-27 | 2016-09-14 | 常州加美科技有限公司 | 一种无人驾驶车辆的听觉感知与智能决策系统 |
Also Published As
Publication number | Publication date |
---|---|
CN110550037A (zh) | 2019-12-10 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
US10207638B2 (en) | Systems and methods for use in a vehicle for detecting external events | |
JP6761458B2 (ja) | 外部事象を車両乗員にアラートし、車内会話をマスクするための外部音響の使用 | |
US20200154220A1 (en) | Vehicular sound processing system | |
CN110070868B (zh) | 车载系统的语音交互方法、装置、汽车和机器可读介质 | |
US8710974B2 (en) | Sound producing apparatus for vehicle | |
WO2017081960A1 (ja) | 音声認識制御システム | |
CN107018467A (zh) | 用于车辆的外部声音合成的系统和方法 | |
WO2005036530A1 (en) | Speech recognizer using novel multiple microphone configurations | |
US10440467B1 (en) | Vehicle and method for controlling the same | |
JP2010156825A (ja) | 音声出力装置 | |
KR102331882B1 (ko) | 음성 인식 기반의 차량 제어 방법 및 장치 | |
DE102017204895A1 (de) | Verfahren und Vorrichtung zum Unterhalten eines Nutzers eines Fahrzeugs | |
CN110366852B (zh) | 信息处理设备、信息处理方法和记录介质 | |
US11626096B2 (en) | Vehicle and control method thereof | |
CN110550037B (zh) | 用于车辆的驾驶辅助系统及驾驶辅助系统方法 | |
US20230419944A1 (en) | In-cabin audio filtering | |
KR20210096879A (ko) | 차량 및 그 제어방법 | |
WO2013098983A1 (ja) | 音制御装置、音制御方法、音制御プログラム、及び、当該音制御プログラムが記録された記録媒体 | |
JP2020160181A (ja) | 音声処理装置及び音声処理方法 | |
JP2024067341A (ja) | 車両の情報提示方法及び情報提示装置 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination | ||
GR01 | Patent grant | ||
GR01 | Patent grant |