CN112193255A - 车机系统的人机交互方法、装置、设备以及存储介质 - Google Patents
车机系统的人机交互方法、装置、设备以及存储介质 Download PDFInfo
- Publication number
- CN112193255A CN112193255A CN202011017179.3A CN202011017179A CN112193255A CN 112193255 A CN112193255 A CN 112193255A CN 202011017179 A CN202011017179 A CN 202011017179A CN 112193255 A CN112193255 A CN 112193255A
- Authority
- CN
- China
- Prior art keywords
- driver
- determining
- information
- interactive content
- vehicle
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Pending
Links
- 230000003993 interaction Effects 0.000 title claims abstract description 102
- 238000000034 method Methods 0.000 title claims abstract description 60
- 230000002452 interceptive effect Effects 0.000 claims abstract description 64
- 238000012545 processing Methods 0.000 claims description 30
- 230000002996 emotional effect Effects 0.000 claims description 22
- 230000015654 memory Effects 0.000 claims description 19
- 230000008569 process Effects 0.000 claims description 12
- 230000008451 emotion Effects 0.000 claims description 11
- 238000012544 monitoring process Methods 0.000 claims description 10
- 230000001815 facial effect Effects 0.000 claims description 5
- 239000000126 substance Substances 0.000 claims description 2
- 238000004891 communication Methods 0.000 abstract description 11
- 230000000694 effects Effects 0.000 abstract description 8
- 238000005516 engineering process Methods 0.000 abstract description 5
- 238000013473 artificial intelligence Methods 0.000 abstract description 3
- 238000010586 diagram Methods 0.000 description 20
- 230000004044 response Effects 0.000 description 5
- 230000036651 mood Effects 0.000 description 4
- 238000004590 computer program Methods 0.000 description 3
- 230000006870 function Effects 0.000 description 3
- 230000004048 modification Effects 0.000 description 3
- 238000012986 modification Methods 0.000 description 3
- 230000002040 relaxant effect Effects 0.000 description 3
- 230000009471 action Effects 0.000 description 2
- 230000006399 behavior Effects 0.000 description 2
- 230000008859 change Effects 0.000 description 2
- 230000008921 facial expression Effects 0.000 description 2
- 230000033764 rhythmic process Effects 0.000 description 2
- 241001282135 Poromitra oscitans Species 0.000 description 1
- 206010048232 Yawning Diseases 0.000 description 1
- 230000002159 abnormal effect Effects 0.000 description 1
- 230000002457 bidirectional effect Effects 0.000 description 1
- 230000005540 biological transmission Effects 0.000 description 1
- 230000004397 blinking Effects 0.000 description 1
- 239000012141 concentrate Substances 0.000 description 1
- 238000012790 confirmation Methods 0.000 description 1
- 238000010276 construction Methods 0.000 description 1
- 239000002537 cosmetic Substances 0.000 description 1
- 238000013461 design Methods 0.000 description 1
- 238000001514 detection method Methods 0.000 description 1
- 238000011161 development Methods 0.000 description 1
- 230000035622 drinking Effects 0.000 description 1
- 210000000887 face Anatomy 0.000 description 1
- 208000013403 hyperactivity Diseases 0.000 description 1
- 230000006872 improvement Effects 0.000 description 1
- 239000004973 liquid crystal related substance Substances 0.000 description 1
- 238000010295 mobile communication Methods 0.000 description 1
- 230000003287 optical effect Effects 0.000 description 1
- 230000001737 promoting effect Effects 0.000 description 1
- 230000001953 sensory effect Effects 0.000 description 1
- 239000007787 solid Substances 0.000 description 1
- 238000006467 substitution reaction Methods 0.000 description 1
- 230000000007 visual effect Effects 0.000 description 1
Images
Classifications
-
- B—PERFORMING OPERATIONS; TRANSPORTING
- B60—VEHICLES IN GENERAL
- B60W—CONJOINT CONTROL OF VEHICLE SUB-UNITS OF DIFFERENT TYPE OR DIFFERENT FUNCTION; CONTROL SYSTEMS SPECIALLY ADAPTED FOR HYBRID VEHICLES; ROAD VEHICLE DRIVE CONTROL SYSTEMS FOR PURPOSES NOT RELATED TO THE CONTROL OF A PARTICULAR SUB-UNIT
- B60W50/00—Details of control systems for road vehicle drive control not related to the control of a particular sub-unit, e.g. process diagnostic or vehicle driver interfaces
- B60W50/08—Interaction between the driver and the control system
Landscapes
- Engineering & Computer Science (AREA)
- Automation & Control Theory (AREA)
- Human Computer Interaction (AREA)
- Transportation (AREA)
- Mechanical Engineering (AREA)
- Traffic Control Systems (AREA)
- Navigation (AREA)
Abstract
本申请公开了车机系统的人机交互方法、装置、设备以及存储介质,涉及计算机技术,具体为人工智能。具体实现方案中,车机系统通过根据地图系统,DMS以及从云端获取的驾驶员的基础信息,确定驾驶员当前的状态信息。之后根据状态信息确定与驾驶员进行交互的交互内容,并根据交互内容与驾驶员进行交互。通过根据交互内容主动和驾驶员进行交互,能够使得人机交互方法的互动方式更为丰富,与用户的交流达到较好的效果。
Description
技术领域
本申请涉及计算机技术,具体涉及人工智能,尤其涉及一种车机系统的人机交互方法、装置、设备以及存储介质。
背景技术
在开车过程中,出于安全性的考虑,驾驶员和车机系统不允许进行“沉浸式”的交互,而驾驶员的双手和视线两个重要的交互通道也被占用了。当驾驶员进行导航等操作时,需要一边开车,一边摸索着去寻找按键,危险系数很高。
现有技术中,人机交互主要通过语音触发方式进行。具体的,用户通过语音向车机系统发送语音命令,车机系统分析语音命令并执行对应的操作。然而,现有的人机交互方法的互动方式比较单一,与用户的交流不能达到较好的效果。
发明内容
本申请提供了一种用于车机系统的人机交互方法、装置、设备以及存储介质。
根据本申请的一方面,提供了一种车机系统的人机交互方法,包括:
根据地图系统,DMS以及从云端获取的驾驶员的基础信息,确定所述驾驶员当前的状态信息;
根据所述状态信息确定与所述驾驶员进行交互的交互内容;
根据所述交互内容,通过车机系统与所述驾驶员进行交互。
根据本申请的另一方面,提供了一种车机系统的人机交互装置,包括:
第一处理模块,用于根据地图系统,DMS以及从云端获取的驾驶员的基础信息,确定所述驾驶员当前的状态信息;
第二处理模块,用于根据所述状态信息确定与所述驾驶员进行交互的交互内容;
第三处理模块,用于根据所述交互内容与所述驾驶员进行交互。
根据本申请的另一方面,提供了一种电子设备,包括:
至少一个处理器;以及
与所述至少一个处理器通信连接的存储器;其中,
所述存储器存储有可被所述至少一个处理器执行的指令,所述指令被所述至少一个处理器执行,以使所述至少一个处理器能够执行前述任一方面提供的方法。
根据本申请的另一方面,提供了一种存储有计算机指令的非瞬时计算机可读存储介质,所述计算机指令用于使所述计算机执行前述任一方面提供的方法。
根据本申请的技术解决了互动方式比较单一,与用户的交流不能达到较好的效果的问题。
应当理解,本部分所描述的内容并非旨在标识本申请的实施例的关键或重要特征,也不用于限制本申请的范围。本申请的其它特征将通过以下的说明书而变得容易理解。
附图说明
附图用于更好地理解本方案,不构成对本申请的限定。其中:
图1是可以实现本申请实施例的车机系统的人机交互场景图;
图2是根据本申请第一实施例的示意图;
图3是根据本申请又一实施例的示意图;
图4为本申请实施例一的车机系统的人机交互装置示意图;
图5为本申请实施例二的车机系统的人机交互装置示意图;
图6为本申请实施例三的车机系统的人机交互装置示意图;
图7为本申请实施例四的车机系统的人机交互装置示意图;
图8为本申请实施例五的车机系统的人机交互装置示意图;
图9为本申请实施例六的车机系统的人机交互装置示意图;
图10为实现本申请实施例的数据的车机系统的人机交互的电子设备的框图。
具体实施方式
以下结合附图对本申请的示范性实施例做出说明,其中包括本申请实施例的各种细节以助于理解,应当将它们认为仅仅是示范性的。因此,本领域普通技术人员应当认识到,可以对这里描述的实施例做出各种改变和修改,而不会背离本申请的范围和精神。同样,为了清楚和简明,以下的描述中省略了对公知功能和结构的描述。
随着经济的发展和科技的进步,汽车作为一种常见的代步工具在人们生活中得到越来越普及的应用,为人们出游、上下班、运送货物等方面提供了很多便利。驾驶汽车需要有一定的知识基础和实践基础,在开车的过程中需要注意力的绝对集中,驾驶员的核心注意力一定是被“开车”这件事占据的,所以,驾驶员不允许和车机系统进行“沉浸式”的交互。除了注意力以外,驾驶人员的双手还需要放在双向盘和变速杆上。偶尔可以单手操作,另一只手完成跟汽车的交互,但是交互距离非常局限,只能在臂长范围内操作。而视线也无法离开路面超过3秒,需要时刻观察四周情况,注意路况,以便有突发能够做到及时处理。尤其是在高速驾驶的场景下,1秒钟内汽车的移动距离最高可达30多米,眨眼间,可能就会造成惨剧。然而也不能要求驾驶员进入驾驶室以后就切断与外界的一切沟通联系,人和汽车间的交互是必须的,例如,驾驶员在行驶过程中因为临时情况需要更改目的地,不能按照导航中预先设定的路线继续行驶,需要手动更改导航的目的地地址等。
现有技术中,人机交互主要通过语音触发方式进行。通常做法是用户通过语音向车机系统发送语音命令,车机系统分析语音命令并执行对应的操作。然而,该方法的互动方式比较单一,不能实时根据驾驶员的状态进行情感交互达到与用户共情,交流不能达到较好的效果。
在上述现有技术存在的问题基础上,图1是可以实现本申请实施例的车机系统的人机交互方法场景图。如图1所示,车辆通过与云端连接,获取驾驶员的基础信息。另外在车辆中还可以设置地图系统以及驾驶员监控系统(driver monitoring system,DMS)。可选的,地图系统还可以是与车辆建立无线连接的终端设备,例如,驾驶员的手机。其中,该车辆中部署的车机系统可与云端连接并进行数据传输。在本申请的方案的具体实现过程中,车辆可以在行驶过程中,与云端进行交互获取相应信息,也可以提前从云端中下载相应信息到车机系统中,对此本方案不做限制。常规的处理方式,车辆向云端发送连接请求,获取到相关权限后与云端建立连接,并获取云端存储的驾驶员的基础信息。此外可以结合车辆中的地图系统以及DMS,获取到相关信息后分析处理得到该驾驶员的当前的状态信息,该状态信息用于确定驾驶员的精神,情绪,还有行程,日程计划等状态。在车机系统根据前述的相关信息确定了驾驶员当前的状态信息之后,可根据驾驶员的状态信息指定与驾驶员的交互内容,并根据该内容主动执行交互。
本申请提供一种车机系统的人机交互方法、装置、设备以及存储介质,应用于中的计算机技术中的人工智能,以达到使得人机交互方法的互动方式更为丰富,与用户产生较好交流的效果。
本申请提供的车机系统的人机交互方法的整体思路是基于对驾驶员本身的分析,在确定需要与驾驶员进行交互时,通过车机系统主动与驾驶员产生交互,并根据驾驶员的实时状态为驾驶员提供相应服务,避免驾驶员因主动操作车机系统无法专心驾驶车辆而带来的安全隐患。
下面通过几个具体实施例对本申请提供的车机系统的人机交互方法分别进行说明。
图2是根据本申请第一实施例的示意图,具体步骤如下:
S101:根据地图系统,DMS以及从云端获取的驾驶员的基础信息,确定驾驶员当前的状态信息。
在本申请实施例中,车机系统需要获取驾驶员当前的状态信息,由于所需要的信息量较大,直接存储在车机系统中可能会造成系统运行卡顿不流畅的问题,因此,需要将驾驶员的基本信息上传到云端,在需要进行人机交互时,车机系统可以从云端中调取驾驶员的基础信息并进行分析。
在该方案的具体实现中,车机系统确定的驾驶员的状态信息,可以是情绪状态,驾驶状态,还可以是行程信息或者日程信息等其他的状态。为了获取上述这些状态信息,还需要获取驾驶员的目的地,或者驾驶员在驾驶过程中的图像和音频,因此,车机系统还需要通过地图系统和DMS获取相关的数据,以确定驾驶员的状态信息。
在本步骤中,车机系统从云端获取驾驶员的基础信息,方便对驾驶员的状态进行分析。其中基础信息主要包括身高,体重,性别,年龄,生日以及结婚日期等信息。车机系统可通过基础信息分析出需要特别注意的节日或者日期,即确定日程信息,如结婚纪念日,生日等,也可以根据驾驶员的身高,年龄,性别等信息,产生更个性化的方案。
车机系统还需要通过地图系统以及DMS获取相关的数据,其中,地图系统可以查看驾驶员的起始位置、目的地等导航信息,查看目的地的天气情况,以及驾驶的道路上的监控信息,将信息进行汇总,并反馈给驾驶员,方便规避掉驾驶车辆路上的危险。DMS是一种能够采集驾驶员的图像,进行图像处理,人脸识别,能够对驾驶员的行为进行实时分析和报警的系统。DMS可以获取驾驶员在行车过程中的音频信息,面部图像以及肢体动作分析驾驶员的情绪状态和驾驶员的驾驶状态,便于后续为驾驶员提供不同的交互方式和交互内容。可以识别驾驶员的危险动作,根据依据驾驶员疲劳识别,进行驾驶员异常动作监测,如喝酒,调整收音机,摆弄头发或化妆品,手机通话,发短信等。同时还可以对驾驶员的注意力进行监测,如面向后面,与乘客交谈等。还可以对驾驶员身份进行识别,依据识别结果可与云端进行对比,功能关联可依据驾驶员身份进行座椅调节、后视镜调节等。
车机系统根据地图系统,DMS以及驾驶员的基础信息,分析确定驾驶员当前的状态信息。其中,状态信息包括以下至少一种:驾驶员的情绪状态,驾驶员的驾驶状态,行程信息,日程信息。其中,可以结合DMS以及车内的麦克风获取驾驶员的视频和语音分析获取驾驶员的情绪状态,驾驶员的驾驶状态。
通过DMS获取驾驶员的视频,检测驾驶员的面部表情,根据不同的面部表情将驾驶员的情绪状态分为喜悦,愤怒,悲伤,快乐四类。示例性的,当检测到驾驶员的情绪状态为愤怒时,同时提取此时麦克风采集的声音进行声纹分析,根据正常驾驶状态下驾驶员与车机系统交互时的语音,设定驾驶员的语调,语速,声音大小的正常波动范围,分析此时驾驶员声音的语调,语速以及声音大小是否处于正常的波动范围内。当驾驶员的语调偏高,语速加快,声音变大,说明此时驾驶员的情绪状态不稳定,可能会因为情绪高亢而发生安全问题。同时,还可以根据不同的驾驶情绪设定不同的关键词,当车机系统检测驾驶员的语音中出现大量该关键词时,说明此时驾驶员的驾驶情绪为该关键词所代表的状态。如当设定“我好开心”代表驾驶员的驾驶情绪为快乐,当车机系统检测出驾驶员的语音中出现超过5次“我好开心”时,则代表此时驾驶员的驾驶情绪为开心。
示例性的,通过DMS获取驾驶员的视频,根据驾驶员的眼睛,人脸以及其他面部特征进行检测。当检测到驾驶员的闭眼睁眼的时间间隔超过正常驾驶状态时的时间间隔时,同时提取此时麦克风采集的声音进行声纹分析,分析此时驾驶员声音的语调,语速以及声音大小等。当发现驾驶员的语调偏低,语速降低,声音变小并且伴随着哈欠声,说明此时驾驶员的驾驶状态过于疲劳或者注意力不集中。
同时,可以根据驾驶员的基本信息以及地图系统获取驾驶员的行程信息,方便得知驾驶员的出发地和目的地,通过查询目的地的天气情况,以及驾驶的道路上的监控信息,将信息进行汇总,并反馈给驾驶员,方便规避掉驾驶车辆路上的危险。获取驾驶员的日程信息方便对驾驶员发送祝福语音,如可以获取驾驶员的结婚纪念日、生日等信息,并为驾驶员送上祝福。
S102:根据状态信息确定与驾驶员进行交互的交互内容。
在本步骤中,分析车机系统所获取的状态信息,并根据该状态信息确定与驾驶员的交互内容。在一种具体的实施方式中,车机系统可以获取驾驶员的情绪状况,当驾驶员的驾驶情绪处于愤怒状态时,则车机系统确定与驾驶员进行语音交互,用于提醒驾驶员是够需要播放音乐缓解疲惫状态,平复心情。
在另一种具体的实施方式中,车机系统可以获取驾驶员的驾驶状态,当驾驶员状态不佳或存在疲惫驾驶的时候,则车机系统确定与驾驶员进行语音交互,用于提醒该驾驶员注意行车安全,礼让行人。
在又一种具体的实施方式中,车机系统可以获取行程信息,其中,行程信息是根据地图系统中设置的导航目的地获取的,可选的,该地图系统可以是车机系统自带的导航系统,也可以是蓝牙连接的手机上的导航系统。车机系统可以根据获取的目的地信息,查看该地点的天气情况,确定与驾驶员进行语音交互,用于提醒驾驶员及时最好准备。示例性的,若驾驶员从A市驾驶车辆前往B市,车机系统获取到驾驶员前往B市的信息后,查看B市的天气,发现B市在驾驶员预计到达时间有降雨情况,确定与驾驶员进行语音交互,用于提醒驾驶员B市可能会出现降雨情况,注意及时备好雨具。
同时,车机系统还可以根据本次出行的路线获取道路上的监控信息,确定与驾驶员进行语音交互,用于提醒驾驶员行车规范。例如,获取到驾驶员本次出行的行程信息,根据行程信息查看到此次出行路线共有9个路口存在监控摄像头,确定与驾驶员进行语音交互,用于提醒驾驶员注意行车规范,避免被监控拍到违规驾车的行为。
在再一种具体的实施方式中,车机系统可以获取日程信息,其中,日程信息是根据所述驾驶员的基础信息从云端存储驾驶员的数据中获取的。根据日程信息确定与驾驶员进行语音交互,用于对提醒驾驶员的具体行程。同样,车机系统还可以根据日程信息,判断今日是否为特殊日期,如节日,结婚纪念日,生日等等,确定与驾驶员进行语音交互,对驾驶员送上祝福。
S103:根据交互内容,通过车机系统与驾驶员进行交互。
在本步骤中,车机系统根据不同的交互内容对驾驶员进行交互。根据交互内容,车机系统通过播放语音提示,向驾驶员确认是否需要播放音乐,驾驶员通过语音对该问题进行回复。车机系统获取驾驶员的答复语音,并将该语音进行识别,获取到驾驶员的答复内容。若识别出答复内容为确认播放音乐,则车机系统根据交互内容播放音乐列表中的音乐。在一种具体的实施方式中,若根据驾驶员的情绪状况获取的交互内容是为驾驶员播放节奏轻快的音乐,缓解驾驶员的疲劳,则车机系统通过播放语音提示,如“小度看到您的状态有些疲劳,给您唱首歌好吗?”。驾驶员接收到语音提示并做出答复,车机系统获取并识别驾驶员的答复内容,若获取到驾驶员允许播放音乐,则在节奏轻快音乐列表中进行音乐播放。
示例性的,若根据日程信息获取的交互内容是在预先设置1月1日13:00要提醒驾驶员需要前往B市,则车机系统获取到该交互内容后,会提前一段时间对驾驶员进行语音互动,提醒该驾驶员行程的时间和具体内容,如“小度温馨提醒,您今日需要于13:00出发前往B市,是否需要再次提醒?”。可选的,一段时间是一个固定值,如一个小时,半个小时,15分钟等,可以由驾驶员自己设定,本方案不做具体限制。驾驶员接收到语音提示并做出答复,车机系统获取并识别驾驶员的答复内容,若识别驾驶员的回复为不需要再次提醒,则将本次提醒关闭;若驾驶员未对本次提醒做出回复或回复为需要再次提醒,则可以设置一定时间后进行再次提醒。同样,一定时间是一个固定值,如5分钟,10分钟,15分钟等,可以由驾驶员自己设定,本方案不做作具体限制。
示例性的,若根据日程信息获取的交互内容是今天是驾驶员的生日,为驾驶员送上生日祝福,则车机系统向驾驶员播放语音提示,如“今天是你的生日小度给你唱首歌好吗?”。驾驶员接收到语音提示并做出答复,车机系统获取并识别驾驶员的答复内容,若获取到驾驶员允许播放音乐,则为驾驶员播放生日快乐歌并在屏幕中弹出相应的祝福语或画面。
示例性的,当车机系统检测到驾驶员长时间不说话,在某个地点停留过长时间,行驶路程过长时,则主动与驾驶员产生交互,在屏幕中弹出车机系统中舒缓心情的图片,并通过语音系统与驾驶员进行对话,如“堵车也不要烦闷,小度可以陪你聊聊天哦”,主动引导驾驶员与车机系统之间产生交互,缓解驾驶员的烦闷心情。
在另一种具体的实施方式中,车机系统还可以根据交互内容,通过播放语音提醒,对驾驶员进行提示,示例性的,若根据驾驶员的驾驶状态获取的交互内容是提醒驾驶员注意行车安全,礼让行人。则车机系统向驾驶员播放语音提示,如“请注意安全驾驶,礼让行人哦”。
示例性的,若根据行程信息获取的交互内容是目的地B市存在有降雨情况,提醒驾驶员增添衣物,注意带雨具。则车机系统向驾驶员播放语音提示,如“B市预计在下车时间会有降雨,请带好雨伞,注意增加衣服哦”。可选的,若交互内容是提醒驾驶员行驶过程中有监控分布,注意安全驾车,则车机系统向驾驶员播放语音提示,如“前方有监控拍照,请注意安全驾车”。
图3是根据本申请又一实施例的示意图,如图3所示,车机系统根据获取到的驾驶员的基本信息,驾驶状态以及行程相关信息对驾驶员的当前状态进行判断处理,如是否出现疲劳驾驶,目的地天气是否与出发地相差较大,今日是否为特殊节日等等。根据相应的驾驶状态制定不同的交互内容,并通过语音助手进行主动交互,如在特殊节日送上语音祝福,在驾驶员疲劳驾驶时播放舒缓音乐或提醒驾驶员休息一下等。
本申请实施例提供的车机系统的人机交互方法,车机系统通过根据地图系统,DMS以及从云端获取的驾驶员的基础信息,确定驾驶员当前的状态信息。之后根据状态信息确定与驾驶员进行交互的交互内容,并根据交互内容与驾驶员进行交互。通过根据交互内容主动和驾驶员进行交互,能够使得人机交互方法的互动方式更为丰富,与用户的交流达到较好的效果。
图4为本申请实施例一的车机系统的人机交互装置示意图,如图4所示,该车机系统的人机交互的装置10包括:
第一处理模块11,用于根据地图系统,DMS以及从云端获取的驾驶员的基础信息,确定所述驾驶员当前的状态信息;
第二处理模块12,用于根据所述状态信息确定与所述驾驶员进行交互的交互内容;
第三处理模块13,用于根据所述交互内容与所述驾驶员进行交互。
可选的,所述状态信息包括以下至少一种:所述驾驶员的情绪状态,所述驾驶员的驾驶状态,行程信息,日程信息。
图5为本申请实施例二的车机系统的人机交互装置示意图,如图5所示,在上述实施例的基础上,该车机系统的人机交互方法的装置10中的第二处理模块12包括:
第一处理子模块121,用于在所述情绪状态指示所述驾驶员情绪不佳或者所述驾驶状态指示所述驾驶员疲劳驾驶时,则确定与所述驾驶员进行语音交互,并确定所述交互内容,所述交互内容用于提醒所述驾驶员是否需要播放音乐。
图6为本申请实施例三的车机系统的人机交互装置示意图,如图6所示,在上述实施例的基础上,该车机系统的人机交互方法的装置10中的第三处理模块13包括:
播放子模块131,用于根据所述交互内容,通过车机系统播放语音提示,所述语音提示用于提醒所述驾驶员是否需要播放音乐;
语音识别子模块132,用于通过所述车机系统获取驾驶员的答复语音,并对所述答复语音进行识别;
所述播放子模块131还用于若识别出所述答复语音的内容确认播放音乐,则通过所述车机系统播放音乐列表中的音乐。
可选的,所述情绪状态指示是根据所述DMS获取到的驾驶员的音频信息,面部图像以及肢体动作中的至少一个确定的。
图7为本申请实施例四的车机系统的人机交互装置示意图,如图7所示,在上述实施例的基础上,该车机系统的人机交互方法的装置10中的第二处理模块12还包括:
第二处理子模块122,用于根据所述行程信息中指示的目的地,获取所述目的地的天气情况,所述行程信息是根据地图系统中设置的导航目的地获取的;
第三处理子模块123,用于根据所述天气情况,确定与所述驾驶员进行语音交互,并确定所述交互内容,所述交互内容用于提醒所述驾驶员注意目的地的天气情况。
图8为本申请实施例五的车机系统的人机交互装置示意图,如图8所示,在上述实施例的基础上,该车机系统的人机交互方法的装置10中的第二处理模块12还包括:
第四处理子模块124,用于若根据所述日程信息确定当前日期为设定日程日期,则确定与所述驾驶员进行语音交互,并确定所述交互内容,所述交互内容用于提醒所述驾驶员当前日期对应的日程;
或者,
第五处理子模块125,用于若根据所述日程信息确定当前日期为节日或者驾驶员的生日,则确定与所述驾驶员进行语音交互,并确定所述交互内容,所述交互内容为祝福消息或者祝福音乐;
其中,所述日程信息是根据所述驾驶员的基础信息从云端存储的所述驾驶员的数据中获取的。
图9为本申请实施例六的车机系统的人机交互装置示意图,如图9所示,在上述实施例的基础上,该车机系统的人机交互方法的装置10中的第一处理模块11包括:
第一确定子模块111,用于根据车辆或者导航设备中的地图系统,确定所述行程信息;
和/或,
第二确定子模块112,用于根据所述驾驶员的基础信息确定所述日程信息,所述基础信息包括所述驾驶员的性别,出生日期以及年龄;
和/或,
第三确定子模块113,用于根据所述DMS获取所述驾驶员在驾驶过程中的视频和音频,并根据所述视频和所述音频确定所述驾驶员的情绪状态和所述驾驶员的驾驶状态。
前述实施例提供的车机系统的人机交互装置,用于实现前述任一方法实施例提供的技术方案,其实现原理和技术效果类似,在此不再赘述。
图10为实现本申请实施例的数据的车机系统的人机交互的电子设备的框图,如图10所示,该电子设备50包括:一个或多个处理器51、存储器52以及用于连接各部件的接口,包括高速接口和低速接口。各个部件利用不同的总线互相连接,并且可以被安装在公共主板上或者根据需要以其它方式安装。处理器51可以对在电子设备内执行的指令进行处理,包括存储在存储器52中或者存储器52上以在外部输入/输出装置(诸如,耦合至接口的显示设备)上显示GUI的图形信息的指令。在其它实施方式中,若需要,可以将多个处理器51和/或多条总线与多个存储器52一起使用。同样,可以连接多个电子设备,各个设备提供部分必要的操作(例如,作为服务器阵列、一组刀片式服务器、或者多处理器系统)。图10中以一个处理器51为例。
存储器52即为本申请所提供的非瞬时计算机可读存储介质。其中,所述存储器52存储有可由至少一个处理器51执行的指令,以使所述至少一个处理器51执行本申请所提供的车机系统的人机交互的方法。
本申请还提供一种非瞬时计算机可读存储介质存储计算机指令,该计算机指令用于使计算机执行本申请所提供的车机系统的人机交互的方法。
具体实现中,存储器52可作为一种非瞬时计算机可读存储介质,可用于存储非瞬时软件程序、非瞬时计算机可执行程序以及模块。处理器51通过运行存储在存储器52中的非瞬时软件程序、指令以及模块,从而执行服务器的各种功能应用以及车机系统的人机交互,即实现上述方法实施例中的车机系统的人机交互的方法。
存储器52可以包括存储程序区和存储数据区,其中,存储程序区可存储操作系统、至少一个功能所需要的应用程序;存储数据区可存储根据车机系统的人机交互的方法的电子设备的使用所创建的数据等。此外,存储器52可以包括高速随机存取存储器,还可以包括非瞬时存储器,例如至少一个磁盘存储器件、闪存器件、或其他非瞬时固态存储器件。在一些实施例中,存储器52可选包括相对于处理器51远程设置的存储器,这些远程存储器可以通过网络连接至车机系统的人机交互的方法的电子设备。上述网络的实例包括但不限于互联网、企业内部网、局域网、移动通信网及其组合。
此处描述的系统和技术的各种实施方式可以在数字电子电路系统、集成电路系统、专用ASIC(专用集成电路)、计算机硬件、固件、软件、和/或它们的组合中实现。这些各种实施方式可以包括:实施在一个或者多个计算机程序中,该一个或者多个计算机程序可在包括至少一个可编程处理器的可编程系统上执行和/或解释,该可编程处理器可以是专用或者通用可编程处理器,可以从存储系统、至少一个输入装置、和至少一个输出装置接收数据和指令,并且将数据和指令传输至该存储系统、该至少一个输入装置、和该至少一个输出装置。
这些计算机程序(也称作程序、软件、软件应用、或者代码)包括可编程处理器的机器指令,并且可以利用高级过程和/或面向对象的编程语言、和/或汇编/机器语言来实施这些计算机程序。如本文使用的,术语“机器可读介质”和“计算机可读介质”指的是用于将机器指令和/或数据提供给可编程处理器的任何计算机程序产品、设备、和/或装置(例如,磁盘、光盘、存储器、可编程逻辑装置(PLD)),包括,接收作为机器可读信号的机器指令的机器可读介质。术语“机器可读信号”指的是用于将机器指令和/或数据提供给可编程处理器的任何信号。
为了提供与用户的交互,可以在计算机上实施此处描述的系统和技术,该计算机具有:用于向用户显示信息的显示装置(例如,CRT(阴极射线管)或者LCD(液晶显示器)监视器);以及键盘和指向装置(例如,鼠标或者轨迹球),用户可以通过该键盘和该指向装置来将输入提供给计算机。其它种类的装置还可以用于提供与用户的交互;例如,提供给用户的反馈可以是任何形式的传感反馈(例如,视觉反馈、听觉反馈、或者触觉反馈);并且可以用任何形式(包括声输入、语音输入或者、触觉输入)来接收来自用户的输入。
可以将此处描述的系统和技术实施在包括后台部件的计算系统(例如,作为数据服务器)、或者包括中间件部件的计算系统(例如,应用服务器)、或者包括前端部件的计算系统(例如,具有图形用户界面或者网络浏览器的用户计算机,用户可以通过该图形用户界面或者该网络浏览器来与此处描述的系统和技术的实施方式交互)、或者包括这种后台部件、中间件部件、或者前端部件的任何组合的计算系统中。可以通过任何形式或者介质的数字数据通信(例如,通信网络)来将系统的部件相互连接。通信网络的示例包括:局域网(LAN)、广域网(WAN)和互联网。
本申请实施例提供的车机系统的人机交互方法,通过根据从云端获取的驾驶员的基础信息,地图系统以及DMS,确定驾驶员当前的状态信息。之后根据状态信息确定与驾驶员进行交互的交互内容,并根据交互内容与驾驶员进行交互。通过对根据交互内容主动和驾驶员进行交互,能够使得人机交互方法的互动方式更为丰富,与用户的交流达到较好的效果。
应该理解,可以使用上面所示的各种形式的流程,重新排序、增加或删除步骤。例如,本发申请中记载的各步骤可以并行地执行也可以顺序地执行也可以不同的次序执行,只要能够实现本申请公开的技术方案所期望的结果,本文在此不进行限制。
上述具体实施方式,并不构成对本申请保护范围的限制。本领域技术人员应该明白的是,根据设计要求和其他因素,可以进行各种修改、组合、子组合和替代。任何在本申请的精神和原则之内所作的修改、等同替换和改进等,均应包含在本申请保护范围之内。
Claims (18)
1.一种车机系统的人机交互方法,包括:
根据地图系统,驾驶员监控系统DMS以及从云端获取的驾驶员的基础信息,确定所述驾驶员当前的状态信息;
根据所述状态信息确定与所述驾驶员进行交互的交互内容;
根据所述交互内容,通过车机系统与所述驾驶员进行交互。
2.根据权利要求1所述的方法,其中,所述状态信息包括以下至少一种:所述驾驶员的情绪状态,所述驾驶员的驾驶状态,行程信息,日程信息。
3.根据权利要求2所述的方法,其中,所述状态信息包括所述驾驶员的情绪状态或者驾驶状态,则所述根据所述状态信息确定与所述驾驶员进行交互的交互内容,包括:
在所述情绪状态指示所述驾驶员情绪不佳或者所述驾驶状态指示所述驾驶员疲劳驾驶时,则确定与所述驾驶员进行语音交互,并确定所述交互内容,所述交互内容用于提醒所述驾驶员是否需要播放音乐。
4.根据权利要求3所述的方法,其中,所述根据所述交互内容,通过车机系统与所述驾驶员进行交互,包括:
根据所述交互内容,通过车机系统播放语音提示,所述语音提示用于提醒所述驾驶员是否需要播放音乐;
通过所述车机系统获取驾驶员的答复语音,并对所述答复语音进行识别;
若识别出所述答复语音的内容确认播放音乐,则通过所述车机系统播放音乐列表中的音乐。
5.根据权利要求3或4所述的方法,其中,所述情绪状态指示是根据所述DMS获取到的驾驶员的音频信息,面部图像以及肢体动作中的至少一个确定的。
6.根据权利要求2所述的方法,其中,所述状态信息包括行程信息,则所述根据所述状态信息确定与所述驾驶员进行交互的交互内容,包括:
根据所述行程信息中指示的目的地,获取所述目的地的天气情况,所述行程信息是根据地图系统中设置的导航目的地获取的;
根据所述天气情况,确定与所述驾驶员进行语音交互,并确定所述交互内容,所述交互内容用于提醒所述驾驶员注意目的地的天气情况。
7.根据权利要求2所述的方法,其中,所述状态信息包括日程信息,则所述根据所述状态信息确定与所述驾驶员进行交互的交互内容,包括:
若根据所述日程信息确定当前日期为设定日程日期,则确定与所述驾驶员进行语音交互,并确定所述交互内容,所述交互内容用于提醒所述驾驶员当前日期对应的日程;
或者,
若根据所述日程信息确定当前日期为节日或者驾驶员的生日,则确定与所述驾驶员进行语音交互,并确定所述交互内容,所述交互内容为祝福消息或者祝福音乐;
其中,所述日程信息是根据所述驾驶员的基础信息从云端存储的所述驾驶员的数据中获取的。
8.根据权利要求2-4、6或7中任一项所述的方法,其中,所述根据从云端获取的驾驶员的基础信息,地图系统以及DMS,确定所述驾驶员当前的状态信息,包括:
根据车辆或者导航设备中的地图系统,确定所述行程信息;
和/或,
根据所述驾驶员的基础信息确定所述日程信息,所述基础信息包括所述驾驶员的性别,出生日期以及年龄;
和/或,
根据所述DMS获取所述驾驶员在驾驶过程中的视频和音频,并根据所述视频和所述音频确定所述驾驶员的情绪状态和所述驾驶员的驾驶状态。
9.一种车机系统的人机交互装置,包括:
第一处理模块,用于根据地图系统,DMS以及从云端获取的驾驶员的基础信息,确定所述驾驶员当前的状态信息;
第二处理模块,用于根据所述状态信息确定与所述驾驶员进行交互的交互内容;
第三处理模块,用于根据所述交互内容与所述驾驶员进行交互。
10.根据权利要求9所述的装置,其中,所述状态信息包括以下至少一种:所述驾驶员的情绪状态,所述驾驶员的驾驶状态,行程信息,日程信息。
11.根据权利要求10所述的装置,其中,所述第二处理模块包括:
第一处理子模块,用于在所述情绪状态指示所述驾驶员情绪不佳或者所述驾驶状态指示所述驾驶员疲劳驾驶时,则确定与所述驾驶员进行语音交互,并确定所述交互内容,所述交互内容用于提醒所述驾驶员是否需要播放音乐。
12.根据权利要求11所述的装置,其中,所述第三处理模块包括:
播放子模块,用于根据所述交互内容,通过车机系统播放语音提示,所述语音提示用于提醒所述驾驶员是否需要播放音乐;
语音识别子模块,用于通过所述车机系统获取驾驶员的答复语音,并对所述答复语音进行识别;
所述播放子模块还用于若识别出所述答复语音的内容确认播放音乐,则通过所述车机系统播放音乐列表中的音乐。
13.根据权利要求11或12所述的装置,其中,所述情绪状态指示是根据所述DMS获取到的驾驶员的音频信息,面部图像以及肢体动作中的至少一个确定的。
14.根据权利要求10所述的装置,其中,所述第二处理模块包括:
第二处理子模块,用于根据所述行程信息中指示的目的地,获取所述目的地的天气情况,所述行程信息是根据地图系统中设置的导航目的地获取的;
第三处理子模块,用于根据所述天气情况,确定与所述驾驶员进行语音交互,并确定所述交互内容,所述交互内容用于提醒所述驾驶员注意目的地的天气情况。
15.根据权利要求10所述的装置,其中,所述第二处理模块包括:
第四处理子模块,用于若根据所述日程信息确定当前日期为设定日程日期,则确定与所述驾驶员进行语音交互,并确定所述交互内容,所述交互内容用于提醒所述驾驶员当前日期对应的日程;
或者,
第五处理子模块,用于若根据所述日程信息确定当前日期为节日或者驾驶员的生日,则确定与所述驾驶员进行语音交互,并确定所述交互内容,所述交互内容为祝福消息或者祝福音乐;
其中,所述日程信息是根据所述驾驶员的基础信息从云端存储的所述驾驶员的数据中获取的。
16.根据权利要求10-12、14或15中任一项所述的装置,其中,所述第一处理模块包括:
第一确定子模块,用于根据车辆或者导航设备中的地图系统,确定所述行程信息;
和/或,
第二确定子模块,用于根据所述驾驶员的基础信息确定所述日程信息,所述基础信息包括所述驾驶员的性别,出生日期以及年龄;
和/或,
第三确定子模块,用于根据所述DMS获取所述驾驶员在驾驶过程中的视频和音频,并根据所述视频和所述音频确定所述驾驶员的情绪状态和所述驾驶员的驾驶状态。
17.一种电子设备,包括:
至少一个处理器;以及
与所述至少一个处理器通信连接的存储器;其中,
所述存储器存储有可被所述至少一个处理器执行的指令,所述指令被所述至少一个处理器执行,以使所述至少一个处理器能够执行权利要求1-8中任一项所述的方法。
18.一种存储有计算机指令的非瞬时计算机可读存储介质,所述计算机指令用于使所述计算机执行权利要求1-8中任一项所述的方法。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202011017179.3A CN112193255A (zh) | 2020-09-24 | 2020-09-24 | 车机系统的人机交互方法、装置、设备以及存储介质 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202011017179.3A CN112193255A (zh) | 2020-09-24 | 2020-09-24 | 车机系统的人机交互方法、装置、设备以及存储介质 |
Publications (1)
Publication Number | Publication Date |
---|---|
CN112193255A true CN112193255A (zh) | 2021-01-08 |
Family
ID=74015252
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN202011017179.3A Pending CN112193255A (zh) | 2020-09-24 | 2020-09-24 | 车机系统的人机交互方法、装置、设备以及存储介质 |
Country Status (1)
Country | Link |
---|---|
CN (1) | CN112193255A (zh) |
Cited By (2)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN113212448A (zh) * | 2021-04-30 | 2021-08-06 | 恒大新能源汽车投资控股集团有限公司 | 一种智能交互方法和装置 |
CN115610349A (zh) * | 2022-10-21 | 2023-01-17 | 阿维塔科技(重庆)有限公司 | 一种基于多模融合的智能交互方法及装置 |
Citations (5)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN105620393A (zh) * | 2015-12-25 | 2016-06-01 | 莆田市云驰新能源汽车研究院有限公司 | 一种自适应的车辆人机交互方法及其系统 |
CN107640159A (zh) * | 2017-08-04 | 2018-01-30 | 吉利汽车研究院(宁波)有限公司 | 一种自动驾驶人机交互系统及方法 |
WO2019025120A1 (de) * | 2017-08-01 | 2019-02-07 | Audi Ag | Verfahren zum ermitteln eines benutzerfeedbacks bei einer benutzung eines geräts durch einen benutzer sowie steuervorrichtung zum durchführen des verfahrens |
CN110202587A (zh) * | 2019-05-15 | 2019-09-06 | 北京梧桐车联科技有限责任公司 | 信息交互方法及装置、电子设备及存储介质 |
CN111261153A (zh) * | 2018-12-03 | 2020-06-09 | 现代自动车株式会社 | 车辆语音命令处理装置和方法 |
-
2020
- 2020-09-24 CN CN202011017179.3A patent/CN112193255A/zh active Pending
Patent Citations (5)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN105620393A (zh) * | 2015-12-25 | 2016-06-01 | 莆田市云驰新能源汽车研究院有限公司 | 一种自适应的车辆人机交互方法及其系统 |
WO2019025120A1 (de) * | 2017-08-01 | 2019-02-07 | Audi Ag | Verfahren zum ermitteln eines benutzerfeedbacks bei einer benutzung eines geräts durch einen benutzer sowie steuervorrichtung zum durchführen des verfahrens |
CN107640159A (zh) * | 2017-08-04 | 2018-01-30 | 吉利汽车研究院(宁波)有限公司 | 一种自动驾驶人机交互系统及方法 |
CN111261153A (zh) * | 2018-12-03 | 2020-06-09 | 现代自动车株式会社 | 车辆语音命令处理装置和方法 |
CN110202587A (zh) * | 2019-05-15 | 2019-09-06 | 北京梧桐车联科技有限责任公司 | 信息交互方法及装置、电子设备及存储介质 |
Cited By (3)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN113212448A (zh) * | 2021-04-30 | 2021-08-06 | 恒大新能源汽车投资控股集团有限公司 | 一种智能交互方法和装置 |
CN115610349A (zh) * | 2022-10-21 | 2023-01-17 | 阿维塔科技(重庆)有限公司 | 一种基于多模融合的智能交互方法及装置 |
CN115610349B (zh) * | 2022-10-21 | 2024-05-17 | 阿维塔科技(重庆)有限公司 | 一种基于多模融合的智能交互方法及装置 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
US10875525B2 (en) | Ability enhancement | |
US7949529B2 (en) | Mobile systems and methods of supporting natural language human-machine interactions | |
CN105527710B (zh) | 一种智能抬头显示系统 | |
KR102414456B1 (ko) | 대화 시스템, 이를 포함하는 차량 및 유고 정보 처리 방법 | |
US7693720B2 (en) | Mobile systems and methods for responding to natural language speech utterance | |
JP7340940B2 (ja) | エージェント装置、エージェント装置の制御方法、およびプログラム | |
US9928833B2 (en) | Voice interface for a vehicle | |
JP2023052086A (ja) | 端末装置及び車両 | |
KR20190041569A (ko) | 대화 시스템, 이를 포함하는 차량 및 대화 서비스 처리 방법 | |
US11189274B2 (en) | Dialog processing system, vehicle having the same, dialog processing method | |
JP6903380B2 (ja) | 情報提示装置、情報提示システム、端末装置 | |
JP6339545B2 (ja) | 情報処理装置、情報処理方法及びプログラム | |
WO2022022162A1 (zh) | 一种车辆提醒方法和车辆 | |
WO2016129276A1 (ja) | 情報提供方法、サーバ、情報端末装置、システム及び音声対話システム | |
CN112193255A (zh) | 车机系统的人机交互方法、装置、设备以及存储介质 | |
KR20210000466A (ko) | 차량 내 제스처 입력을 이용한 제어 시스템 | |
US20200319841A1 (en) | Agent apparatus, agent apparatus control method, and storage medium | |
JP6321597B2 (ja) | 情報処理装置、情報処理方法及びプログラム | |
JP2020154996A (ja) | 情報処理システム、エージェントシステム、情報処理方法、およびプログラム | |
CN113320537A (zh) | 一种车辆控制方法和系统 | |
US11518398B2 (en) | Agent system, agent server, method of controlling agent server, and storage medium | |
JP6387287B2 (ja) | 不明事項解消処理システム | |
US20200320997A1 (en) | Agent apparatus, agent apparatus control method, and storage medium | |
KR20200000621A (ko) | 대화 시스템, 이를 포함하는 차량 및 대화 처리 방법 | |
US20200321006A1 (en) | Agent apparatus, agent apparatus control method, and storage medium |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination | ||
TA01 | Transfer of patent application right | ||
TA01 | Transfer of patent application right |
Effective date of registration: 20211025 Address after: 100176 101, floor 1, building 1, yard 7, Ruihe West 2nd Road, Beijing Economic and Technological Development Zone, Daxing District, Beijing Applicant after: Apollo Intelligent Connectivity (Beijing) Technology Co., Ltd. Address before: 2 / F, baidu building, 10 Shangdi 10th Street, Haidian District, Beijing 100085 Applicant before: BEIJING BAIDU NETCOM SCIENCE AND TECHNOLOGY Co.,Ltd. |