CN111739201A - 车辆的交互方法及装置、电子设备、存储介质和车辆 - Google Patents

车辆的交互方法及装置、电子设备、存储介质和车辆 Download PDF

Info

Publication number
CN111739201A
CN111739201A CN202010589901.4A CN202010589901A CN111739201A CN 111739201 A CN111739201 A CN 111739201A CN 202010589901 A CN202010589901 A CN 202010589901A CN 111739201 A CN111739201 A CN 111739201A
Authority
CN
China
Prior art keywords
vehicle
cabin
face recognition
digital person
occupant
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Pending
Application number
CN202010589901.4A
Other languages
English (en)
Inventor
周群艳
曾彬
李轲
吴阳平
许亮
郑世静
伍俊
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Shanghai Sensetime Lingang Intelligent Technology Co Ltd
Original Assignee
Shanghai Sensetime Lingang Intelligent Technology Co Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Shanghai Sensetime Lingang Intelligent Technology Co Ltd filed Critical Shanghai Sensetime Lingang Intelligent Technology Co Ltd
Priority to CN202010589901.4A priority Critical patent/CN111739201A/zh
Publication of CN111739201A publication Critical patent/CN111739201A/zh
Priority to KR1020217038845A priority patent/KR20220002550A/ko
Priority to PCT/CN2020/134305 priority patent/WO2021258656A1/zh
Priority to JP2021558538A priority patent/JP7302005B2/ja
Pending legal-status Critical Current

Links

Images

Classifications

    • GPHYSICS
    • G07CHECKING-DEVICES
    • G07CTIME OR ATTENDANCE REGISTERS; REGISTERING OR INDICATING THE WORKING OF MACHINES; GENERATING RANDOM NUMBERS; VOTING OR LOTTERY APPARATUS; ARRANGEMENTS, SYSTEMS OR APPARATUS FOR CHECKING NOT PROVIDED FOR ELSEWHERE
    • G07C9/00Individual registration on entry or exit
    • G07C9/00174Electronically operated locks; Circuits therefor; Nonmechanical keys therefor, e.g. passive or active electrical keys or other data carriers without mechanical keys
    • G07C9/00563Electronically operated locks; Circuits therefor; Nonmechanical keys therefor, e.g. passive or active electrical keys or other data carriers without mechanical keys using personal physical data of the operator, e.g. finger prints, retinal images, voicepatterns
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V20/00Scenes; Scene-specific elements
    • G06V20/50Context or environment of the image
    • G06V20/52Surveillance or monitoring of activities, e.g. for recognising suspicious objects
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V40/00Recognition of biometric, human-related or animal-related patterns in image or video data
    • G06V40/10Human or animal bodies, e.g. vehicle occupants or pedestrians; Body parts, e.g. hands
    • G06V40/16Human faces, e.g. facial parts, sketches or expressions
    • G06V40/172Classification, e.g. identification
    • GPHYSICS
    • G07CHECKING-DEVICES
    • G07CTIME OR ATTENDANCE REGISTERS; REGISTERING OR INDICATING THE WORKING OF MACHINES; GENERATING RANDOM NUMBERS; VOTING OR LOTTERY APPARATUS; ARRANGEMENTS, SYSTEMS OR APPARATUS FOR CHECKING NOT PROVIDED FOR ELSEWHERE
    • G07C9/00Individual registration on entry or exit
    • G07C9/00174Electronically operated locks; Circuits therefor; Nonmechanical keys therefor, e.g. passive or active electrical keys or other data carriers without mechanical keys
    • G07C9/00896Electronically operated locks; Circuits therefor; Nonmechanical keys therefor, e.g. passive or active electrical keys or other data carriers without mechanical keys specially adapted for particular uses

Landscapes

  • Engineering & Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Multimedia (AREA)
  • Theoretical Computer Science (AREA)
  • Health & Medical Sciences (AREA)
  • General Health & Medical Sciences (AREA)
  • Oral & Maxillofacial Surgery (AREA)
  • Human Computer Interaction (AREA)
  • User Interface Of Digital Computer (AREA)
  • Fittings On The Vehicle Exterior For Carrying Loads, And Devices For Holding Or Mounting Articles (AREA)
  • Collating Specific Patterns (AREA)

Abstract

本公开涉及一种车辆的交互方法及装置、电子设备、存储介质和车辆。所述方法包括:控制设置在车辆的车舱外的摄像头采集车舱外的视频流;根据所述车舱外的视频流进行人脸识别,得到车舱外的人脸识别结果;响应于所述车舱外的人脸识别结果为人脸识别成功,控制车门解锁和/或打开,并控制设置在车舱内的显示设备显示数字人,以通过所述数字人进行人机交互。

Description

车辆的交互方法及装置、电子设备、存储介质和车辆
技术领域
本公开涉及车辆技术领域,尤其涉及一种车辆的交互方法及装置、电子设备、存储介质和车辆。
背景技术
随着车辆技术和计算机技术的发展,车辆的人机交互功能越来越受到用户的关注。人机交互是指人与计算机之间使用某种对话语言,以一定的交互方式,为完成确定任务的人与计算机之间的信息交换过程。车辆的人机交互旨在实现人与车辆之间的交互。如何在车辆的人机交互中提高车辆的响应速度,是亟待解决的技术问题。
发明内容
本公开提供了一种车辆的交互技术方案。
根据本公开的一方面,提供了一种车辆的交互方法,包括:
控制设置在车辆的车舱外的摄像头采集车舱外的视频流;
根据所述车舱外的视频流进行人脸识别,得到车舱外的人脸识别结果;
响应于所述车舱外的人脸识别结果为人脸识别成功,控制车门解锁和/或打开,并控制设置在车舱内的显示设备显示数字人,以通过所述数字人进行人机交互。
在本公开实施例中,通过控制设置在车辆的车舱外的摄像头采集车舱外的视频流,根据所述车舱外的视频流进行人脸识别,得到车舱外的人脸识别结果,响应于所述车舱外的人脸识别结果为人脸识别成功,控制车门解锁和/或打开,并控制设置在车舱内的显示设备显示数字人,以通过所述数字人进行人机交互,由此能够在车舱外人脸识别成功后,立即启动数字人,利用从车舱外人脸识别成功到所述车辆的乘员进入车辆之间的这一段时间,使数字人做好与乘员进行交互的准备,从而在所述乘员进入车辆后,数字人能够更快地为所述乘员提供服务,进而能够提高乘员的乘车体验。
在一种可能的实现方式中,所述响应于所述车舱外的人脸识别结果为人脸识别成功,控制车门解锁和/或打开,并控制设置在车舱内的显示设备显示数字人,包括:
响应于所述车舱外的人脸识别结果为人脸识别成功,在控制车门解锁和/或打开的同时,控制设置在车舱内的显示设备显示数字人。
在该实现方式中,“控制车门解锁和/或打开”与“控制设置在车舱内的显示设备显示数字人”可以响应于所述车舱外的人脸识别结果为人脸识别成功并行执行,由此能够尽快启动数字人。
在一种可能的实现方式中,
在人脸识别成功之前,所述显示设备处于关闭状态或者休眠状态,所述数字人对应的进程处于终止状态或者休眠状态;
所述控制设置在车舱内的显示设备显示数字人,包括:启动或唤醒设置在车舱内的显示设备;创建或唤醒所述数字人对应的进程,并运行所述数字人对应的进程,以将数字人显示在所述显示设备上。
在该实现方式中,通过在人脸识别成功之前,设置在车舱内的显示设备处于关闭状态或者休眠状态,所述数字人对应的进程处于终止状态或者休眠状态,由此能够节省通过数字人实现车辆的人机交互所需的功耗。通过响应于所述车舱外的人脸识别结果为人脸识别成功,启动或唤醒所述显示设备,创建或唤醒所述数字人对应的进程,并运行所述数字人对应的进程,以将数字人显示在所述显示设备上,由此能够使数字人提前做好与乘员进行交互的准备,从而能够提高乘员的乘车体验。
在一种可能的实现方式中,在启动或唤醒设置在车舱内的显示设备的同时,创建或唤醒所述数字人对应的进程。
在该实现方式中,可以响应于所述车舱外的人脸识别结果为人脸识别成功,并行执行“启动或唤醒设置在车舱内的显示设备”与“创建或唤醒所述数字人对应的进程”,由此能够尽快将数字人显示在所述显示设备上。
在一种可能的实现方式中,所述创建或唤醒所述数字人对应的进程,包括:
获取与所述车舱外的人脸识别结果对应的数字人形象信息和/或交互方式信息;
根据所述数字人形象信息和/或交互方式信息,创建或唤醒所述数字人对应的进程。
在该实现方式中,通过根据与所述车舱外的人脸识别结果对应的数字人形象信息,创建或唤醒所述数字人对应的进程,由此能够通过所述显示设备显示不同形象的数字人,即,不同乘员对应的数字人的形象可以不同,从而能够丰富数字人的形象,满足乘员的个性化需求,提升乘车乐趣,使乘员感受到人机交互的温暖;通过根据与所述车舱外的人脸识别结果对应的交互方式信息,创建或唤醒所述数字人对应的进程,由此能够通过不同的交互方式进行人机交互,即,不同乘员对应的人机交互方式可以不同,从而能够满足乘员的个性化需求,提升乘车乐趣,使乘员感受到人机交互的温暖。
在一种可能的实现方式中,
在人脸识别成功之前,设置在所述车舱内的摄像头处于关闭状态或者休眠状态;
在所述得到车舱外的人脸识别结果之后,所述方法还包括:响应于所述车舱外的人脸识别结果为人脸识别成功,启动或唤醒设置在所述车舱内的摄像头,并控制所述车舱内的摄像头采集车舱内的视频流;基于所述车舱内的视频流,通过所述数字人与所述车辆的乘员进行交互。
在该实现方式中,通过在人脸识别成功之前,控制设置在所述车辆的车舱内的摄像头处于关闭状态或者休眠状态,由此能够节省车辆的人机交互所需的功耗。通过响应于所述车舱外的人脸识别结果为人脸识别成功,启动或唤醒设置在所述车辆的车舱内的摄像头,控制所述车舱内的摄像头采集车舱内的视频流,并基于所述车舱内的视频流,通过所述数字人与所述车辆的乘员进行交互,由此能够在车舱外人脸识别成功后,立即启动或唤醒设置在所述车辆的车舱内的摄像头,即,利用从车舱外人脸识别成功到所述乘员进入车辆之间的这一段时间,启动或唤醒所述车舱内的摄像头,使所述车舱内的摄像头能够及时采集到车舱内的视频流,从而在乘员进入车舱后,能够及时与乘员进行交互。
在一种可能的实现方式中,所述响应于所述车舱外的人脸识别结果为人脸识别成功,启动或唤醒设置在所述车舱内的摄像头,包括:
响应于所述车舱外的人脸识别结果为人脸识别成功,在控制车门解锁和/或打开的同时,启动或唤醒设置在所述车舱内的摄像头。
在该实现方式中,可以响应于所述车舱外的人脸识别结果为人脸识别成功,并行执行“控制车门解锁和/或打开”与“启动或唤醒设置在所述车舱内的摄像头”,由此能够尽快启动或唤醒设置在所述车辆的车舱内的摄像头。
在一种可能的实现方式中,所述基于所述车舱内的视频流,通过所述数字人与所述车辆的乘员进行交互,包括:
根据所述车舱内的视频流中的图像,检测乘员的位置信息;所述乘员的位置信息包括:所述乘员在所述图像中的第一相对位置信息,和/或,所述乘员在所述车舱内的第二相对位置信息;
根据所述乘员的位置信息,在所述显示设备上生成并显示所述数字人转向所述乘员的动画。
在该实现方式中,通过根据所述乘员的位置信息,在所述显示设备上生成并显示所述数字人转向所述乘员的动画,由此能够使数字人在朝向所述乘员的状态下与所述乘员进行交互,从而能够使数字人与乘员交互的方式更加符合人与人之间的交互习惯,交互过更加自然。
在一种可能的实现方式中,所述根据所述车舱内的视频流中的图像,检测所述乘员的位置信息,包括:
在所述图像对应的图像坐标系中,检测所述乘员的至少一个部位所在的图像坐标区域;
将所述图像坐标区域作为所述乘员在所述图像中的所述第一相对位置信息;和/或,根据所述图像坐标系与所述车舱内的空间坐标系之间的映射关系,确定所述图像坐标区域对应的车舱内空间坐标区域,并将所述车舱内空间坐标区域作为所述乘员在所述车舱内的所述第二相对位置信息。
根据该实现方式,可以根据所述乘员的至少一个部分在所述图像对应的图像坐标系中的位置,和/或,可以根据所述乘员的至少一个部分在所述车舱内的空间坐标系中的位置,准确地确定所述乘员的位置信息。
在一种可能的实现方式中,所述根据所述乘员的位置信息,在所述显示设备上生成并显示所述数字人转向所述乘员的动画,包括:
根据预先建立的位置信息与数字人的朝向之间的映射关系,确定与所述乘员的位置信息对应的目标朝向;
在所述显示设备上生成并显示所述数字人转向所述目标朝向的动画。
在该实现方式中,通过预先建立位置信息与数字人的朝向之间的映射关系,并根据预先建立的位置信息与数字人的朝向之间的映射关系,确定与所述乘员的位置信息对应的目标朝,在所述显示设备上生成并显示所述数字人转向所述目标朝向的动画,由此能够使数字人在准确地朝向所述乘员的状态下与所述乘员进行交互。
在一种可能的实现方式中,所述根据所述乘员的位置信息,在所述显示设备上生成并显示所述数字人转向所述乘员的动画,包括:
响应于检测到的乘员的位置信息为多名乘员的多个位置信息,将所述多个位置信息中的一个位置信息确定为目标位置信息;
在所述显示设备上生成并显示所述数字人转向所述目标位置信息对应的乘员的动画。
在该实现方式中,通过根据多名乘员的多个位置信息中的目标位置信息,确定数字人的转向,由此在车舱内存在多名乘员的情况下,能够使数字人在朝向其中一名乘员的状态下进行人机交互,从而能够使数字人与乘员交互的方式更加符合人与人之间的交互习惯,交互过更加自然。
在一种可能的实现方式中,所述将所述多个位置信息中的一个位置信息确定为目标位置信息,包括:
根据预先确定的不同位置信息的优先级顺序,将所述多个位置信息中优先级最高的位置信息确定为目标位置信息;其中,所述不同位置信息的优先级顺序包括以下至少之一:
对应驾驶区域的位置信息的优先级,高于对应副驾驶区域的位置信息的优先级;
对应前排区域的位置信息的优先级,高于对应后排区域的位置信息的优先级;
对应专用座椅的位置信息的优先级,高于对应非专用座椅的位置信息的优先级。
根据该实现方式,在车舱内存在多名乘员的情况下,能够使数字人在朝向优先级最高的乘员的状态下进行人机交互。
在一种可能的实现方式中,所述基于所述车舱内的视频流,通过所述数字人与所述车辆的乘员进行交互,包括:
响应于根据所述车舱内的视频流检测到所述乘员进入所述车辆和/或已落座,通过所述数字人发出针对所述乘员的欢迎信息。
在该实现方式,由于在人脸识别成功后,数字人立即被启动,因此能够提高所述数字人的响应速度。因此,在检测到乘员进入所述车辆和/或已落座后,所述数字人能够更快地发出针对所述乘员的欢迎信息,从而能够提高所述乘员的乘车体验。
在一种可能的实现方式中,所述基于所述车舱内的视频流,通过所述数字人与所述车辆的乘员进行交互,包括:
获取与所述车舱外的人脸识别结果对应的欢迎信息,在所述显示设备上生成并显示所述数字人做出所述欢迎信息的动画。
在该实现方式中,通过根据所述车舱外的人脸识别结果确定欢迎信息,由此能够通过数字人提供个性化的乘车服务。
在一种可能的实现方式中,所述基于所述车舱内的视频流,通过所述数字人与所述车辆的乘员进行交互,包括:
响应于根据所述车舱内的视频流检测到所述乘员的下车意图,在所述显示设备上生成并显示所述数字人与所述乘员进行下车交互的动画。
在该实现方式中,通过响应于根据所述车舱内的视频流检测到所述乘员的下车意图,控制所述数字人与所述乘员进行下车交互,由此能够进一步提高所述乘员的乘车体验。
在一种可能的实现方式中,所述基于所述车舱内的视频流,通过所述数字人与所述车辆的乘员进行交互,包括:
响应于所述车辆的车况信息满足预设条件,通过所述数字人发出向所述乘员提示所述车辆的车况的提示信息。
在该实现方式中,通过在所述车辆的车况信息满足预设条件时,通过所述数字人发出提示信息,由此能够帮助所述乘员及时注意到所述车辆的车况。
根据本公开的一方面,提供了一种车辆的交互装置,包括:
第一控制模块,用于控制设置在车辆的车舱外的摄像头采集车舱外的视频流;
人脸识别模块,用于根据所述车舱外的视频流进行人脸识别,得到车舱外的人脸识别结果;
第二控制模块,用于响应于所述车舱外的人脸识别结果为人脸识别成功,控制车门解锁和/或打开,并控制设置在车舱内的显示设备显示数字人,以通过所述数字人进行人机交互。
在一种可能的实现方式中,所述第二控制模块用于:
响应于所述车舱外的人脸识别结果为人脸识别成功,在控制车门解锁和/或打开的同时,控制设置在车舱内的显示设备显示数字人。
在一种可能的实现方式中,
在人脸识别成功之前,所述显示设备处于关闭状态或者休眠状态,所述数字人对应的进程处于终止状态或者休眠状态;
所述第二控制模块用于:启动或唤醒设置在车舱内的显示设备;创建或唤醒所述数字人对应的进程,并运行所述数字人对应的进程,以将数字人显示在所述显示设备上。
在一种可能的实现方式中,所述第二控制模块用于在启动或唤醒设置在车舱内的显示设备的同时,创建或唤醒所述数字人对应的进程。
在一种可能的实现方式中,所述第二控制模块用于:
获取与所述车舱外的人脸识别结果对应的数字人形象信息和/或交互方式信息;
根据所述数字人形象信息和/或交互方式信息,创建或唤醒所述数字人对应的进程。
在一种可能的实现方式中,
在人脸识别成功之前,设置在所述车舱内的摄像头处于关闭状态或者休眠状态;
所述装置还包括:第三控制模块,用于响应于所述车舱外的人脸识别结果为人脸识别成功,启动或唤醒设置在所述车舱内的摄像头,并控制所述车舱内的摄像头采集车舱内的视频流;基于所述车舱内的视频流,通过所述数字人与所述车辆的乘员进行交互。
在一种可能的实现方式中,所述第三控制模块用于:
响应于所述车舱外的人脸识别结果为人脸识别成功,在控制车门解锁和/或打开的同时,启动或唤醒设置在所述车舱内的摄像头。
在一种可能的实现方式中,所述第三控制模块用于:
根据所述车舱内的视频流中的图像,检测乘员的位置信息;所述乘员的位置信息包括:所述乘员在所述图像中的第一相对位置信息,和/或,所述乘员在所述车舱内的第二相对位置信息;
根据所述乘员的位置信息,在所述显示设备上生成并显示所述数字人转向所述乘员的动画。
在一种可能的实现方式中,所述第三控制模块用于:
在所述图像对应的图像坐标系中,检测所述乘员的至少一个部位所在的图像坐标区域;
将所述图像坐标区域作为所述乘员在所述图像中的所述第一相对位置信息;和/或,根据所述图像坐标系与所述车舱内的空间坐标系之间的映射关系,确定所述图像坐标区域对应的车舱内空间坐标区域,并将所述车舱内空间坐标区域作为所述乘员在所述车舱内的所述第二相对位置信息。
在一种可能的实现方式中,所述第三控制模块用于:
根据预先建立的位置信息与数字人的朝向之间的映射关系,确定与所述乘员的位置信息对应的目标朝向;
在所述显示设备上生成并显示所述数字人转向所述目标朝向的动画。
在一种可能的实现方式中,所述第三控制模块用于:
响应于检测到的乘员的位置信息为多名乘员的多个位置信息,将所述多个位置信息中的一个位置信息确定为目标位置信息;
在所述显示设备上生成并显示所述数字人转向所述目标位置信息对应的乘员的动画。
在一种可能的实现方式中,所述第三控制模块用于:
根据预先确定的不同位置信息的优先级顺序,将所述多个位置信息中优先级最高的位置信息确定为目标位置信息;其中,所述不同位置信息的优先级顺序包括以下至少之一:
对应驾驶区域的位置信息的优先级,高于对应副驾驶区域的位置信息的优先级;
对应前排区域的位置信息的优先级,高于对应后排区域的位置信息的优先级;
对应专用座椅的位置信息的优先级,高于对应非专用座椅的位置信息的优先级。
在一种可能的实现方式中,
所述第三控制模块用于以下至少之一:
响应于根据所述车舱内的视频流检测到所述乘员进入所述车辆和/或已落座,通过所述数字人发出针对所述乘员的欢迎信息;
获取与所述车舱外的人脸识别结果对应的欢迎信息,在所述显示设备上生成并显示所述数字人做出所述欢迎信息的动画;
响应于根据所述车舱内的视频流检测到所述乘员的下车意图,在所述显示设备上生成并显示所述数字人与所述乘员进行下车交互的动画;
响应于所述车辆的车况信息满足预设条件,通过所述数字人发出向所述乘员提示所述车辆的车况的提示信息。
根据本公开的一方面,提供了一种电子设备,包括:一个或多个处理器;用于存储可执行指令的存储器;其中,所述一个或多个处理器被配置为调用所述存储器存储的可执行指令,以执行上述方法。
根据本公开的一方面,提供了一种计算机可读存储介质,其上存储有计算机程序指令,所述计算机程序指令被处理器执行时实现上述方法。
根据本公开的一方面,提供了一种车辆,包括车主体、车舱域控制器、设置在所述车辆的车舱外的摄像头和设置在车舱内的显示设备,所述车舱域控制器包括相互连接的视频处理芯片和微控制单元,所述视频处理芯片还与所述车舱外的摄像头和所述显示设备连接,所述微控制单元还与所述车主体连接;
所述车舱外的摄像头用于采集车舱外的视频流;
所述视频处理芯片用于根据所述车舱外的视频流进行人脸识别,得到车舱外的人脸识别结果,响应于所述车舱外的人脸识别结果为人脸识别成功,生成车门解锁指令和/或车门打开指令,并将所述车门解锁指令和/或所述车门打开指令发送给所述微控制单元,并响应于所述车舱外的人脸识别结果为人脸识别成功,启动或唤醒所述显示设备,创建或唤醒所述数字人对应的进程,并运行所述数字人对应的进程,将所述数字人显示在所述显示设备上;
所述微控制单元用于根据所述车门解锁指令和/或所述车门打开指令,控制所述车主体解锁车门和/或打开车门。
通过所述视频处理芯片响应于所述车舱外的人脸识别结果为人脸识别成功,生成车门解锁指令和/或车门打开指令,启动或唤醒所述显示设备,创建或唤醒所述数字人对应的进程,并运行所述数字人对应的进程,将所述数字人显示在所述显示设备上,由此能够实现刷脸开车门,并能够在车舱外人脸识别成功后,立即启动数字人,利用从车舱外人脸识别成功到所述车辆的乘员进入车辆之间的这一段时间,使数字人做好与乘员进行交互的准备,从而在所述乘员进入车辆后,数字人能够更快地为所述乘员提供服务,进而能够提高乘员的乘车体验。
在一种可能的实现方式中,所述视频处理芯片用于响应于所述车舱外的人脸识别结果为人脸识别成功,在生成车门解锁指令和/或车门打开指令的同时,启动或唤醒所述显示设备,并创建或唤醒所述数字人对应的进程。
在该实现方式中,视频处理芯片可以响应于所述车舱外的人脸识别结果为人脸识别成功,并行执行“生成车门解锁指令和/或车门打开指令”“启动或唤醒所述显示设备”与“创建或唤醒所述数字人对应的进程”,由此能够尽快将数字人显示在所述显示设备上。
在一种可能的实现方式中,
所述车辆还包括:设置在所述车舱内的摄像头,与所述视频处理芯片连接;
所述视频处理芯片还用于响应于所述车舱外的人脸识别结果为人脸识别成功,启动或唤醒所述车舱内的摄像头,控制所述车舱内的摄像头采集车舱内的视频流。
在该实现方式中,通过所述视频处理芯片响应于所述车舱外的人脸识别结果为人脸识别成功,启动或唤醒设置在所述车辆的车舱内的摄像头,控制所述车舱内的摄像头采集车舱内的视频流,并基于所述车舱内的视频流,通过所述数字人与所述车辆的乘员进行交互,由此能够在车舱外人脸识别成功后,立即启动或唤醒设置在所述车辆的车舱内的摄像头,即,利用从车舱外人脸识别成功到所述乘员进入车辆之间的这一段时间,启动或唤醒所述车舱内的摄像头,使所述车舱内的摄像头能够及时采集到车舱内的视频流,从而在乘员进入车舱后,能够及时与乘员进行交互。
在一种可能的实现方式中,
所述车辆还包括:唤醒模块,与所述微控制单元连接;
所述微控制单元还用于响应于所述唤醒模块被触发,唤醒处于休眠状态的所述视频处理芯片;
所述视频处理芯片还用于在唤醒后,控制所述车舱外的摄像头采集车舱外的视频流。
在该实现方式中,在所述唤醒模块被触发之前,视频处理芯片可以处于休眠状态以保持低功耗运行,从而能够降低刷脸开车门方式的运行功耗。
在本公开实施例中,通过控制设置在车辆的车舱外的摄像头采集车舱外的视频流,根据所述车舱外的视频流进行人脸识别,得到车舱外的人脸识别结果,响应于所述车舱外的人脸识别结果为人脸识别成功,控制车门解锁和/或打开,并控制设置在车舱内的显示设备显示数字人,以通过所述数字人进行人机交互,由此能够在车舱外人脸识别成功后,立即启动数字人,利用从车舱外人脸识别成功到所述车辆的乘员进入车辆之间的这一段时间,使数字人做好与乘员进行交互的准备,从而在所述乘员进入车辆后,数字人能够更快地为所述乘员提供服务,进而能够提高乘员的乘车体验。
应当理解的是,以上的一般描述和后文的细节描述仅是示例性和解释性的,而非限制本公开。
根据下面参考附图对示例性实施例的详细说明,本公开的其它特征及方面将变得清楚。
附图说明
此处的附图被并入说明书中并构成本说明书的一部分,这些附图示出了符合本公开的实施例,并与说明书一起用于说明本公开的技术方案。
图1示出本公开实施例提供的车辆的交互方法的流程图。
图2示出卡通风格的数字人的示意图。
图3示出写实风格的数字人的示意图。
图4示出数字人执行再见动作的示意图。
图5示出本公开实施例提供的车辆的交互装置的框图。
图6示出本公开实施例提供的车辆的示意图。
图7示出本公开实施例提供的一种电子设备800的框图。
具体实施方式
以下将参考附图详细说明本公开的各种示例性实施例、特征和方面。附图中相同的附图标记表示功能相同或相似的元件。尽管在附图中示出了实施例的各种方面,但是除非特别指出,不必按比例绘制附图。
在这里专用的词“示例性”意为“用作例子、实施例或说明性”。这里作为“示例性”所说明的任何实施例不必解释为优于或好于其它实施例。
本文中术语“和/或”,仅仅是一种描述关联对象的关联关系,表示可以存在三种关系,例如,A和/或B,可以表示:单独存在A,同时存在A和B,单独存在B这三种情况。另外,本文中术语“至少一种”表示多种中的任意一种或多种中的至少两种的任意组合,例如,包括A、B、C中的至少一种,可以表示包括从A、B和C构成的集合中选择的任意一个或多个元素。
另外,为了更好地说明本公开,在下文的具体实施方式中给出了众多的具体细节。本领域技术人员应当理解,没有某些具体细节,本公开同样可以实施。在一些实例中,对于本领域技术人员熟知的方法、手段、元件和电路未作详细描述,以便于凸显本公开的主旨。
图1示出本公开实施例提供的车辆的交互方法的流程图。所述车辆的交互方法的执行主体可以是车辆的交互装置。例如,所述车辆的交互方法可以由终端设备或其它处理设备执行。其中,终端设备可以是车载设备、用户设备(User Equipment,UE)、移动设备、用户终端、终端、蜂窝电话、无绳电话、个人数字助理(Personal Digital Assistant,PDA)、手持设备、计算设备或者可穿戴设备等。在一些可能的实现方式中,所述车辆的交互方法可以通过处理器调用存储器中存储的计算机可读指令的方式来实现。在一种可能的实现方式中,所述车辆的交互方法可以应用于可驾驶的机器设备,例如智能车辆、模拟车辆驾驶的智能车舱等。如图1所示,所述车辆的交互方法包括步骤S11至步骤S13。
在步骤S11中,控制设置在车辆的车舱外的摄像头采集车舱外的视频流。
在本公开实施例中,所述车舱外的摄像头的数量可以是一个或多个。在一种可能的实现方式中,所述车舱外的摄像头可以安装在以下至少一个位置上:至少一根B柱、至少一个车门、至少一个后视镜。例如,所述车舱外的摄像头可以安装在所述车辆的两根B柱和后备箱门上。
在步骤S12中,根据所述车舱外的视频流进行人脸识别,得到车舱外的人脸识别结果。
在本公开实施例中,可以基于所述车舱外的视频流中的至少一个视频帧进行人脸识别,得到车舱外的对象的人脸识别结果。例如,可以提取所述车舱外的视频流中的至少一个视频帧的人脸特征,将所述车舱外的视频流中的至少一个视频帧的人脸特征与预注册的人脸特征进行比对,判断是否属于同一个人的人脸特征,从而得到车舱外的对象的人脸识别结果。其中,预注册的人脸特征可以包括但不限于以下至少之一:所述车辆的车主的人脸特征、所述车辆的常用人(例如所述车辆的车主的家人)的人脸特征、所述车辆的借用人(例如共享车的借用人)的人脸特征、所述车辆的乘客(例如网约车的乘客)的人脸特征。
在步骤S13中,响应于所述车舱外的人脸识别结果为人脸识别成功,控制车门解锁和/或打开,并控制设置在车舱内的显示设备显示数字人,以通过所述数字人进行人机交互。
在一种可能的实现方式中,可以响应于所述车舱外的人脸识别结果为人脸识别成功,获取所述车门的状态信息;若所述车门的状态信息为未解锁,则控制所述车门解锁或者控制车门解锁并打开;若所述车门的状态信息为已解锁且未打开,则控制所述车门打开,由此能够基于人脸识别自动为用户开车门,而无需用户手动拉开车门,从而能够提高用车的便捷性。
在本公开实施例中,所述车辆的乘员可以是搭乘所述车辆的任意人员或者宠物等。例如,所述车辆的乘员可以包括搭乘所述车辆的驾驶员、非驾驶员、乘客、大人、老人、小孩、前排人员、后排人员等中的至少之一。
在本公开实施例中,数字人可以是通过软件生成的虚拟形象。例如,所述数字人可以是三维的虚拟形象。数字人可以是卡通风格、写实风格等。图2示出卡通风格的数字人的示意图。图3示出写实风格的数字人的示意图。本领域技术人员可以根据实际应用场景需求和/或个人喜好灵活设置数字人的风格,本公开实施例对此不作限定。在本公开实施例中,通过利用数字人与所述车辆的乘员进行交互,由此在车辆的人机交互中,实现了车辆的拟人化,从而使得人机交互的方式更加符合人的交互习惯,交互过更加自然,使乘员感受到人机交互的温暖,提升乘车乐趣、舒适感和陪护感,有利于降低驾驶的安全风险。
在本公开实施例中,设置在车舱内的显示设备可以是设置在车舱内的任意显示设备,例如中控显示屏、车载平板设备等。
在本公开实施例中,响应于所述车舱外的人脸识别结果为人脸识别成功,控制设置在车舱内的显示设备显示数字人,即,“控制设置在车舱内的显示设备显示数字人”的时机是“响应于所述车舱外的人脸识别结果为人脸识别成功”。通常,数字人启动需要一定的时间,例如15秒。在本公开实施例中,通过控制设置在车辆的车舱外的摄像头采集车舱外的视频流,根据所述车舱外的视频流进行人脸识别,得到车舱外的人脸识别结果,响应于所述车舱外的人脸识别结果为人脸识别成功,控制车门解锁和/或打开,并控制设置在车舱内的显示设备显示数字人,以通过所述数字人进行人机交互,由此能够在车舱外人脸识别成功后,立即启动数字人,利用从车舱外人脸识别成功到所述乘员进入车辆之间的这一段时间,使数字人做好与乘员进行交互的准备,从而在所述乘员进入车辆后,数字人能够更快地为所述乘员提供服务,进而能够提高乘员的乘车体验。
在一种可能的实现方式中,所述响应于所述车舱外的人脸识别结果为人脸识别成功,控制车门解锁和/或打开,并控制设置在车舱内的显示设备显示数字人,包括:响应于所述车舱外的人脸识别结果为人脸识别成功,在控制车门解锁和/或打开的同时,控制设置在车舱内的显示设备显示数字人。即,在该实现方式中,可以响应于所述车舱外的人脸识别结果为人脸识别成功,并行触发“控制车门解锁和/或打开”的进程与“控制设置在车舱内的显示设备显示数字人”的进程,而非先后触发“控制车门解锁和/或打开”的进程与“控制设置在车舱内的显示设备显示数字人”的进程。其中,“并行触发”不局限于触发的时间戳严格对齐。在该实现方式中,“控制车门解锁和/或打开”与“控制设置在车舱内的显示设备显示数字人”可以响应于所述车舱外的人脸识别结果为人脸识别成功并行执行,由此能够尽快启动数字人。
在一种可能的实现方式中,在人脸识别成功之前,所述显示设备处于关闭状态或者休眠状态,所述数字人对应的进程处于终止状态或者休眠状态;所述控制设置在车舱内的显示设备显示数字人,包括:启动或唤醒设置在车舱内的显示设备;创建或唤醒所述数字人对应的进程,并运行所述数字人对应的进程,以将数字人显示在所述显示设备上。
在该实现方式中,通过在人脸识别成功之前,设置在车舱内的显示设备处于关闭状态或者休眠状态,所述数字人对应的进程处于终止状态或者休眠状态,由此能够节省通过数字人实现车辆的人机交互所需的功耗。通过响应于所述车舱外的人脸识别结果为人脸识别成功,启动或唤醒所述显示设备,创建或唤醒所述数字人对应的进程,并运行所述数字人对应的进程,以将数字人显示在所述显示设备上,由此能够使数字人提前做好与乘员进行交互的准备,从而能够提高乘员的乘车体验。
作为该实现方式的一个示例,在启动或唤醒设置在车舱内的显示设备的同时,创建或唤醒所述数字人对应的进程。即,在该示例中,可以响应于所述车舱外的人脸识别结果为人脸识别成功,并行触发“启动或唤醒设置在车舱内的显示设备”与“创建或唤醒所述数字人对应的进程”的进程,而非先后触发“启动或唤醒设置在车舱内的显示设备”与“创建或唤醒所述数字人对应的进程”的进程。其中,“并行触发”不局限于触发的时间戳严格对齐。在该示例中,可以响应于所述车舱外的人脸识别结果为人脸识别成功,并行执行“启动或唤醒设置在车舱内的显示设备”与“创建或唤醒所述数字人对应的进程”,由此能够尽快将数字人显示在所述显示设备上。
作为该实现方式的一个示例,所述创建或唤醒所述数字人对应的进程,包括:获取与所述车舱外的人脸识别结果对应的数字人形象信息和/或交互方式信息;根据所述数字人形象信息和/或交互方式信息,创建或唤醒所述数字人对应的进程。
在该示例中,可以根据所述车舱外的人脸识别结果对应的乘员的人脸信息,查找与所述乘员对应的数字人形象信息。若存在所述乘员对应的数字人形象信息,则可以至少根据述乘员对应的数字人形象信息,创建或唤醒所述数字人对应的进程,以控制所述显示设备根据所述乘员对应的数字人形象信息显示数字人。在一个例子中,若不存在所述乘员对应的数字人形象信息,则可以生成所述乘员对应的数字人形象信息,并创建所述数字人对应的进程,以控制所述显示设备根据新生成的所述乘员对应的数字人形象信息显示数字人。在另一个例子中,若不存在所述乘员对应的数字人形象信息,则可以根据默认的数字人形象信息,创建或唤醒所述数字人对应的进程,以控制所述显示设备根据默认的数字人形象信息显示数字人。其中,所述乘员的人脸信息可以包括所述乘员的人脸图像和/或根据人脸识别获得的所述乘员的身份信息等。在该示例中,通过根据与所述车舱外的人脸识别结果对应的数字人形象信息,创建或唤醒所述数字人对应的进程,由此能够通过所述显示设备显示不同形象的数字人,即,不同乘员对应的数字人的形象可以不同,从而能够丰富数字人的形象,满足乘员的个性化需求,提升乘车乐趣,使乘员感受到人机交互的温暖。
在该示例中,可以根据所述车舱外的人脸识别结果对应的乘员的人脸信息,查找与所述乘员对应的交互方式信息。若存在所述乘员对应的交互方式信息,则可以至少根据所述乘员对应的交互方式信息,创建或唤醒所述数字人对应的进程,以控制所述数字人根据所述乘员对应的交互方式信息进行人机交互。在一个例子中,若不存在所述乘员对应的交互方式信息,则可以生成所述乘员对应的交互方式信息,并创建所述数字人对应的进程,以控制所述数字人根据所述乘员对应的交互方式信息进行人机交互。在另一个例子中,若不存在所述乘员对应的交互方式信息,则可以根据默认的交互方式信息,创建或唤醒所述数字人对应的进程,以控制所述数字人根据所述乘员对应的交互方式信息进行人机交互。在该示例中,交互方式信息可以包括语调信息、语音模板、表情信息、动作信息等中的至少之一。例如,小孩对应的交互方式可以是较为活泼的,例如语调可以较高,表情和动作可以较丰富;又如,老人对应的语音模板中可以包含较多的敬语。在该示例中,通过根据与所述车舱外的人脸识别结果对应的交互方式信息,创建或唤醒所述数字人对应的进程,由此能够通过不同的交互方式进行人机交互,即,不同乘员对应的人机交互方式可以不同,从而能够满足乘员的个性化需求,提升乘车乐趣,使乘员感受到人机交互的温暖。
在一个例子中,可以根据数字人形象编辑请求,编辑所述乘员对应的数字人形象信息。例如,所述数字人形象编辑请求可以用于编辑所述数字人的发型、五官、肤色、服装等中的至少之一。根据这个例子,乘员可以根据个人喜好定制数字人的形象。
在一个例子中,可以根据数字人形象重置请求,重新生成所述乘员对应的数字人形象信息。根据这个例子,乘员可以随着个人喜好的变化重新定制数字人的形象。
在一个例子中,可以根据交互方式编辑请求,编辑所述乘员对应的交互方式信息。根据这个例子,乘员可以根据个人喜好定制数字人的交互方式。
在一个例子中,可以根据交互方式重置请求,重新生成所述乘员对应的交互方式信息。根据这个例子,乘员可以随着个人喜好的变化重新定制数字人的交互方式。
在本公开实施例中,可以通过控制数字人输出交互反馈信息,来控制数字人与乘员进行交互。例如,所述交互反馈信息可以包括以下至少之一:语音反馈信息、表情反馈信息、动作反馈信息。
在一种可能的实现方式中,在人脸识别成功之前,设置在所述车舱内的摄像头处于关闭状态或者休眠状态;在所述得到车舱外的人脸识别结果之后,所述方法还包括:响应于所述车舱外的人脸识别结果为人脸识别成功,启动或唤醒设置在所述车舱内的摄像头,并控制所述车舱内的摄像头采集车舱内的视频流;基于所述车舱内的视频流,通过所述数字人与所述车辆的乘员进行交互。
在该实现方式中,所述车舱内的摄像头的数量可以是一个或多个。所述车舱内的摄像头可以设置在车舱内的任意位置。例如,所述车舱内的摄像头可以设置在以下至少一个位置上:中控台、仪表盘、前风挡玻璃上、内后视镜。
在该实现方式中,通过在人脸识别成功之前,控制设置在所述车辆的车舱内的摄像头处于关闭状态或者休眠状态,由此能够节省车辆的人机交互所需的功耗。通过响应于所述车舱外的人脸识别结果为人脸识别成功,启动或唤醒设置在所述车辆的车舱内的摄像头,控制所述车舱内的摄像头采集车舱内的视频流,并基于所述车舱内的视频流,通过所述数字人与所述车辆的乘员进行交互,由此能够在车舱外人脸识别成功后,立即启动或唤醒设置在所述车辆的车舱内的摄像头,即,利用从车舱外人脸识别成功到所述乘员进入车辆之间的这一段时间,启动或唤醒所述车舱内的摄像头,使所述车舱内的摄像头能够及时采集到车舱内的视频流,从而在乘员进入车舱后,能够及时与乘员进行交互。
作为该实现方式的一个示例,所述响应于所述车舱外的人脸识别结果为人脸识别成功,启动或唤醒设置在所述车舱内的摄像头,包括:响应于所述车舱外的人脸识别结果为人脸识别成功,在控制车门解锁和/或打开的同时,启动或唤醒设置在所述车舱内的摄像头。在该示例中,可以响应于所述车舱外的人脸识别结果为人脸识别成功,并行执行“控制车门解锁和/或打开”与“启动或唤醒设置在所述车舱内的摄像头”,由此能够尽快启动或唤醒设置在所述车辆的车舱内的摄像头。
作为该实现方式的一个示例,所述基于所述车舱内的视频流,通过所述数字人与所述车辆的乘员进行交互,包括:根据所述车舱内的视频流中的图像,检测乘员的位置信息;所述乘员的位置信息包括:所述乘员在所述图像中的第一相对位置信息,和/或,所述乘员在所述车舱内的第二相对位置信息;根据所述乘员的位置信息,在所述显示设备上生成并显示所述数字人转向所述乘员的动画。
在该示例中,可以基于所述车舱内的视频流中的至少一个图像(即视频帧)进行图像分析,由此基于所述车舱内的视频流中的视觉信息确定所述乘员的位置信息。其中,所述乘员在所述图像中的第一相对位置信息,可以表示所述乘员在所述图像中的位置信息;所述乘员在所述车舱内的第二相对位置信息,可以表示所述乘员在所述车舱内的位置信息。在该示例中,所述数字人转向所述乘员可以包括以下至少之一:所述数字人的身体转向所述乘员;所述数字人的头部转向所述乘员;所述数字人的眼神转向所述乘员。
在该示例中,通过根据所述乘员的位置信息,在所述显示设备上生成并显示所述数字人转向所述乘员的动画,由此能够使数字人在朝向所述乘员的状态下与所述乘员进行交互,从而能够使数字人与乘员交互的方式更加符合人与人之间的交互习惯,交互过更加自然。
在一个例子中,所述根据所述车舱内的视频流中的图像,检测所述乘员的位置信息,包括:在所述图像对应的图像坐标系中,检测所述乘员的至少一个部位所在的图像坐标区域;将所述图像坐标区域作为所述乘员在所述图像中的所述第一相对位置信息。在这个例子中,所述乘员的至少一个部位所在的图像坐标区域,可以表示所述乘员的至少一个部位在所述图像坐标系中所处的坐标区域。根据这个例子,可以根据所述乘员的至少一个部分在所述图像对应的图像坐标系中的位置,准确地确定所述乘员的位置信息。
在另一个例子中,所述根据所述车舱内的视频流中的图像,检测所述乘员的位置信息,包括:在所述图像对应的图像坐标系中,检测所述乘员的至少一个部位所在的图像坐标区域;根据所述图像坐标系与所述车舱内的空间坐标系之间的映射关系,确定所述图像坐标区域对应的车舱内空间坐标区域,并将所述车舱内空间坐标区域作为所述乘员在所述车舱内的所述第二相对位置信息。在这个例子中,所述车舱内的空间坐标系,可以表示所述车舱内的世界坐标系。所述车舱内空间坐标区域,可以表示所述乘员的至少一个部位在所述车舱内的空间坐标系中所处的坐标区域。其中,所述图像坐标系与所述车舱内的空间坐标系之间的映射关系可以采用相机标定的方法预先确定。根据这个例子,可以根据所述乘员的至少一个部分在所述车舱内的空间坐标系中的位置,准确地确定所述乘员的位置信息。
在一个例子中,所述根据所述乘员的位置信息,在所述显示设备上生成并显示所述数字人转向所述乘员的动画,包括:根据预先建立的位置信息与数字人的朝向之间的映射关系,确定与所述乘员的位置信息对应的目标朝向;在所述显示设备上生成并显示所述数字人转向所述目标朝向的动画。
其中,预先建立的位置信息与数字人的朝向之间的映射关系,可以包括:预先建立的第一相对位置信息与数字人的朝向之间的映射关系,和/或,预先建立的第二相对位置信息与数字人的朝向之间的映射关系。在这个例子中,通过预先建立位置信息与数字人的朝向之间的映射关系,并根据预先建立的位置信息与数字人的朝向之间的映射关系,确定与所述乘员的位置信息对应的目标朝,在所述显示设备上生成并显示所述数字人转向所述目标朝向的动画,由此能够使数字人在准确地朝向所述乘员的状态下与所述乘员进行交互。
在一个例子中,所述根据所述乘员的位置信息,在所述显示设备上生成并显示所述数字人转向所述乘员的动画,包括:响应于检测到的乘员的位置信息为多名乘员的多个位置信息,将所述多个位置信息中的一个位置信息确定为目标位置信息;在所述显示设备上生成并显示所述数字人转向所述目标位置信息对应的乘员的动画。在这个例子中,通过根据多名乘员的多个位置信息中的目标位置信息,确定数字人的转向,由此在车舱内存在多名乘员的情况下,能够使数字人在朝向其中一名乘员的状态下进行人机交互,从而能够使数字人与乘员交互的方式更加符合人与人之间的交互习惯,交互过更加自然。
例如,所述将所述多个位置信息中的一个位置信息确定为目标位置信息,包括:根据预先确定的不同位置信息的优先级顺序,将所述多个位置信息中优先级最高的位置信息确定为目标位置信息;其中,所述不同位置信息的优先级顺序包括以下至少之一:对应驾驶区域的位置信息的优先级,高于对应副驾驶区域的位置信息的优先级;对应前排区域的位置信息的优先级,高于对应后排区域的位置信息的优先级;对应专用座椅的位置信息的优先级,高于对应非专用座椅的位置信息的优先级。根据这个例子,在车舱内存在多名乘员的情况下,能够使数字人在朝向优先级最高的乘员的状态下进行人机交互。例如,在根据所述乘员的位置信息,确定所述乘员包括驾驶员和非驾驶员的情况下,可以在所述显示设备上生成并显示所述数字人转向所述驾驶员的动画,由此有利于提升驾车的陪护感,从而有利于降低驾驶的安全风险。
在一个例子中,所述根据所述乘员的位置信息,在所述显示设备上生成并显示所述数字人转向所述乘员的动画,包括:在根据所述车舱内的视频流,确定所述车舱内存在多名乘员的情况下,根据上车时间最近的乘员的位置信息,控制所述数字人转向上车时间最近的乘员的方向。根据这个例子,能够提高每个乘员的乘车体验,使每个乘员上车后都能感受到与车辆进行人机交互的温暖。
作为该实现方式的一个示例,所述基于所述车舱内的视频流,通过所述数字人与所述车辆的乘员进行交互,包括:响应于根据所述车舱内的视频流检测到所述乘员进入所述车辆和/或已落座,通过所述数字人发出针对所述乘员的欢迎信息。
在该示例中,可以通过控制数字人输出语言、表情和动作中的至少之一,以发出针对所述乘员的欢迎信息。在该示例中,由于在人脸识别成功后,数字人立即被启动,因此能够提高所述数字人的响应速度。因此,在检测到乘员进入所述车辆和/或已落座后,所述数字人能够更快地发出针对所述乘员的欢迎信息,从而能够提高所述乘员的乘车体验。
作为该实现方式的一个示例,所述基于所述车舱内的视频流,通过所述数字人与所述车辆的乘员进行交互,包括:获取与所述车舱外的人脸识别结果对应的欢迎信息,在所述显示设备上生成并显示所述数字人做出所述欢迎信息的动画。在该示例中,所述数字人做出所述欢迎信息的动画中,可以包括与所述车舱外的人脸识别结果相应的数字人的肢体动作、表情、嘴型、语音内容、手势等中的一种或多种个性化的动画信息。在该示例中,通过根据所述车舱外的人脸识别结果确定欢迎信息,由此能够通过数字人提供个性化的乘车服务。
在一个例子中,可以根据所述车舱外的人脸识别结果,确定所述乘员的称呼,响应于根据所述车舱内的视频流检测到所述乘员进入所述车辆和/或已落座,根据所述乘员的称呼,通过所述数字人发出针对所述乘员的欢迎信息。根据该示例,在所述乘员进入所述车辆和/或落座后,数字人能够及时根据所述乘员的称呼与乘员打招呼,从而能够进一步提高乘员的乘车体验。
在一个例子中,可以响应于根据所述车舱内的视频流检测到所述乘员进入所述车辆和/或已落座,根据所述乘员的称呼和当前的时间,通过所述数字人发出针对所述乘员的欢迎信息。例如,所述乘员的称呼是XX,当前的时间是上午,则针对所述乘员的欢迎信息可以包括“XX,上午好”的语音信息等。根据当前的时间(例如上午、下午、晚上),可以发出不同的欢迎信息。当然,还可以控制数字人结合表情、动作,发出针对所述乘员的欢迎信息。
在一个例子中,所述基于所述车舱内的视频流,通过所述数字人与所述车辆的乘员进行交互,包括:在根据所述车舱外的人脸识别结果,获取到所述乘员的名字信息的情况下,根据所述乘员的名字信息,确定所述乘员的称呼,和/或,在根据所述人脸识别结果,获取不到所述乘员的名字信息的情况下,识别所述乘员的性别和/或年龄,并根据所述乘员的性别和/或年龄,确定所述乘员的称呼;响应于根据所述车舱内的视频流检测到所述乘员进入所述车辆和/或已落座,根据所述乘员的称呼,通过所述数字人发出针对所述乘员的欢迎信息。其中,所述乘员的名字信息可以包括所述乘员的姓名、姓氏、昵称等中的至少之一。例如,若所述乘员的年龄在第一预设年龄范围(例如2岁~15岁)内,则所述乘员的称呼可以是“小朋友”。又如,若所述乘员的性别为女,且所述乘员的年龄在第二预设年龄范围(例如大于25岁)内,则所述乘员的称呼可以是“女士”。在这个例子中,通过根据所述车舱外的人脸识别结果确定所述乘员的称呼,由此能够通过数字人提供个性化的乘车服务。
作为该实现方式的一个示例,所述基于所述车舱内的视频流,通过所述数字人与所述车辆的乘员进行交互,包括:响应于根据所述车舱内的视频流检测到所述乘员的下车意图,在所述显示设备上生成并显示所述数字人与所述乘员进行下车交互的动画。
在一个例子中,可以根据所述车舱内的视频流,判断所述乘员的安全带是否由佩戴状态转换为解开状态,若是,则可以判定检测到所述乘员的下车意图。在另一个例子中,可以在所述车辆处于停止状态时,根据所述车舱内的视频流,判断所述乘员是否起身,若是,则可以判定检测到所述乘员的下车意图。当然,根据所述车舱内的视频流判断所述乘员是否有下车意图的方式不限于此,本领域技术人员可以根据实际应用场景需求灵活设置。
在该示例中,可以通过控制数字人输出语言、表情和动作中的至少之一,以与所述乘员进行下车交互。例如,可以控制数字人输出“感谢乘车,下次见”的语音信息,当然,还可以控制数字人结合表情、动作,发出针对所述乘员的道别信息。例如,还可以控制数字人执行再见的动作。图4示出数字人执行再见动作的示意图。在一个例子中,还可以根据所述乘员的称呼,控制所述数字人与所述乘员进行下车交互。例如,可以控制数字人输出“XX女士,感谢乘车,下次见”的语音信息。
在该示例中,通过响应于根据所述车舱内的视频流检测到所述乘员的下车意图,控制所述数字人与所述乘员进行下车交互,由此能够进一步提高所述乘员的乘车体验。
作为该实现方式的一个示例,所述基于所述车舱内的视频流,通过所述数字人与所述车辆的乘员进行交互,包括:根据所述车舱内的视频流中的至少一个视频帧处理预定任务,得到任务处理结果;根据所述任务处理结果,控制所述数字人与所述乘员进行交互。例如,可以控制所述车载显示设备显示所述数字人,通过所述数字人与所述车辆的乘员进行交互,控制所述车载显示设备上显示的数字人输出交互反馈信息等。在该示例中,预定任务可以包括但不限于以下至少之一:人脸检测、视线检测、注视区域检测、人脸识别、人体检测、手势检测、人脸属性检测、情绪状态检测、疲劳状态检测、分心状态检测、危险动作检测。
在一种可能的实现方式中,所述方法还包括:响应于根据所述车舱内的视频流检测到所述乘员已落座,可以控制所述数字人询问所述乘员是否需要进行自我介绍,以介绍数字人的功能。例如,可以控制所述数字人发出“需要我自我介绍一下吗?”的语音信息。若接收到“是/好的”等指令,则可以控制数字人结合语音、表情、动作中的至少之一,开始介绍数字人的功能;若接收到“否/不用”等指令,则控制数字人进入等待状态。在一个例子中,可以预先设置数字人在等待状态下的动作。
在一种可能的实现方式中,响应于检测到驾驶员离岗,或者检测到来自于所述乘员的预设语音信息(例如“再见”“休息一下”“Byebye”)等,控制数字人执行再见动作,并关闭数字人。
在一种可能的实现方式中,所述方法还包括:响应于所述车辆的车况信息满足预设条件,通过所述数字人发出向所述乘员提示所述车辆的车况的提示信息。其中,所述车辆的车况信息可以表示能够体现所述车辆的状况的信息。例如,所述车辆的车况信息可以包括所述车辆的油量、车轮状况等。例如,所述预设条件包括油量小于或等于预设油量值,若所述车辆的当前油量满足所述预设条件,则可以通过所述数字人提示所述车辆的当前油量,以提醒驾驶员及时加油。在该实现方式中,通过在所述车辆的车况信息满足预设条件时,通过所述数字人发出提示信息,由此能够帮助所述乘员及时注意到所述车辆的车况。
可以理解,本公开提及的上述各个方法实施例,在不违背原理逻辑的情况下,均可以彼此相互结合形成结合后的实施例,限于篇幅,本公开不再赘述。
本领域技术人员可以理解,在具体实施方式的上述方法中,各步骤的撰写顺序并不意味着严格的执行顺序而对实施过程构成任何限定,各步骤的具体执行顺序应当以其功能和可能的内在逻辑确定。
此外,本公开还提供了车辆的交互装置、电子设备、计算机可读存储介质、程序,上述均可用来实现本公开提供的任一种车辆的交互方法,相应技术方案和描述和参见方法部分的相应记载,不再赘述。
图5示出本公开实施例提供的车辆的交互装置的框图。如图5所示,所述车辆的交互装置包括:第一控制模块51,用于控制设置在车辆的车舱外的摄像头采集车舱外的视频流;人脸识别模块52,用于根据所述车舱外的视频流进行人脸识别,得到车舱外的人脸识别结果;第二控制模块53,用于响应于所述车舱外的人脸识别结果为人脸识别成功,控制车门解锁和/或打开,并控制设置在车舱内的显示设备显示数字人,以通过所述数字人进行人机交互。
在一种可能的实现方式中,所述第二控制模块53用于:响应于所述车舱外的人脸识别结果为人脸识别成功,在控制车门解锁和/或打开的同时,控制设置在车舱内的显示设备显示数字人。
在一种可能的实现方式中,在人脸识别成功之前,所述显示设备处于关闭状态或者休眠状态,所述数字人对应的进程处于终止状态或者休眠状态;所述第二控制模块53用于:启动或唤醒设置在车舱内的显示设备;创建或唤醒所述数字人对应的进程,并运行所述数字人对应的进程,以将数字人显示在所述显示设备上。
在一种可能的实现方式中,所述第二控制模块53用于在启动或唤醒设置在车舱内的显示设备的同时,创建或唤醒所述数字人对应的进程。
在一种可能的实现方式中,所述第二控制模块53用于:获取与所述车舱外的人脸识别结果对应的数字人形象信息和/或交互方式信息;根据所述数字人形象信息和/或交互方式信息,创建或唤醒所述数字人对应的进程。
在一种可能的实现方式中,在人脸识别成功之前,设置在所述车舱内的摄像头处于关闭状态或者休眠状态;所述装置还包括:第三控制模块,用于响应于所述车舱外的人脸识别结果为人脸识别成功,启动或唤醒设置在所述车舱内的摄像头,并控制所述车舱内的摄像头采集车舱内的视频流;基于所述车舱内的视频流,通过所述数字人与所述车辆的乘员进行交互。
在一种可能的实现方式中,所述第三控制模块用于:响应于所述车舱外的人脸识别结果为人脸识别成功,在控制车门解锁和/或打开的同时,启动或唤醒设置在所述车舱内的摄像头。
在一种可能的实现方式中,所述第三控制模块用于:根据所述车舱内的视频流中的图像,检测乘员的位置信息;所述乘员的位置信息包括:所述乘员在所述图像中的第一相对位置信息,和/或,所述乘员在所述车舱内的第二相对位置信息;根据所述乘员的位置信息,在所述显示设备上生成并显示所述数字人转向所述乘员的动画。
在一种可能的实现方式中,所述第三控制模块用于:在所述图像对应的图像坐标系中,检测所述乘员的至少一个部位所在的图像坐标区域;将所述图像坐标区域作为所述乘员在所述图像中的所述第一相对位置信息;和/或,根据所述图像坐标系与所述车舱内的空间坐标系之间的映射关系,确定所述图像坐标区域对应的车舱内空间坐标区域,并将所述车舱内空间坐标区域作为所述乘员在所述车舱内的所述第二相对位置信息。
在一种可能的实现方式中,所述第三控制模块用于:根据预先建立的位置信息与数字人的朝向之间的映射关系,确定与所述乘员的位置信息对应的目标朝向;在所述显示设备上生成并显示所述数字人转向所述目标朝向的动画。
在一种可能的实现方式中,所述第三控制模块用于:响应于检测到的乘员的位置信息为多名乘员的多个位置信息,将所述多个位置信息中的一个位置信息确定为目标位置信息;在所述显示设备上生成并显示所述数字人转向所述目标位置信息对应的乘员的动画。
在一种可能的实现方式中,所述第三控制模块用于:根据预先确定的不同位置信息的优先级顺序,将所述多个位置信息中优先级最高的位置信息确定为目标位置信息;其中,所述不同位置信息的优先级顺序包括以下至少之一:对应驾驶区域的位置信息的优先级,高于对应副驾驶区域的位置信息的优先级;对应前排区域的位置信息的优先级,高于对应后排区域的位置信息的优先级;对应专用座椅的位置信息的优先级,高于对应非专用座椅的位置信息的优先级。
在一种可能的实现方式中,所述第三控制模块用于以下至少之一:响应于根据所述车舱内的视频流检测到所述乘员进入所述车辆和/或已落座,通过所述数字人发出针对所述乘员的欢迎信息;获取与所述车舱外的人脸识别结果对应的欢迎信息,在所述显示设备上生成并显示所述数字人做出所述欢迎信息的动画;响应于根据所述车舱内的视频流检测到所述乘员的下车意图,在所述显示设备上生成并显示所述数字人与所述乘员进行下车交互的动画;响应于所述车辆的车况信息满足预设条件,通过所述数字人发出向所述乘员提示所述车辆的车况的提示信息。
在本公开实施例中,通过控制设置在车辆的车舱外的摄像头采集车舱外的视频流,根据所述车舱外的视频流进行人脸识别,得到车舱外的人脸识别结果,响应于所述车舱外的人脸识别结果为人脸识别成功,控制车门解锁和/或打开,并控制设置在车舱内的显示设备显示数字人,以通过所述数字人进行人机交互,由此能够在车舱外人脸识别成功后,立即启动数字人,利用从车舱外人脸识别成功到所述车辆的乘员进入车辆之间的这一段时间,使数字人做好与乘员进行交互的准备,从而在所述乘员进入车辆后,数字人能够更快地为所述乘员提供服务,进而能够提高乘员的乘车体验。
图6示出本公开实施例提供的车辆的示意图。如图6所示,所述车辆包括车主体100、车舱域控制器200、设置在所述车辆的车舱外的摄像头300和设置在车舱内的显示设备400,所述车舱域控制器200包括相互连接的视频处理芯片210和微控制单元(MicroController Unit,MCU)220,所述视频处理芯片210还与所述车舱外的摄像头300和所述显示设备400连接,所述微控制单元220还与所述车主体100连接;所述车舱外的摄像头300用于采集车舱外的视频流;所述视频处理芯片210用于根据所述车舱外的视频流进行人脸识别,得到车舱外的人脸识别结果,响应于所述车舱外的人脸识别结果为人脸识别成功,生成车门解锁指令和/或车门打开指令,并将所述车门解锁指令和/或所述车门打开指令发送给所述微控制单元220,并响应于所述车舱外的人脸识别结果为人脸识别成功,启动或唤醒所述显示设备400,创建或唤醒所述数字人对应的进程,并运行所述数字人对应的进程,将所述数字人显示在所述显示设备400上;所述微控制单元220用于根据所述车门解锁指令和/或所述车门打开指令,控制所述车主体100解锁车门和/或打开车门。
在本公开实施例中,通过所述视频处理芯片210响应于所述车舱外的人脸识别结果为人脸识别成功,生成车门解锁指令和/或车门打开指令,启动或唤醒所述显示设备400,创建或唤醒所述数字人对应的进程,并运行所述数字人对应的进程,将所述数字人显示在所述显示设备400上,由此能够实现刷脸开车门,并能够在车舱外人脸识别成功后,立即启动数字人,利用从车舱外人脸识别成功到所述车辆的乘员进入车辆之间的这一段时间,使数字人做好与乘员进行交互的准备,从而在所述乘员进入车辆后,数字人能够更快地为所述乘员提供服务,进而能够提高乘员的乘车体验。
在一种可能的实现方式中,所述视频处理芯片210用于响应于所述车舱外的人脸识别结果为人脸识别成功,在生成车门解锁指令和/或车门打开指令的同时,启动或唤醒所述显示设备400,并创建或唤醒所述数字人对应的进程。在该实现方式中,视频处理芯片210可以响应于所述车舱外的人脸识别结果为人脸识别成功,并行执行“生成车门解锁指令和/或车门打开指令”“启动或唤醒所述显示设备400”与“创建或唤醒所述数字人对应的进程”,由此能够尽快将数字人显示在所述显示设备400上。
在一种可能的实现方式中,所述车辆还包括:设置在所述车舱内的摄像头,与所述视频处理芯片210连接;所述视频处理芯片210还用于响应于所述车舱外的人脸识别结果为人脸识别成功,启动或唤醒所述车舱内的摄像头,控制所述车舱内的摄像头采集车舱内的视频流。
在该实现方式中,通过所述视频处理芯片210响应于所述车舱外的人脸识别结果为人脸识别成功,启动或唤醒设置在所述车辆的车舱内的摄像头,控制所述车舱内的摄像头采集车舱内的视频流,并基于所述车舱内的视频流,通过所述数字人与所述车辆的乘员进行交互,由此能够在车舱外人脸识别成功后,立即启动或唤醒设置在所述车辆的车舱内的摄像头,即,利用从车舱外人脸识别成功到所述乘员进入车辆之间的这一段时间,启动或唤醒所述车舱内的摄像头,使所述车舱内的摄像头能够及时采集到车舱内的视频流,从而在乘员进入车舱后,能够及时与乘员进行交互。
在一种可能的实现方式中,所述车辆还包括:唤醒模块,与所述微控制单元220连接;所述微控制单元220还用于响应于所述唤醒模块被触发,唤醒处于休眠状态的所述视频处理芯片210;所述视频处理芯片210还用于在唤醒后,控制所述车舱外的摄像头300采集车舱外的视频流。
作为该实现方式的一个示例,所述唤醒模块可以包括接触式唤醒模块,例如,接触式唤醒模块可以包括微动开关等。例如,所述微动开关可以与所述微控制单元220连接,所述微控制单元220可以响应于所述微动开关被触摸,唤醒处于休眠状态的所述视频处理芯片210。在一个例子中,所述微动开关安装在以下至少一个位置上:至少一个车门的门把手、所述车辆的B柱。在一个例子中,所述微动开关在检测到被触摸时,可以向微控制单元220发送触发动作信号。所述微控制单元220可以响应于所述触发动作信号,唤醒所述视频处理芯片210。
作为该实现方式的另一个示例,所述唤醒模块可以包括非接触式唤醒模块,例如,非接触式唤醒模块可以包括距离传感器等。例如,所述距离传感器可以包括红外距离传感器、超声波距离传感器、蓝牙距离传感器等中的至少之一。所述距离传感器可以与所述微控制单元220连接,所述微控制单元220可以控制所述距离传感器持续获取车舱外的对象与所述距离传感器之间的距离,且所述微控制单元220响应于所述距离传感器检测到人接近所述车辆,唤醒处于休眠状态的所述视频处理芯片210。在一个例子中,所述距离传感器安装在以下至少一个位置上:所述车辆的B柱、至少一个车门、至少一个后视镜、所述车辆的车舱内。
作为该实现方式的另一个示例,所述唤醒模块可以包括接触式唤醒模块和非接触式唤醒模块。
在该实现方式中,在所述唤醒模块被触发之前(例如在所述微动开关被触摸之前或者在检测到人接近所述车辆之前),视频处理芯片210可以处于休眠状态以保持低功耗运行,从而能够降低刷脸开车门方式的运行功耗。
作为该实现方式的一个示例,所述微控制单元220可以在所述车辆处于休眠状态或处于休眠且车门未解锁状态时,控制所述距离传感器持续获取车舱外的对象与所述距离传感器之间的距离。其中,车辆的休眠状态可以表示车辆中除微控制单元220以及距离传感器和/或微动开关以外的模块均休眠的状态。在车辆不处于休眠状态时,车内通常有驾驶员,因此,在车辆不处于休眠状态时,通常可以由驾驶员操作来控制车门解锁。在这个例子中,可以仅在所述车辆处于休眠状态或处于休眠且车门未解锁状态时,通过距离传感器持续获取车舱外的对象与所述距离传感器之间的距离,而在所述车辆不处于休眠状态或处于休眠但车门非未解锁状态时,无需通过距离传感器测距,由此能够降低功耗。
在一种可能的实现方式中,在所述唤醒处于休眠状态的所述视频处理芯片210之后,所述方法还包括:若在预设时间内未采集到人脸图像,或者在预设时间内未通过人脸识别,则控制所述视频处理芯片210进入休眠状态。根据该实现方式能够降低刷脸开车门方式的功耗。
在一些实施例中,本公开实施例提供的装置和车辆具有的功能或包含的模块可以用于执行上文方法实施例描述的方法,其具体实现可以参照上文方法实施例的描述,为了简洁,这里不再赘述。
本公开实施例还提供一种计算机可读存储介质,其上存储有计算机程序指令,所述计算机程序指令被处理器执行时实现上述方法。其中,所述计算机可读存储介质可以是非易失性计算机可读存储介质,或者可以是易失性计算机可读存储介质。
本公开实施例还提供了一种计算机程序产品,包括计算机可读代码,当计算机可读代码在设备上运行时,设备中的处理器执行用于实现如上任一实施例提供的车辆的交互方法的指令。
本公开实施例还提供了另一种计算机程序产品,用于存储计算机可读指令,指令被执行时使得计算机执行上述任一实施例提供的车辆的交互方法的操作。
本公开实施例还提供一种电子设备,包括:一个或多个处理器;用于存储可执行指令的存储器;其中,所述一个或多个处理器被配置为调用所述存储器存储的可执行指令,以执行上述方法。
电子设备可以被提供为终端、服务器或其它形态的设备。
图7示出本公开实施例提供的一种电子设备800的框图。例如,电子设备800可以是车载设备,移动电话,计算机,数字广播终端,消息收发设备,游戏控制台,平板设备,医疗设备,健身设备,个人数字助理等终端。
参照图7,电子设备800可以包括以下一个或多个组件:处理组件802,存储器804,电源组件806,多媒体组件808,音频组件810,输入/输出(I/O)的接口812,传感器组件814,以及通信组件816。
处理组件802通常控制电子设备800的整体操作,诸如与显示,电话呼叫,数据通信,相机操作和记录操作相关联的操作。处理组件802可以包括一个或多个处理器820来执行指令,以完成上述的方法的全部或部分步骤。此外,处理组件802可以包括一个或多个模块,便于处理组件802和其他组件之间的交互。例如,处理组件802可以包括多媒体模块,以方便多媒体组件808和处理组件802之间的交互。
存储器804被配置为存储各种类型的数据以支持在电子设备800的操作。这些数据的示例包括用于在电子设备800上操作的任何应用程序或方法的指令,联系人数据,电话簿数据,消息,图片,视频等。存储器804可以由任何类型的易失性或非易失性存储设备或者它们的组合实现,如静态随机存取存储器(SRAM),电可擦除可编程只读存储器(EEPROM),可擦除可编程只读存储器(EPROM),可编程只读存储器(PROM),只读存储器(ROM),磁存储器,快闪存储器,磁盘或光盘。
电源组件806为电子设备800的各种组件提供电力。电源组件806可以包括电源管理系统,一个或多个电源,及其他与为电子设备800生成、管理和分配电力相关联的组件。
多媒体组件808包括在所述电子设备800和用户之间的提供一个输出接口的屏幕。在一些实施例中,屏幕可以包括液晶显示器(LCD)和触摸面板(TP)。如果屏幕包括触摸面板,屏幕可以被实现为触摸屏,以接收来自用户的输入信号。触摸面板包括一个或多个触摸传感器以感测触摸、滑动和触摸面板上的手势。所述触摸传感器可以不仅感测触摸或滑动动作的边界,而且还检测与所述触摸或滑动操作相关的持续时间和压力。在一些实施例中,多媒体组件808包括一个前置摄像头和/或后置摄像头。当电子设备800处于操作模式,如拍摄模式或视频模式时,前置摄像头和/或后置摄像头可以接收外部的多媒体数据。每个前置摄像头和后置摄像头可以是一个固定的光学透镜系统或具有焦距和光学变焦能力。
音频组件810被配置为输出和/或输入音频信号。例如,音频组件810包括一个麦克风(MIC),当电子设备800处于操作模式,如呼叫模式、记录模式和语音识别模式时,麦克风被配置为接收外部音频信号。所接收的音频信号可以被进一步存储在存储器804或经由通信组件816发送。在一些实施例中,音频组件810还包括一个扬声器,用于输出音频信号。
I/O接口812为处理组件802和外围接口模块之间提供接口,上述外围接口模块可以是键盘,点击轮,按钮等。这些按钮可包括但不限于:主页按钮、音量按钮、启动按钮和锁定按钮。
传感器组件814包括一个或多个传感器,用于为电子设备800提供各个方面的状态评估。例如,传感器组件814可以检测到电子设备800的打开/关闭状态,组件的相对定位,例如所述组件为电子设备800的显示器和小键盘,传感器组件814还可以检测电子设备800或电子设备800一个组件的位置改变,用户与电子设备800接触的存在或不存在,电子设备800方位或加速/减速和电子设备800的温度变化。传感器组件814可以包括接近传感器,被配置用来在没有任何的物理接触时检测附近物体的存在。传感器组件814还可以包括光传感器,如CMOS或CCD图像传感器,用于在成像应用中使用。在一些实施例中,该传感器组件814还可以包括加速度传感器,陀螺仪传感器,磁传感器,压力传感器或温度传感器。
通信组件816被配置为便于电子设备800和其他设备之间有线或无线方式的通信。电子设备800可以接入基于通信标准的无线网络,如Wi-Fi、2G、3G、4G/LTE、5G或它们的组合。在一个示例性实施例中,通信组件816经由广播信道接收来自外部广播管理系统的广播信号或广播相关信息。在一个示例性实施例中,所述通信组件816还包括近场通信(NFC)模块,以促进短程通信。例如,在NFC模块可基于射频识别(RFID)技术,红外数据协会(IrDA)技术,超宽带(UWB)技术,蓝牙(BT)技术和其他技术来实现。
在示例性实施例中,电子设备800可以被一个或多个应用专用集成电路(ASIC)、数字信号处理器(DSP)、数字信号处理设备(DSPD)、可编程逻辑器件(PLD)、现场可编程门阵列(FPGA)、控制器、微控制器、微处理器或其他电子元件实现,用于执行上述方法。
在示例性实施例中,还提供了一种非易失性计算机可读存储介质,例如包括计算机程序指令的存储器804,上述计算机程序指令可由电子设备800的处理器820执行以完成上述方法。
本公开可以是系统、方法和/或计算机程序产品。计算机程序产品可以包括计算机可读存储介质,其上载有用于使处理器实现本公开的各个方面的计算机可读程序指令。
计算机可读存储介质可以是可以保持和存储由指令执行设备使用的指令的有形设备。计算机可读存储介质例如可以是――但不限于――电存储设备、磁存储设备、光存储设备、电磁存储设备、半导体存储设备或者上述的任意合适的组合。计算机可读存储介质的更具体的例子(非穷举的列表)包括:便携式计算机盘、硬盘、随机存取存储器(RAM)、只读存储器(ROM)、可擦式可编程只读存储器(EPROM或闪存)、静态随机存取存储器(SRAM)、便携式压缩盘只读存储器(CD-ROM)、数字多功能盘(DVD)、记忆棒、软盘、机械编码设备、例如其上存储有指令的打孔卡或凹槽内凸起结构、以及上述的任意合适的组合。这里所使用的计算机可读存储介质不被解释为瞬时信号本身,诸如无线电波或者其他自由传播的电磁波、通过波导或其他传输媒介传播的电磁波(例如,通过光纤电缆的光脉冲)、或者通过电线传输的电信号。
这里所描述的计算机可读程序指令可以从计算机可读存储介质下载到各个计算/处理设备,或者通过网络、例如因特网、局域网、广域网和/或无线网下载到外部计算机或外部存储设备。网络可以包括铜传输电缆、光纤传输、无线传输、路由器、防火墙、交换机、网关计算机和/或边缘服务器。每个计算/处理设备中的网络适配卡或者网络接口从网络接收计算机可读程序指令,并转发该计算机可读程序指令,以供存储在各个计算/处理设备中的计算机可读存储介质中。
用于执行本公开操作的计算机程序指令可以是汇编指令、指令集架构(ISA)指令、机器指令、机器相关指令、微代码、固件指令、状态设置数据、或者以一种或多种编程语言的任意组合编写的源代码或目标代码,所述编程语言包括面向对象的编程语言—诸如Smalltalk、C++等,以及常规的过程式编程语言—诸如“C”语言或类似的编程语言。计算机可读程序指令可以完全地在用户计算机上执行、部分地在用户计算机上执行、作为一个独立的软件包执行、部分在用户计算机上部分在远程计算机上执行、或者完全在远程计算机或服务器上执行。在涉及远程计算机的情形中,远程计算机可以通过任意种类的网络—包括局域网(LAN)或广域网(WAN)—连接到用户计算机,或者,可以连接到外部计算机(例如利用因特网服务提供商来通过因特网连接)。在一些实施例中,通过利用计算机可读程序指令的状态信息来个性化定制电子电路,例如可编程逻辑电路、现场可编程门阵列(FPGA)或可编程逻辑阵列(PLA),该电子电路可以执行计算机可读程序指令,从而实现本公开的各个方面。
这里参照根据本公开实施例的方法、装置(系统)和计算机程序产品的流程图和/或框图描述了本公开的各个方面。应当理解,流程图和/或框图的每个方框以及流程图和/或框图中各方框的组合,都可以由计算机可读程序指令实现。
这些计算机可读程序指令可以提供给通用计算机、专用计算机或其它可编程数据处理装置的处理器,从而生产出一种机器,使得这些指令在通过计算机或其它可编程数据处理装置的处理器执行时,产生了实现流程图和/或框图中的一个或多个方框中规定的功能/动作的装置。也可以把这些计算机可读程序指令存储在计算机可读存储介质中,这些指令使得计算机、可编程数据处理装置和/或其他设备以特定方式工作,从而,存储有指令的计算机可读介质则包括一个制造品,其包括实现流程图和/或框图中的一个或多个方框中规定的功能/动作的各个方面的指令。
也可以把计算机可读程序指令加载到计算机、其它可编程数据处理装置、或其它设备上,使得在计算机、其它可编程数据处理装置或其它设备上执行一系列操作步骤,以产生计算机实现的过程,从而使得在计算机、其它可编程数据处理装置、或其它设备上执行的指令实现流程图和/或框图中的一个或多个方框中规定的功能/动作。
附图中的流程图和框图显示了根据本公开的多个实施例的系统、方法和计算机程序产品的可能实现的体系架构、功能和操作。在这点上,流程图或框图中的每个方框可以代表一个模块、程序段或指令的一部分,所述模块、程序段或指令的一部分包含一个或多个用于实现规定的逻辑功能的可执行指令。在有些作为替换的实现中,方框中所标注的功能也可以以不同于附图中所标注的顺序发生。例如,两个连续的方框实际上可以基本并行地执行,它们有时也可以按相反的顺序执行,这依所涉及的功能而定。也要注意的是,框图和/或流程图中的每个方框、以及框图和/或流程图中的方框的组合,可以用执行规定的功能或动作的专用的基于硬件的系统来实现,或者可以用专用硬件与计算机指令的组合来实现。
该计算机程序产品可以具体通过硬件、软件或其结合的方式实现。在一个可选实施例中,所述计算机程序产品具体体现为计算机存储介质,在另一个可选实施例中,计算机程序产品具体体现为软件产品,例如软件开发包(Software Development Kit,SDK)等等。
以上已经描述了本公开的各实施例,上述说明是示例性的,并非穷尽性的,并且也不限于所披露的各实施例。在不偏离所说明的各实施例的范围和精神的情况下,对于本技术领域的普通技术人员来说许多修改和变更都是显而易见的。本文中所用术语的选择,旨在最好地解释各实施例的原理、实际应用或对市场中的技术的改进,或者使本技术领域的其它普通技术人员能理解本文披露的各实施例。

Claims (20)

1.一种车辆的交互方法,其特征在于,包括:
控制设置在车辆的车舱外的摄像头采集车舱外的视频流;
根据所述车舱外的视频流进行人脸识别,得到车舱外的人脸识别结果;
响应于所述车舱外的人脸识别结果为人脸识别成功,控制车门解锁和/或打开,并控制设置在车舱内的显示设备显示数字人,以通过所述数字人进行人机交互。
2.根据权利要求1所述的方法,其特征在于,所述响应于所述车舱外的人脸识别结果为人脸识别成功,控制车门解锁和/或打开,并控制设置在车舱内的显示设备显示数字人,包括:
响应于所述车舱外的人脸识别结果为人脸识别成功,在控制车门解锁和/或打开的同时,控制设置在车舱内的显示设备显示数字人。
3.根据权利要求1或2所述的方法,其特征在于,
在人脸识别成功之前,所述显示设备处于关闭状态或者休眠状态,所述数字人对应的进程处于终止状态或者休眠状态;
所述控制设置在车舱内的显示设备显示数字人,包括:启动或唤醒设置在车舱内的显示设备;创建或唤醒所述数字人对应的进程,并运行所述数字人对应的进程,以将数字人显示在所述显示设备上。
4.根据权利要求3所述的方法,其特征在于,在启动或唤醒设置在车舱内的显示设备的同时,创建或唤醒所述数字人对应的进程。
5.根据权利要求3或4所述的方法,其特征在于,所述创建或唤醒所述数字人对应的进程,包括:
获取与所述车舱外的人脸识别结果对应的数字人形象信息和/或交互方式信息;
根据所述数字人形象信息和/或交互方式信息,创建或唤醒所述数字人对应的进程。
6.根据权利要求1至5中任意一项所述的方法,其特征在于,
在人脸识别成功之前,设置在所述车舱内的摄像头处于关闭状态或者休眠状态;
在所述得到车舱外的人脸识别结果之后,所述方法还包括:响应于所述车舱外的人脸识别结果为人脸识别成功,启动或唤醒设置在所述车舱内的摄像头,并控制所述车舱内的摄像头采集车舱内的视频流;基于所述车舱内的视频流,通过所述数字人与所述车辆的乘员进行交互。
7.根据权利要求6所述的方法,其特征在于,所述响应于所述车舱外的人脸识别结果为人脸识别成功,启动或唤醒设置在所述车舱内的摄像头,包括:
响应于所述车舱外的人脸识别结果为人脸识别成功,在控制车门解锁和/或打开的同时,启动或唤醒设置在所述车舱内的摄像头。
8.根据权利要求6或7所述的方法,其特征在于,所述基于所述车舱内的视频流,通过所述数字人与所述车辆的乘员进行交互,包括:
根据所述车舱内的视频流中的图像,检测乘员的位置信息;所述乘员的位置信息包括:所述乘员在所述图像中的第一相对位置信息,和/或,所述乘员在所述车舱内的第二相对位置信息;
根据所述乘员的位置信息,在所述显示设备上生成并显示所述数字人转向所述乘员的动画。
9.根据权利要求8所述的方法,其特征在于,所述根据所述车舱内的视频流中的图像,检测所述乘员的位置信息,包括:
在所述图像对应的图像坐标系中,检测所述乘员的至少一个部位所在的图像坐标区域;
将所述图像坐标区域作为所述乘员在所述图像中的所述第一相对位置信息;和/或,根据所述图像坐标系与所述车舱内的空间坐标系之间的映射关系,确定所述图像坐标区域对应的车舱内空间坐标区域,并将所述车舱内空间坐标区域作为所述乘员在所述车舱内的所述第二相对位置信息。
10.根据权利要求8或9所述的方法,其特征在于,所述根据所述乘员的位置信息,在所述显示设备上生成并显示所述数字人转向所述乘员的动画,包括:
根据预先建立的位置信息与数字人的朝向之间的映射关系,确定与所述乘员的位置信息对应的目标朝向;
在所述显示设备上生成并显示所述数字人转向所述目标朝向的动画。
11.根据权利要求8至10中任意一项所述的方法,其特征在于,所述根据所述乘员的位置信息,在所述显示设备上生成并显示所述数字人转向所述乘员的动画,包括:
响应于检测到的乘员的位置信息为多名乘员的多个位置信息,将所述多个位置信息中的一个位置信息确定为目标位置信息;
在所述显示设备上生成并显示所述数字人转向所述目标位置信息对应的乘员的动画。
12.根据权利要求11所述的方法,其特征在于,所述将所述多个位置信息中的一个位置信息确定为目标位置信息,包括:
根据预先确定的不同位置信息的优先级顺序,将所述多个位置信息中优先级最高的位置信息确定为目标位置信息;其中,所述不同位置信息的优先级顺序包括以下至少之一:
对应驾驶区域的位置信息的优先级,高于对应副驾驶区域的位置信息的优先级;
对应前排区域的位置信息的优先级,高于对应后排区域的位置信息的优先级;
对应专用座椅的位置信息的优先级,高于对应非专用座椅的位置信息的优先级。
13.根据权利要求6至12中任意一项所述的方法,其特征在于,所述基于所述车舱内的视频流,通过所述数字人与所述车辆的乘员进行交互,包括以下至少之一:
响应于根据所述车舱内的视频流检测到所述乘员进入所述车辆和/或已落座,通过所述数字人发出针对所述乘员的欢迎信息;
获取与所述车舱外的人脸识别结果对应的欢迎信息,在所述显示设备上生成并显示所述数字人做出所述欢迎信息的动画;
响应于根据所述车舱内的视频流检测到所述乘员的下车意图,在所述显示设备上生成并显示所述数字人与所述乘员进行下车交互的动画;
响应于所述车辆的车况信息满足预设条件,通过所述数字人发出向所述乘员提示所述车辆的车况的提示信息。
14.一种车辆的交互装置,其特征在于,包括:
第一控制模块,用于控制设置在车辆的车舱外的摄像头采集车舱外的视频流;
人脸识别模块,用于根据所述车舱外的视频流进行人脸识别,得到车舱外的人脸识别结果;
第二控制模块,用于响应于所述车舱外的人脸识别结果为人脸识别成功,控制车门解锁和/或打开,并控制设置在车舱内的显示设备显示数字人,以通过所述数字人进行人机交互。
15.一种电子设备,其特征在于,包括:
一个或多个处理器;
用于存储可执行指令的存储器;
其中,所述一个或多个处理器被配置为调用所述存储器存储的可执行指令,以执行权利要求1至13中任意一项所述的方法。
16.一种计算机可读存储介质,其上存储有计算机程序指令,其特征在于,所述计算机程序指令被处理器执行时实现权利要求1至13中任意一项所述的方法。
17.一种车辆,其特征在于,包括车主体、车舱域控制器、设置在所述车辆的车舱外的摄像头和设置在车舱内的显示设备,所述车舱域控制器包括相互连接的视频处理芯片和微控制单元,所述视频处理芯片还与所述车舱外的摄像头和所述显示设备连接,所述微控制单元还与所述车主体连接;
所述车舱外的摄像头用于采集车舱外的视频流;
所述视频处理芯片用于根据所述车舱外的视频流进行人脸识别,得到车舱外的人脸识别结果,响应于所述车舱外的人脸识别结果为人脸识别成功,生成车门解锁指令和/或车门打开指令,并将所述车门解锁指令和/或所述车门打开指令发送给所述微控制单元,并响应于所述车舱外的人脸识别结果为人脸识别成功,启动或唤醒所述显示设备,创建或唤醒所述数字人对应的进程,并运行所述数字人对应的进程,将所述数字人显示在所述显示设备上;
所述微控制单元用于根据所述车门解锁指令和/或所述车门打开指令,控制所述车主体解锁车门和/或打开车门。
18.根据权利要求17所述的车辆,其特征在于,所述视频处理芯片用于响应于所述车舱外的人脸识别结果为人脸识别成功,在生成车门解锁指令和/或车门打开指令的同时,启动或唤醒所述显示设备,并创建或唤醒所述数字人对应的进程。
19.根据权利要求17或18所述的车辆,其特征在于,
所述车辆还包括:设置在所述车舱内的摄像头,与所述视频处理芯片连接;
所述视频处理芯片还用于响应于所述车舱外的人脸识别结果为人脸识别成功,启动或唤醒所述车舱内的摄像头,控制所述车舱内的摄像头采集车舱内的视频流。
20.根据权利要求17至19中任意一项所述的车辆,其特征在于,
所述车辆还包括:唤醒模块,与所述微控制单元连接;
所述微控制单元还用于响应于所述唤醒模块被触发,唤醒处于休眠状态的所述视频处理芯片;
所述视频处理芯片还用于在唤醒后,控制所述车舱外的摄像头采集车舱外的视频流。
CN202010589901.4A 2020-06-24 2020-06-24 车辆的交互方法及装置、电子设备、存储介质和车辆 Pending CN111739201A (zh)

Priority Applications (4)

Application Number Priority Date Filing Date Title
CN202010589901.4A CN111739201A (zh) 2020-06-24 2020-06-24 车辆的交互方法及装置、电子设备、存储介质和车辆
KR1020217038845A KR20220002550A (ko) 2020-06-24 2020-12-07 차량의 인터랙션 방법 및 장치, 전자 기기, 기억 매체 및 차량
PCT/CN2020/134305 WO2021258656A1 (zh) 2020-06-24 2020-12-07 车辆的交互方法及装置、电子设备、存储介质和车辆
JP2021558538A JP7302005B2 (ja) 2020-06-24 2020-12-07 車両のインタラクション方法及び装置、電子機器、記憶媒体並びに車両

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
CN202010589901.4A CN111739201A (zh) 2020-06-24 2020-06-24 车辆的交互方法及装置、电子设备、存储介质和车辆

Publications (1)

Publication Number Publication Date
CN111739201A true CN111739201A (zh) 2020-10-02

Family

ID=72650973

Family Applications (1)

Application Number Title Priority Date Filing Date
CN202010589901.4A Pending CN111739201A (zh) 2020-06-24 2020-06-24 车辆的交互方法及装置、电子设备、存储介质和车辆

Country Status (4)

Country Link
JP (1) JP7302005B2 (zh)
KR (1) KR20220002550A (zh)
CN (1) CN111739201A (zh)
WO (1) WO2021258656A1 (zh)

Cited By (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN112950819A (zh) * 2021-05-14 2021-06-11 北京旗偲智能科技有限公司 车辆解锁控制方法、装置、服务器及存储介质
CN113254909A (zh) * 2021-06-04 2021-08-13 宁波均联智行科技股份有限公司 一种车载用户账号登录方法及系统
WO2021258656A1 (zh) * 2020-06-24 2021-12-30 上海商汤临港智能科技有限公司 车辆的交互方法及装置、电子设备、存储介质和车辆
CN113900525A (zh) * 2021-10-29 2022-01-07 深圳Tcl数字技术有限公司 数字人显示方法、装置及显示设备
WO2023098564A1 (zh) * 2021-11-30 2023-06-08 华为技术有限公司 一种语音助手显示方法及相关装置

Families Citing this family (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN115393990A (zh) * 2022-08-30 2022-11-25 上汽通用五菱汽车股份有限公司 车辆解锁方法、装置、设备以及存储介质
CN115938018B (zh) * 2022-09-28 2024-06-14 杭州指安科技股份有限公司 一种生物识别集成设备及方法
WO2024132677A1 (de) * 2022-12-20 2024-06-27 Inventio Ag Gebäudesystem und mensch-maschine-schnittstelleneinrichtung für mimikdarstellungen
CN116001725A (zh) * 2022-12-28 2023-04-25 阿维塔科技(重庆)有限公司 一种车辆控制方法、装置、车辆及计算机可读存储介质

Citations (7)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP6060829B2 (ja) * 2013-06-24 2017-01-18 マツダ株式会社 車両用情報表示装置
CN106696863A (zh) * 2016-12-28 2017-05-24 安徽江淮汽车集团股份有限公司 车载智能交互设备的控制方法及系统
CN107765856A (zh) * 2017-10-26 2018-03-06 北京光年无限科技有限公司 基于多模态交互的虚拟人视觉处理方法及系统
CN108664123A (zh) * 2017-12-15 2018-10-16 蔚来汽车有限公司 人车交互方法、装置、车载智能控制器及系统
CN110728256A (zh) * 2019-10-22 2020-01-24 上海商汤智能科技有限公司 基于车载数字人的交互方法及装置、存储介质
CN110765936A (zh) * 2019-10-22 2020-02-07 上海商汤智能科技有限公司 车门控制方法及装置、系统、车、电子设备和存储介质
CN110909203A (zh) * 2019-11-27 2020-03-24 上海商汤智能科技有限公司 视频分析方法及装置、电子设备和存储介质

Family Cites Families (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2000181500A (ja) * 1998-12-15 2000-06-30 Equos Research Co Ltd 音声認識装置及びエ―ジェント装置
JP2006154926A (ja) * 2004-11-25 2006-06-15 Denso Corp キャラクタ表示を利用した電子機器操作システム及び電子機器
CN107562195A (zh) * 2017-08-17 2018-01-09 英华达(南京)科技有限公司 人机交互方法及系统
US10853629B2 (en) * 2018-02-20 2020-12-01 Direct Current Capital LLC Method for identifying a user entering an autonomous vehicle
CN208157012U (zh) * 2018-05-02 2018-11-27 石家庄凤还巢科技有限公司 一种智能化的虚拟讲解员系统
CN111739201A (zh) * 2020-06-24 2020-10-02 上海商汤临港智能科技有限公司 车辆的交互方法及装置、电子设备、存储介质和车辆

Patent Citations (7)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP6060829B2 (ja) * 2013-06-24 2017-01-18 マツダ株式会社 車両用情報表示装置
CN106696863A (zh) * 2016-12-28 2017-05-24 安徽江淮汽车集团股份有限公司 车载智能交互设备的控制方法及系统
CN107765856A (zh) * 2017-10-26 2018-03-06 北京光年无限科技有限公司 基于多模态交互的虚拟人视觉处理方法及系统
CN108664123A (zh) * 2017-12-15 2018-10-16 蔚来汽车有限公司 人车交互方法、装置、车载智能控制器及系统
CN110728256A (zh) * 2019-10-22 2020-01-24 上海商汤智能科技有限公司 基于车载数字人的交互方法及装置、存储介质
CN110765936A (zh) * 2019-10-22 2020-02-07 上海商汤智能科技有限公司 车门控制方法及装置、系统、车、电子设备和存储介质
CN110909203A (zh) * 2019-11-27 2020-03-24 上海商汤智能科技有限公司 视频分析方法及装置、电子设备和存储介质

Non-Patent Citations (1)

* Cited by examiner, † Cited by third party
Title
张秀彬,陆冬良著: "《发明解析论》", 30 June 2014, 上海交通大学出版社 *

Cited By (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2021258656A1 (zh) * 2020-06-24 2021-12-30 上海商汤临港智能科技有限公司 车辆的交互方法及装置、电子设备、存储介质和车辆
CN112950819A (zh) * 2021-05-14 2021-06-11 北京旗偲智能科技有限公司 车辆解锁控制方法、装置、服务器及存储介质
CN113254909A (zh) * 2021-06-04 2021-08-13 宁波均联智行科技股份有限公司 一种车载用户账号登录方法及系统
CN113900525A (zh) * 2021-10-29 2022-01-07 深圳Tcl数字技术有限公司 数字人显示方法、装置及显示设备
WO2023098564A1 (zh) * 2021-11-30 2023-06-08 华为技术有限公司 一种语音助手显示方法及相关装置

Also Published As

Publication number Publication date
WO2021258656A1 (zh) 2021-12-30
JP2022551779A (ja) 2022-12-14
JP7302005B2 (ja) 2023-07-03
KR20220002550A (ko) 2022-01-06

Similar Documents

Publication Publication Date Title
CN111739201A (zh) 车辆的交互方法及装置、电子设备、存储介质和车辆
CN112026790B (zh) 车载机器人的控制方法及装置、车辆、电子设备和介质
CN111332252B (zh) 车门解锁方法、装置、系统、电子设备和存储介质
WO2022048119A1 (zh) 车辆控制方法及装置、电子设备、存储介质和车辆
US20220203996A1 (en) Systems and methods to limit operating a mobile phone while driving
CN110765936A (zh) 车门控制方法及装置、系统、车、电子设备和存储介质
WO2023273064A1 (zh) 对象说话检测方法及装置、电子设备和存储介质
JP2023543339A (ja) 車室内乗員検出方法及び装置、電子機器並びに記憶媒体
CN112568904B (zh) 车辆交互方法、装置、计算机设备及存储介质
US11014508B2 (en) Communication support system, communication support method, and storage medium
WO2023071174A1 (zh) 车内人员检测方法及装置、电子设备和存储介质
WO2021254141A1 (zh) 一种车辆交互方法和一种车辆
CN112667084B (zh) 车载显示屏的控制方法及装置、电子设备和存储介质
CN112837407A (zh) 一种智能座舱全息投影系统及其交互方法
CN111738158A (zh) 交通工具的控制方法及装置、电子设备和存储介质
CN107303793A (zh) 空调控制方法、装置、控制设备及操作系统
WO2022224173A1 (en) Systems and methods for determining driver control over a vehicle
CN113488043A (zh) 乘员说话检测方法及装置、电子设备和存储介质
CN112297842A (zh) 具有多种显示模式的自动驾驶车辆
KR20220004156A (ko) 디지털 휴먼에 기반한 자동차 캐빈 인터랙션 방법, 장치 및 차량
CN116204253A (zh) 一种语音助手显示方法及相关装置
CN114005103A (zh) 关联车内的人和物的方法及装置、电子设备和存储介质
CN113961133A (zh) 电子设备的显示控制方法及装置、电子设备和存储介质
JP2022093012A (ja) 注目対象共有装置、注目対象共有方法
CN112937479A (zh) 车辆控制方法及装置、电子设备和存储介质

Legal Events

Date Code Title Description
PB01 Publication
PB01 Publication
SE01 Entry into force of request for substantive examination
SE01 Entry into force of request for substantive examination
RJ01 Rejection of invention patent application after publication

Application publication date: 20201002

RJ01 Rejection of invention patent application after publication