CN109968979A - 车载投射处理方法、装置、车载设备及存储介质 - Google Patents

车载投射处理方法、装置、车载设备及存储介质 Download PDF

Info

Publication number
CN109968979A
CN109968979A CN201910194709.2A CN201910194709A CN109968979A CN 109968979 A CN109968979 A CN 109968979A CN 201910194709 A CN201910194709 A CN 201910194709A CN 109968979 A CN109968979 A CN 109968979A
Authority
CN
China
Prior art keywords
driver
vehicle
control
fixation point
collection device
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
CN201910194709.2A
Other languages
English (en)
Other versions
CN109968979B (zh
Inventor
刘毅
周志鹏
张丙林
邓苏南
罗志平
李冰
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Apollo Intelligent Connectivity Beijing Technology Co Ltd
Original Assignee
Beijing Baidu Netcom Science and Technology Co Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Beijing Baidu Netcom Science and Technology Co Ltd filed Critical Beijing Baidu Netcom Science and Technology Co Ltd
Priority to CN201910194709.2A priority Critical patent/CN109968979B/zh
Publication of CN109968979A publication Critical patent/CN109968979A/zh
Application granted granted Critical
Publication of CN109968979B publication Critical patent/CN109968979B/zh
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Classifications

    • BPERFORMING OPERATIONS; TRANSPORTING
    • B60VEHICLES IN GENERAL
    • B60KARRANGEMENT OR MOUNTING OF PROPULSION UNITS OR OF TRANSMISSIONS IN VEHICLES; ARRANGEMENT OR MOUNTING OF PLURAL DIVERSE PRIME-MOVERS IN VEHICLES; AUXILIARY DRIVES FOR VEHICLES; INSTRUMENTATION OR DASHBOARDS FOR VEHICLES; ARRANGEMENTS IN CONNECTION WITH COOLING, AIR INTAKE, GAS EXHAUST OR FUEL SUPPLY OF PROPULSION UNITS IN VEHICLES
    • B60K35/00Instruments specially adapted for vehicles; Arrangement of instruments in or on vehicles
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N9/00Details of colour television systems
    • H04N9/12Picture reproducers
    • H04N9/31Projection devices for colour picture display, e.g. using electronic spatial light modulators [ESLM]
    • H04N9/3141Constructional details thereof

Landscapes

  • Engineering & Computer Science (AREA)
  • Multimedia (AREA)
  • Signal Processing (AREA)
  • Chemical & Material Sciences (AREA)
  • Combustion & Propulsion (AREA)
  • Transportation (AREA)
  • Mechanical Engineering (AREA)
  • Instrument Panels (AREA)
  • Controls And Circuits For Display Device (AREA)
  • Fittings On The Vehicle Exterior For Carrying Loads, And Devices For Holding Or Mounting Articles (AREA)

Abstract

本发明实施例公开了一种车载投射处理方法、装置、车载设备及存储介质。所述方法包括:根据车载图像采集器采集的驾驶员面部图像,所述车载图像采集器的参数,以及挡风玻璃的位置,确定驾驶员的凝视点位置;将投射区域中位于所述凝视点位置处的控件作为目标控件;若监测到确认操作事件,则执行所述目标控件关联的操作。采用本发明实施例的技术方案可以将凝视点位置所对应的控件作为受控控件进行控制,解决了驾驶员只能作为观众观看HUD投影设备的投影内容,而无法直接对投影的内容做出反馈和控制的问题,实现了驾驶员可以通过驾驶员的凝视点对HUD投影设备进行交互控制效果,增加了HUD投影设备的交互方式。

Description

车载投射处理方法、装置、车载设备及存储介质
技术领域
本发明实施例涉及汽车电子技术领域,尤其涉及一种车载投射处理方法、装置、车载设备及存储介质。
背景技术
随着抬头显示器(HUD,也称平视显示器)技术的成熟以及其成本的降低,HUD已经从航空领域(战斗机,民航飞机)的高科技配置走向了汽车行业,并有望在近几年内成为车载标配。HUD的主要功能把汽车仪表盘和行驶数据投影到前挡风玻璃上,让投影的虚像和驾驶场景交叠产生增强现实(AR)效果。
目前运用AR-HUD过程中,HUD投影设备仅起到信息展示作用,交互方式单一。
发明内容
鉴于上述问题,本发明实施例中提供了一种车载投射处理方法、装置、车载设备及存储介质,以实现驾驶员与HUD投影设备之间的信息交互。
第一方面,本发明实施例中提供了一种车载投射处理方法,应用于设置有投射设备的车辆,所述投射设备的投射区域中设置有至少一个控件,所述方法包括:
根据车载图像采集器采集的驾驶员面部图像,所述车载图像采集器的参数,以及挡风玻璃的位置,确定驾驶员的凝视点位置;
将所述投射区域中位于所述凝视点位置处的控件作为目标控件;
若监测到确认操作事件,则执行所述目标控件关联的操作。
第二方面,本发明实施例中还提供了一种车载投射处理装置,应用于设置有投射设备的车辆,所述投射设备的投射区域中设置有至少一个控件,所述装置包括:
凝视点确定模块,用于根据车载图像采集器采集的驾驶员面部图像,所述车载图像采集器的参数,以及挡风玻璃的位置,确定驾驶员的凝视点位置;
目标确定模块,用于将所述投射区域中位于所述凝视点位置处的控件作为目标控件;
目标操作模块,用于若监测到确认操作事件,则执行所述目标控件关联的操作。
第三方面,本发明实施例中还提供了一种车载设备,包括:
一个或多个处理器;
存储装置,用于存储一个或多个程序,
当所述一个或多个程序被所述一个或多个处理器执行,使得所述一个或多个处理器实现如本发明任意实施例所述的车载投射处理方法。
第四方面,本发明实施例中还提供了一种计算机可读存储介质,其上存储有计算机程序,该程序被处理器执行时实现如本发明任意实施例所述的车载投射处理方法。
本发明实施例中提供了一种车载投射处理方案,在运用AR-HUD的过程中不仅可以通过HUD投影设备进行信息展示,而且可以将凝视点位置所对应的控件作为受控控件进行控制,解决了驾驶员只能作为观众观看HUD投影设备的投影内容,而无法直接对投影的内容做出反馈和控制的问题,实现了驾驶员可以通过驾驶员的凝视点对HUD投影设备进行交互控制效果,增加了HUD投影设备的交互方式。
上述发明内容仅是本发明技术方案的概述,为了能够更清楚了解本发明的技术手段,而可依照说明书的内容予以实施,并且为了让本发明的上述和其它目的、特征和优点能够更明显易懂,以下特举本发明的具体实施方式。
附图说明
通过阅读参照以下附图所作的对非限制性实施例所作的详细描述,本发明的其它特征、目的和优点将会变得更明显。附图仅用于示出优选实施方式的目的,而并不认为是对本发明的限制。而且在整个附图中,用相同的参考符号表示相同的部件。在附图中:
图1是本发明实施例中提供的一种车载投射处理方法的流程示意图;
图2是本发明实施例中提供的一种车辆挡风玻璃的结构示意图;
图3是本发明实施例中提供的另一种车载投射处理方法的流程示意图;
图4是本发明实施例中提供的一种车载投射处理装置的结构示意图;
图5是本发明实施例中提供的一种车载设备的结构示意图。
具体实施方式
下面结合附图和实施例对本发明作进一步的详细说明。可以理解的是,此处所描述的具体实施例仅仅用于解释本发明,而非对本发明的限定。另外还需要说明的是,为了便于描述,附图中仅示出了与本发明相关的部分而非全部结构。
在更加详细地讨论示例性实施例之前应当提到的是,一些示例性实施例被描述成作为流程图描绘的处理或方法。虽然流程图将各项操作(或步骤)描述成顺序的处理,但是其中的许多操作可以被并行地、并发地或者同时实施。此外,各项操作的顺序可以被重新安排。当其操作完成时所述处理可以被终止,但是还可以具有未包括在附图中的附加步骤。所述处理可以对应于方法、函数、规程、子例程、子程序等等。
目前,随着抬头显示器(HUD,也称作平视显示器)技术的不断发展,HUD已经从航空领域应用到了汽车行业领域。通过车辆上设置的HUD可以产生相应的投影信息,并将投影信息投射到车辆的挡风玻璃上,从而使车辆的挡风玻璃呈现HUD所产生的投影信息。
在运用AR-HUD投射内容时,HUD投影设备只是把汽车仪表盘和行驶数据等投影内容投影到车辆的前挡风玻璃上,整个过程驾驶员只是能作为观众观看投影内容,而并不能对投影内容做出反馈和控制,驾驶员与HUD投影设备没有交互,浪费了一些可用的资源。鉴于上述情况,需要对HUD投影设备的车载投影方式进行改进,以实现驾驶员与HUD投影设备之间的交互。
下面针对本发明实施例中提供的车载投射处理方法、装置、车载设备和存储介质进行详细阐述。
图1是本发明实施例中提供的一种车载投射处理方法的流程示意图,本实施例可适用于在运用AR-HUD过程中保证驾驶员与HUD投影设备进行交互的情况。该方法可以由车载投射处理装置来执行,该装置可以采用软件和/或硬件的方式实现,并集成在任何具有网络通信功能的车载设备上。如图1所示,本发明实施例中提供的车载投射处理方法可以包括以下步骤S110~S130:
S110、根据车载图像采集器采集的驾驶员面部图像,车载图像采集器的参数,以及挡风玻璃的位置,确定驾驶员的凝视点位置。
在本实施例中,图2是本发明实施例中提供的一种车辆挡风玻璃的结构示意图。参见图2,通过车载图像采集器可以采集驾驶员在驾驶过程中或者AR-HUD投射内容时的面部图像。车载图像采集器可以设置在车辆内部的预设位置处,且车载图像采集器的图像采集方向设置为面向驾驶员所在方向,以保证可以通过车载图像采集器采集驾驶员的面部图像。
在本实施例中,参见图2,车载图像采集器的所能允许的采集范围并不是无限的,为了保证车载图像采集器可以准确采集到驾驶员的面部图像,车载图像采集器的采集角度可以根据驾驶员的驾驶员参数进行灵活调节。其中驾驶员参数包括驾驶员的身高、驾驶员的驾驶坐姿以及驾驶员的其他参数。在一个可选示例中,车载图像采集器可以自动识别驾驶员的面部五官位置,并根据驾驶员的面部五官位置自适应调节自身的采集角度,以保证在自适应的采集角度上可以采集到驾驶员的面部图像。
在本实施例中,参见图2,车载图像采集器的参数可以包括车载图像采集器的内参数和外参数。内参数可以是指车载图像采集器自身的参数比如焦距和畸变参数,外参数可以是指车载图像采集器对应的相对参数当。当在车辆内部设置好车载图像采集器的位置和角度后,车载图像采集器的内参数和外参数就已经固定标定。此外,车辆的挡风玻璃的位置与车载图像采集器之间的相对位置和相对角度也是已知的。
在本实施例中,参见图2,当驾驶员在注视某一目标时,车载图像采集器可以采集驾驶员注视某一目标时的面部图像,驾驶员的面部图像中可以包含驾驶员注视车挡玻璃方向时隐藏的信息,例如驾驶员的头部朝向信息和驾驶员的眼球瞳孔朝向信息等。
在本实施例中,参见图2,在已知标定的车载图像采集器的参数以及挡风玻璃的位置的基础上,可以通过分析驾驶员注视某一目标时的面部图像,获知驾驶员面向前挡风玻璃进行凝视的位置,即确定驾驶员的凝视点位置。驾驶员的凝视点可以是指驾驶员的注意力和视线兴趣点,凝视点位置可以理解为驾驶员的注意力和视线兴趣点所在的位置。
S120、将投射区域中位于凝视点位置处的控件作为目标控件;其中该投射区域为设置在车辆上的投射设备在车辆挡风玻璃上投影时形成的区域,且该投射区域中设置有至少一个控件。
在本实施例中,参见图2,在车辆内部可以设置有投射设备,通过投射设备可以将需要投射的内容投射到车辆的前挡风玻璃上。当在车辆的前挡风玻璃上进行投射后,在前挡风玻璃上可以根据投射的内容形成一个投射区域,此时前挡风玻璃上的投射区域可以作为投射设备的投射屏幕,位于投射区域中的虚像是投射设备对应的投射内容。例如,投射设备可以为HUD投影设备,通过HUD投影设备可以将HUD投影设备对应的HUD界面投射到车辆的前挡风玻璃。在车辆的前挡风玻璃上进行投射后,在车辆的前挡风玻璃上可以形成HUD投影设备对应的HUD界面,位于车辆前挡风玻璃上的投射区域中的虚像为HUD投影设备对应的HUD界面。
在本实施例中,参见图2,投射设备对应的投射区域的尺寸大小可以通过调整投射设备的位置进行调整。位于投射区域中的虚像可以随着投射设备所需要投射的投射内容进行改变。
在本实施例中,参见图2,位于投射区域中的虚像可以是通过投射设备进行投影所形成的虚拟图像。在通过投射设备在投射区域进行投影后,投射区域中包含的虚像可以类似车载触摸屏一样显示可选控件,例如音乐控件、地图导航控件、收音机控件以及视频控件等。
在本实施例中,参见图2,当驾驶员需要选中投射区域的某一控件时,可以通过向该控件进行凝视,车载设备可以确定驾驶员的凝视点位置。如果驾驶员的凝视点位置位于投射区域的某一控件位置处,则可以将该投射区域中位于凝视点位置处的控件作为目标控件。例如,驾驶员的凝视点位置为投射区域中的音乐控件所在位置,则可以将该投射区域中的音乐控件作为目标控件。采用上述方式,当驾驶员想要打开投射区域中的某一应用时,驾驶员只需要注视一下投射区域中的该应用,就可以选中该应用,而不需要手动操作或者语音控制来选中该应用,从而可以避免手动操作造成驾驶危险以及由于语音控制功能受限而无法准确控制的问题。可选的,但车载设备根据驾驶员的凝视点位置选中投射区域的目标控件后,车载设备可以改变目标控件的图标进行修改,例如将目标控件的图标尺寸变大,或者将目标控件的图标颜色加深等,以提示车载设备已经根据驾驶员的凝视选中投射区域的控件。
在本实施例中,可选的,投射设备对应的投射区域中设置的各个控件之间互相不重叠,且各控件之间按照预设的距离和排列规则进行设置。采用上述方式的好处在于,由于凝视点位置的确定可能存在一定的误差,如果投射区域中的各个控件重叠或者距离较近,可能造成凝视点位置对应多个控件,从而造成导致投射区域中控件出现选中错误的问题。
在本实施例中,参见图2,当驾驶员进行凝视时,驾驶员的凝视点位置可以落在车辆前挡风玻璃上的投射区域,也可以不落在车辆前挡风玻璃上的投射区域。由于只有在车辆前挡风玻璃上的投射区域中设置有可选控件,当驾驶员的凝视点位置未落在车辆前挡风玻璃上的投射区域时,驾驶员无法通过凝视选中投射区域的控件,只有当驾驶员的凝视点位置落在车辆前挡风玻璃上的投射区域时,驾驶员才能通过凝视选中凝视点位置对应的控件。为此,在确定驾驶员的凝视点位置后,可以检测驾驶员的凝视点位置是否落在车辆前挡风玻璃的投射区域中。若驾驶员的凝视点位置落在车辆前挡风玻璃的投射区域中,则将投射区域中位于凝视点位置处的控件作为目标控件;若驾驶员的凝视点位置未落在车辆前挡风玻璃的投射区域中,则不进行任何控件选中操作。
在本实施例中,在确定驾驶员的凝视点位置后,车载设备可以采用卡尔曼滤波方法消除驾驶员的凝视点抖动,以保证确定的凝视点位置是驾驶员凝视时所对应的正确位置,从而避免依据错误的凝视点位置选中错误的控件。
S130、若监测到确认操作事件,则执行目标控件关联的操作。
在本实施例中,当车载设备根据驾驶员的凝视点位置选中投射区域中的目标控件后,可以监测驾驶员是否针对该目标控件的确认操作。其中该确认操作可以用于指示驾驶员是否需要车载设备针对该目标控件执行目标控件相关联的操作。若车载设备监测到确认操作事件,则执行目标控件关联的操作;若在预定时间内未监测到确认操作事件,则不执行目标控件关联的操作。
在上述实施例的基础上,可选的,在将投射区域中位于凝视点位置处的控件作为目标控件之后,还包括:若检测到在目标控件上的凝视时长大于时间阈值,则确定监测到确认操作事件。
在本实施方式中,在将投射区域中位于驾驶员的凝视点位置处的控件作为目标控件,车载设备还可以继续检测驾驶员的凝视时长。其中凝视时长可以理解为驾驶员凝视目标控件的时间。另外,时间阈值可以由驾驶员自主设置,比如时间阈值设置为2秒钟,也可以由车载设备自适应学习驾驶员注视习惯得出最佳的时间阈值。若检测到驾驶员在目标控件上的凝视时长大于时间阈值,表明驾驶员需要车载设备针对目标控件进行操作,此时确定监测到驾驶员的确认操作事件。若检测到驾驶员在目标控件上的凝视时长小于或等于时间阈值,表明驾驶员不需要车载设备针对目标控件进行操作,此时确定未监测到驾驶员的确认操作事件。
在上述实施例的基础上,可选的,在将投射区域中位于凝视点位置处的控件作为目标控件之后,还包括:若接收到用户输入的确认语音信息,则确定监测到确认操作事件。
在本实施方式中,在将投射区域中位于驾驶员的凝视点位置处的控件作为目标控件,车载设备还可以继续检测驾驶员是否发出确认语音信息。其中该确认语音信息可以理解驾驶员发出的需要车载设备针对目标控件进行操作的简易语音信息。例如,该确认语音信息可以为车载设备所允许的简单无歧义的口令信息,比如“确认”、“打开”或者“是”等口令信息。若接收到驾驶员输入的确认语音信息,表明驾驶员需要车载设备针对目标控件进行操作,此时确定监测到驾驶员的确认操作事件。若未接收到驾驶员输入的确认语音信息,表明驾驶员不需要车载设备针对目标控件进行操作,此时确定未监测到驾驶员的确认操作事件。
在本实施方式中,可选的,在将投射区域中位于驾驶员的凝视点位置处的控件作为目标控件,车载设备还可以检测在预设时间内驾驶员是否发出确认语音信息。若在预设时间内接收到用户输入的确认语音信息,则确定监测到确认操作事件。若在预设时间内未接收到用户输入的确认语音信息,则确定未监测到确认操作事件。采用上述方式,可以避免车载设备长时间除以等待驾驶员的确认语音信息状态,从而造成无法及时处理其他数据。
本发明实施例中提供了一种车载投射处理方案,采用本发明实施例的技术方案,当驾驶员与HUD投影设备进行交互时,驾驶员不需要通过手或手指对HUD投影设备进行操作,直接凝视HUD投影设备对应的投射区域中的控件就可以对HUD投影设备进行操作,从而实现了驾驶员通过驾驶员的凝视点对HUD投影设备进行交互控制的效果,增加了HUD投影设备的交互方式。另外,采用本发明实施例的方案的好处还在于,通过HUD投影设备进行显示可以更加贴近驾驶员的驾驶视野,使得驾驶员无需低头或者大幅度转向,就能获取到驾驶的所有必要数据信息,以及驾驶员直接通过视线就可以对HUD投影设备的控件进行操作,从而实现驾驶员与HUD投影设备的交互控制,使用户体验也更加自然。
图3是本发明实施例中提供的另一种车载投射处理方法的流程示意图,本发明实施例在上述实施例的基础上进行优化,本发明实施例可以与上述一个或者多个实施例中各个可选方案结合。如图3所示,本发明实施例中提供的车载投射处理方法可以包括以下步骤S310~S340:
S310、根据车载图像采集器采集的驾驶员面部图像以及车载图像采集器的参数,确定驾驶员的视角线方向。
在本实施例中,车载图像采集器的参数可以包括车载图像采集器的内参数和外参数,内参数具体可以为车载图像采集器的焦距参数和畸变参数,外参数具体可以为设置有车载图像采集器的车辆的行驶方向,比如以车辆的前进方向为正方向,车辆的转动角度等。
在本实施例中,在已知预先标定的车载图像采集器的内参数和外参数的基础上,通过分析车载图像采集器采集的驾驶员面部图像,可以确定驾驶员的眼球中瞳孔的位置方向和驾驶员的头部朝向,通过叠加眼球中瞳孔的位置方向和驾驶员的头部朝向即可得到驾驶员的视角线方向。
在上述各实施例的基础上,可选的,根据车载图像采集器采集的驾驶员面部图像以及车载图像采集器的参数,确定驾驶员的视角线方向,具体包括以下步骤S3101~S3103:
S3101、根据车载图像采集器采集的驾驶员面部图像,确定驾驶员面部特征点的图像坐标。
在本实施方式中,在获取驾驶员面部图像后,可以采用图像识别提取算法对当前驾驶员面部图像进行处理,从驾驶员面部图像中提取出对应的面部特征点的图像坐标。驾驶员面部特征点的图像坐标可以是指驾驶员的各个面部特征点在驾驶员面部图像中的坐标信息。驾驶员面部特征点可以为驾驶员的面部五官特征。例如,面部特征点可以包括:驾驶员的左眼球、驾驶员的右眼球、驾驶员的左瞳孔、驾驶员的右瞳孔、驾驶员的左耳朵、驾驶员的右耳朵、驾驶员的上嘴唇、驾驶员的鼻尖。车载图像采集器可以包括摄像头。
S3102、根据驾驶员面部特征点的图像坐标和车载图像采集器的参数,确定驾驶员的眼球三维方向向量和头部姿态的三维方向向量。
在本实施方式,在已知预先标定的车载图像采集器的内参数和外参数的基础上,可以将车载图像采集器的坐标系作为一个基准三维坐标系,从而可以将驾驶员面部特征点的图像坐标从二维坐标系转化到基准三维坐标系中,进而得到驾驶员的眼球三维方向向量和头部姿态的三维方向向量。
S3103、根据驾驶员的眼球三维方向向量和头部姿态的三维方向向量,确定驾驶员的视角线方向。
在本实施方式,瞳孔在眼睛中的不同位置可以对应眼球的不同方向,在获知眼球三维方向向量和头部姿态的三维方向向量后,可以将眼球三维方向向量和头部姿态的三维方向向量进行叠加,从而将叠加后的三维方向向量作为驾驶员的视角线方向。
S320、根据驾驶员的视角线方向和挡风玻璃位置,确定驾驶员的凝视点位置。
在本实施例中,驾驶员的视角线方向可以由一个三维的线向量表示,车载前挡风玻璃可以由一个三维的面向量表示,驾驶员的视角线与车载前挡风玻璃之间的相交点即可为驾驶员的凝视点。在已知车载前挡风玻璃位置和驾驶员的视角线方向的前提下,可以根据点面相交的原理得到驾驶员的凝视点位置。
S330、将投射区域中位于凝视点位置处的控件作为目标控件;其中该投射区域为设置在车辆上的投射设备在车辆挡风玻璃上投影时形成的区域,且该投射区域中设置有至少一个控件。
S340、若监测到确认操作事件,则执行目标控件关联的操作。
本发明实施例中提供了一种车载投射处理方案,在运用AR-HUD的过程中不仅可以通过HUD投影设备进行信息展示,而且可以实时地采集分析驾驶员的面部图像,通过分析面部图像获知驾驶员的凝视点位置,进而可以依据凝视点位置从投射区域中选中驾驶员需要进行操作的控件,解决了驾驶员只能作为观众观看HUD投影设备的投影内容,而无法直接对投影的内容做出反馈和控制的问题,实现了驾驶员可以通过驾驶员的凝视点对HUD投影设备进行交互控制效果,增加了HUD投影设备的交互方式。
图4是本发明实施例中提供的一种车载投射处理装置的结构示意图,本实施例可适用于在运用AR-HUD过程中保证驾驶员与HUD投影设备进行交互的情况。该装置可以采用软件和/或硬件的方式实现,并集成在任何具有网络通信功能的车载设备上。
如图4所示,本发明实施例的车载投射处理装置应用于设置有投射设备的车辆,所述投射设备的投射区域中设置有至少一个控件,所述装置包括:
凝视点确定模块410,用于根据车载图像采集器采集的驾驶员面部图像,所述车载图像采集器的参数,以及挡风玻璃的位置,确定驾驶员的凝视点位置;
目标确定模块420,用于将所述投射区域中位于所述凝视点位置处的控件作为目标控件;
目标操作模块430,用于若监测到确认操作事件,则执行所述目标控件关联的操作。
在上述各技术方案的基础上,可选的,所述装置还包括:
凝视时间检测模块440,用于若检测到在所述目标控件上的凝视时长大于时间阈值,则确定监测到确认操作事件;或者,
语音检测模块450,用于若接收到用户输入的确认语音信息,则确定监测到确认操作事件。
在上述各技术方案的基础上,可选的,所述投射区域中设置有音乐控件、收音机控件和地图导航控件中的至少一种控件。
在上述各技术方案的基础上,可选的,所述凝视点确定模块410包括:
视角线确定单元,用于根据车载图像采集器采集的驾驶员面部图像以及所述车载图像采集器的参数,确定驾驶员的视角线方向;
凝视点确定单元,用于根据所述驾驶员的视角线方向和挡风玻璃位置,确定驾驶员的凝视点位置。
在上述各技术方案的基础上,可选的,所述视角线确定单元包括:面部特征点确定子单元,用于根据车载图像采集器采集的驾驶员面部图像,确定驾驶员面部特征点的图像坐标;
眼球和头部姿态确定子单元,用于根据驾驶员面部特征点的图像坐标和所述车载图像采集器的参数,确定驾驶员的眼球三维方向向量和头部姿态的三维方向向量;
视角线方向确定子单元,用于根据驾驶员的眼球三维方向向量和头部姿态的三维方向向量,确定驾驶员的视角线方向。
本发明实施例中所提供的车载投射处理装置可执行上述本发明任意实施例中所提供的车载投射处理方法,具备执行该车载投射处理方法相应的功能和有益效果,未在上述实施例中详尽描述的技术细节,可参见本申请任意实施例中所提供的车载投射处理方法。
图5是本发明实施例中提供的一种车载设备的结构示意图。图5示出了适于用来实现本发明实施方式的示例性车载设备512的框图。图5显示的车载设备512仅仅是一个示例,不应对本发明实施例的功能和使用范围带来任何限制。
如图5所示,车载设备512以通用计算设备的形式表现。该车载设备512的组件可以包括但不限于:一个或者多个处理器516,存储装置528,连接不同系统组件(包括存储装置528和处理器516)的总线518。
总线518表示几类总线结构中的一种或多种,包括存储装置总线或者存储装置控制器,外围总线,图形加速端口,处理器或者使用多种总线结构中的任意总线结构的局域总线。举例来说,这些体系结构包括但不限于工业标准体系结构(Industry SubversiveAlliance,ISA)总线,微通道体系结构(Micro Channel Architecture,MAC)总线,增强型ISA总线、视频电子标准协会(Video Electronics Standards Association,VESA)局域总线以及外围组件互连(Peripheral Component Interconnect,PCI)总线。
车载设备512典型地包括多种计算机系统可读介质。这些介质可以是任何能够被车载设备512访问的可用介质,包括易失性和非易失性介质,可移动的和不可移动的介质。
存储装置528可以包括易失性存储器形式的计算机系统可读介质,例如随机存取存储器(Random Access Memory,RAM)530和/或高速缓存存储器532。车载设备512可以进一步包括其它可移动/不可移动的、易失性/非易失性计算机系统存储介质。仅作为举例,存储系统534可以用于读写不可移动的、非易失性磁介质(图5未显示,通常称为“硬盘驱动器”)。尽管图5中未示出,可以提供用于对可移动非易失性磁盘(例如“软盘”)读写的磁盘驱动器,以及对可移动非易失性光盘,例如只读光盘(Compact Disc Read-Only Memory,CD-ROM),数字视盘(Digital Video Disc-Read Only Memory,DVD-ROM)或者其它光介质)读写的光盘驱动器。在这些情况下,每个驱动器可以通过一个或者多个数据介质接口与总线518相连。存储装置528可以包括至少一个程序产品,该程序产品具有一组(例如至少一个)程序模块,这些程序模块被配置以执行本发明各实施例的功能。
具有一组(至少一个)程序模块542的程序/实用工具540,可以存储在例如存储装置528中,这样的程序模块542包括但不限于操作系统、一个或者多个应用程序、其它程序模块以及程序数据,这些示例中的每一个或某种组合中可能包括网络环境的实现。程序模块542通常执行本发明所描述的实施例中的功能和/或方法。
该车载设备512也可以与一个或多个外部设备514(例如键盘、指向终端、显示器524等)通信,还可与一个或者多个使得用户能与该车载设备512交互的终端通信,和/或与使得该车载设备512能与一个或多个其它计算终端进行通信的任何终端(例如网卡,调制解调器等等)通信。这种通信可以通过输入/输出(I/O)接口522进行。并且,车载设备512还可以通过网络适配器520与一个或者多个网络(例如局域网(Local Area Network,LAN),广域网(Wide Area Network,WAN)和/或公共网络,例如因特网)通信。如图5所示,网络适配器520通过总线518与车载设备512的其它模块通信。应当明白,尽管图中未示出,可以结合车载设备512使用其它硬件和/或软件模块,包括但不限于:微代码、终端驱动器、冗余处理器、外部磁盘驱动阵列、磁盘阵列(Redundant Arrays of Independent Disks,RAID)系统、磁带驱动器以及数据备份存储系统等。
处理器516通过运行存储在存储装置528中的程序,从而执行各种功能应用以及数据处理,例如,可以实现如本发明任意实施例中所提供的车载投射处理方法,该方法应用于设置有投射设备的车辆,所述投射设备的投射区域中设置有至少一个控件,所述方法包括:
根据车载图像采集器采集的驾驶员面部图像,所述车载图像采集器的参数,以及挡风玻璃的位置,确定驾驶员的凝视点位置;
将所述投射区域中位于所述凝视点位置处的控件作为目标控件;
若监测到确认操作事件,则执行所述目标控件关联的操作。
当然,本领域技术人员可以理解,处理器还可以实现本发明任意实施例中所提供的车载投射处理方法的技术方案。
本发明实施例中还提供了一种计算机可读存储介质,其上存储有计算机程序,该程序被处理器执行时可以实现如本发明任意实施例中所提供的车载投射处理方法,该方法应用于设置有投射设备的车辆,所述投射设备的投射区域中设置有至少一个控件,所述方法包括:
根据车载图像采集器采集的驾驶员面部图像,所述车载图像采集器的参数,以及挡风玻璃的位置,确定驾驶员的凝视点位置;
将所述投射区域中位于所述凝视点位置处的控件作为目标控件;
若监测到确认操作事件,则执行所述目标控件关联的操作。
当然,本发明实施例中所提供的一种计算机可读存储介质,其上存储的计算机程序不限于如上所述的方法操作,还可以执行本发明任意实施例中所提供的车载投射处理方法中的相关操作。
本发明实施例的计算机存储介质,可以采用一个或多个计算机可读的介质的任意组合。计算机可读介质可以是计算机可读信号介质或者计算机可读存储介质。计算机可读存储介质例如可以是——但不限于——电、磁、光、电磁、红外线、或半导体的系统、装置或器件,或者任意以上的组合。计算机可读存储介质的更具体的例子(非穷举的列表)包括:具有一个或多个导线的电连接、便携式计算机磁盘、硬盘、随机存取存储器(RAM)、只读存储器(ROM)、可擦式可编程只读存储器(EPROM或闪存)、光纤、便携式紧凑磁盘只读存储器(CD-ROM)、光存储器件、磁存储器件、或者上述的任意合适的组合。在本文件中,计算机可读存储介质可以是任何包含或存储程序的有形介质,该程序可以被指令执行系统、装置或者器件使用或者与其结合使用。
计算机可读的信号介质可以包括在基带中或者作为载波一部分传播的数据信号,其中承载了计算机可读的程序代码。这种传播的数据信号可以采用多种形式,包括但不限于电磁信号、光信号或上述的任意合适的组合。计算机可读的信号介质还可以是计算机可读存储介质以外的任何计算机可读介质,该计算机可读介质可以发送、传播或者传输用于由指令执行系统、装置或者器件使用或者与其结合使用的程序。
计算机可读介质上包含的程序代码可以用任何适当的介质传输,包括——但不限于无线、电线、光缆、RF等等,或者上述的任意合适的组合。
可以以一种或多种程序设计语言或其组合来编写用于执行本发明操作的计算机程序代码,所述程序设计语言包括面向对象的程序设计语言—诸如Java、Smalltalk、C++,还包括常规的过程式程序设计语言—诸如“C”语言或类似的程序设计语言。程序代码可以完全地在用户计算机上执行、部分地在用户计算机上执行、作为一个独立的软件包执行、部分在用户计算机上部分在远程计算机上执行、或者完全在远程计算机或终端上执行。在涉及远程计算机的情形中,远程计算机可以通过任意种类的网络——包括局域网(LAN)或广域网(WAN)—连接到用户计算机,或者,可以连接到外部计算机(例如利用因特网服务提供商来通过因特网连接)。
注意,上述仅为本发明的较佳实施例及所运用技术原理。本领域技术人员会理解,本发明不限于这里所述的特定实施例,对本领域技术人员来说能够进行各种明显的变化、重新调整和替代而不会脱离本发明的保护范围。因此,虽然通过以上实施例对本发明进行了较为详细的说明,但是本发明不仅仅限于以上实施例,在不脱离本发明构思的情况下,还可以包括更多其他等效实施例,而本发明的范围由所附的权利要求范围决定。

Claims (12)

1.一种车载投射处理方法,其特征在于,应用于设置有投射设备的车辆,所述投射设备的投射区域中设置有至少一个控件,所述方法包括:
根据车载图像采集器采集的驾驶员面部图像,所述车载图像采集器的参数,以及挡风玻璃的位置,确定驾驶员的凝视点位置;
将所述投射区域中位于所述凝视点位置处的控件作为目标控件;
若监测到确认操作事件,则执行所述目标控件关联的操作。
2.根据权利要求1所述的方法,其特征在于,在将所述投射区域中位于所述凝视点位置处的控件作为目标控件之后,还包括:
若检测到在所述目标控件上的凝视时长大于时间阈值,则确定监测到确认操作事件;或者,
若接收到用户输入的确认语音信息,则确定监测到确认操作事件。
3.根据权利要求1所述的方法,其特征在于,所述投射区域中设置有音乐控件、收音机控件和地图导航控件中的至少一种控件。
4.根据权利要求1所述的方法,其特征在于,根据车载图像采集器采集的驾驶员面部图像,所述车载图像采集器的参数,以及挡风玻璃的位置,确定驾驶员的凝视点位置,包括:
根据车载图像采集器采集的驾驶员面部图像以及所述车载图像采集器的参数,确定驾驶员的视角线方向;
根据所述驾驶员的视角线方向和挡风玻璃位置,确定驾驶员的凝视点位置。
5.根据权利要求4所述的方法,其特征在于,根据车载图像采集器采集的驾驶员面部图像以及所述车载图像采集器的参数,确定驾驶员的视角线方向,包括:
根据车载图像采集器采集的驾驶员面部图像,确定驾驶员面部特征点的图像坐标;
根据驾驶员面部特征点的图像坐标和所述车载图像采集器的参数,确定驾驶员的眼球三维方向向量和头部姿态的三维方向向量;
根据驾驶员的眼球三维方向向量和头部姿态的三维方向向量,确定驾驶员的视角线方向。
6.一种车载投射处理装置,其特征在于,应用于设置有投射设备的车辆,所述投射设备的投射区域中设置有至少一个控件,所述装置包括:
凝视点确定模块,用于根据车载图像采集器采集的驾驶员面部图像,所述车载图像采集器的参数,以及挡风玻璃的位置,确定驾驶员的凝视点位置;
目标确定模块,用于将所述投射区域中位于所述凝视点位置处的控件作为目标控件;
目标操作模块,用于若监测到确认操作事件,则执行所述目标控件关联的操作。
7.根据权利要求6所述的装置,其特征在于,所述装置还包括:
凝视时间检测模块,用于若检测到在所述目标控件上的凝视时长大于时间阈值,则确定监测到确认操作事件;或者,
语音检测模块,用于若接收到用户输入的确认语音信息,则确定监测到确认操作事件。
8.根据权利要求6所述的装置,其特征在于,所述投射区域中设置有音乐控件、收音机控件和地图导航控件中的至少一种控件。
9.根据权利要求6所述的装置,其特征在于,所述凝视点确定模块包括:
视角线确定单元,用于根据车载图像采集器采集的驾驶员面部图像以及所述车载图像采集器的参数,确定驾驶员的视角线方向;
凝视点确定单元,用于根据所述驾驶员的视角线方向和挡风玻璃位置,确定驾驶员的凝视点位置。
10.根据权利要求9所述的装置,其特征在于,所述视角线确定单元包括:面部特征点确定子单元,用于根据车载图像采集器采集的驾驶员面部图像,确定驾驶员面部特征点的图像坐标;
眼球和头部姿态确定子单元,用于根据驾驶员面部特征点的图像坐标和所述车载图像采集器的参数,确定驾驶员的眼球三维方向向量和头部姿态的三维方向向量;
视角线方向确定子单元,用于根据驾驶员的眼球三维方向向量和头部姿态的三维方向向量,确定驾驶员的视角线方向。
11.一种车载设备,其特征在于,所述车载设备包括:
一个或多个处理器;
存储装置,用于存储一个或多个程序,
当所述一个或多个程序被所述一个或多个处理器执行,使得所述一个或多个处理器实现权利要求1-5中任一所述的车载投射处理方法。
12.一种计算机可读存储介质,其上存储有计算机程序,其特征在于,该程序被处理器执行时实现权利要求1-5中任一所述的车载投射处理方法。
CN201910194709.2A 2019-03-14 2019-03-14 车载投射处理方法、装置、车载设备及存储介质 Active CN109968979B (zh)

Priority Applications (1)

Application Number Priority Date Filing Date Title
CN201910194709.2A CN109968979B (zh) 2019-03-14 2019-03-14 车载投射处理方法、装置、车载设备及存储介质

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
CN201910194709.2A CN109968979B (zh) 2019-03-14 2019-03-14 车载投射处理方法、装置、车载设备及存储介质

Publications (2)

Publication Number Publication Date
CN109968979A true CN109968979A (zh) 2019-07-05
CN109968979B CN109968979B (zh) 2021-12-07

Family

ID=67078967

Family Applications (1)

Application Number Title Priority Date Filing Date
CN201910194709.2A Active CN109968979B (zh) 2019-03-14 2019-03-14 车载投射处理方法、装置、车载设备及存储介质

Country Status (1)

Country Link
CN (1) CN109968979B (zh)

Cited By (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN110488978A (zh) * 2019-08-22 2019-11-22 大陆投资(中国)有限公司 车辆驾驶舱系统和使用说明交互设备与方法
CN110515464A (zh) * 2019-08-28 2019-11-29 百度在线网络技术(北京)有限公司 Ar显示方法、装置、车辆和存储介质
CN111638780A (zh) * 2020-04-30 2020-09-08 长城汽车股份有限公司 车辆显示控制方法以及车辆主机
CN111638786A (zh) * 2020-05-29 2020-09-08 电装天研究开发(天津)有限公司 车载后排投影显示系统的显示控制方法、装置、设备及存储介质
CN113034607A (zh) * 2021-03-03 2021-06-25 恒大新能源汽车投资控股集团有限公司 一种车载投影设备的安装标定方法、系统及电子设备
CN114327051A (zh) * 2021-12-17 2022-04-12 北京乐驾科技有限公司 人车智能交互方法

Citations (12)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN101881885A (zh) * 2009-04-02 2010-11-10 通用汽车环球科技运作公司 全挡风玻璃平视显示器上的外围突出特征增强
JP5108057B2 (ja) * 2010-05-21 2012-12-26 矢崎総業株式会社 車両用表示装置
CN104169993A (zh) * 2012-03-14 2014-11-26 株式会社电装 驾驶辅助装置及驾驶辅助方法
US20150145761A1 (en) * 2013-11-26 2015-05-28 Automotive Research & Test Center Information display system automatically adjusting projection area and method thereof
CN104677377A (zh) * 2015-02-10 2015-06-03 奇瑞汽车股份有限公司 车载导航方法及系统
CN105189178A (zh) * 2013-05-09 2015-12-23 株式会社电装 视线输入装置
CN105539146A (zh) * 2014-10-24 2016-05-04 通用汽车环球科技运作有限责任公司 用在车辆上的包含眼睛跟踪装置的系统和方法
CN105739705A (zh) * 2016-02-04 2016-07-06 重庆邮电大学 一种车载系统人眼控制方法及装置
CN107472140A (zh) * 2017-08-08 2017-12-15 上海青研科技有限公司 一种眼控车载hud系统
CN108243332A (zh) * 2016-12-23 2018-07-03 深圳点石创新科技有限公司 车载抬头显示系统影像调节方法及车载抬头显示系统
CN108399903A (zh) * 2018-03-27 2018-08-14 京东方科技集团股份有限公司 一种成像位置的调节方法及装置、平视显示系统
CN108501809A (zh) * 2018-03-26 2018-09-07 京东方科技集团股份有限公司 基于视线追踪的车载显示控制装置、显示系统及显示方法

Patent Citations (13)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN101881885A (zh) * 2009-04-02 2010-11-10 通用汽车环球科技运作公司 全挡风玻璃平视显示器上的外围突出特征增强
JP5108057B2 (ja) * 2010-05-21 2012-12-26 矢崎総業株式会社 車両用表示装置
CN104169993A (zh) * 2012-03-14 2014-11-26 株式会社电装 驾驶辅助装置及驾驶辅助方法
CN105189178A (zh) * 2013-05-09 2015-12-23 株式会社电装 视线输入装置
US20150145761A1 (en) * 2013-11-26 2015-05-28 Automotive Research & Test Center Information display system automatically adjusting projection area and method thereof
US9207770B2 (en) * 2013-11-26 2015-12-08 Automotive Research & Test Center Information display system automatically adjusting projection area and method thereof
CN105539146A (zh) * 2014-10-24 2016-05-04 通用汽车环球科技运作有限责任公司 用在车辆上的包含眼睛跟踪装置的系统和方法
CN104677377A (zh) * 2015-02-10 2015-06-03 奇瑞汽车股份有限公司 车载导航方法及系统
CN105739705A (zh) * 2016-02-04 2016-07-06 重庆邮电大学 一种车载系统人眼控制方法及装置
CN108243332A (zh) * 2016-12-23 2018-07-03 深圳点石创新科技有限公司 车载抬头显示系统影像调节方法及车载抬头显示系统
CN107472140A (zh) * 2017-08-08 2017-12-15 上海青研科技有限公司 一种眼控车载hud系统
CN108501809A (zh) * 2018-03-26 2018-09-07 京东方科技集团股份有限公司 基于视线追踪的车载显示控制装置、显示系统及显示方法
CN108399903A (zh) * 2018-03-27 2018-08-14 京东方科技集团股份有限公司 一种成像位置的调节方法及装置、平视显示系统

Cited By (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN110488978A (zh) * 2019-08-22 2019-11-22 大陆投资(中国)有限公司 车辆驾驶舱系统和使用说明交互设备与方法
CN110515464A (zh) * 2019-08-28 2019-11-29 百度在线网络技术(北京)有限公司 Ar显示方法、装置、车辆和存储介质
CN111638780A (zh) * 2020-04-30 2020-09-08 长城汽车股份有限公司 车辆显示控制方法以及车辆主机
CN111638786A (zh) * 2020-05-29 2020-09-08 电装天研究开发(天津)有限公司 车载后排投影显示系统的显示控制方法、装置、设备及存储介质
CN113034607A (zh) * 2021-03-03 2021-06-25 恒大新能源汽车投资控股集团有限公司 一种车载投影设备的安装标定方法、系统及电子设备
CN114327051A (zh) * 2021-12-17 2022-04-12 北京乐驾科技有限公司 人车智能交互方法

Also Published As

Publication number Publication date
CN109968979B (zh) 2021-12-07

Similar Documents

Publication Publication Date Title
CN109968979A (zh) 车载投射处理方法、装置、车载设备及存储介质
CN109917920A (zh) 车载投射处理方法、装置、车载设备及存储介质
CN109889807A (zh) 车载投射调节方法、装置、设备和存储介质
KR101655818B1 (ko) 웨어러블 글래스, 그 제어 방법 및 차량 제어 시스템
JP2022517254A (ja) 注視エリア検出方法、装置、及び電子デバイス
US20190227694A1 (en) Device for providing augmented reality service, and method of operating the same
CN109941277A (zh) 显示汽车a柱盲区图像的方法、装置和车辆
CN107310476A (zh) 基于车载hud的眼动辅助语音交互方法及系统
CN111873911A (zh) 调整后视镜的方法、装置、介质以及电子设备
US11256104B2 (en) Intelligent vehicle point of focus communication
WO2020231401A1 (en) A neural network for head pose and gaze estimation using photorealistic synthetic data
CN112083795A (zh) 对象控制方法及装置、存储介质和电子设备
CN110341617A (zh) 眼球追踪方法、装置、车辆和存储介质
CN112162688A (zh) 一种基于手势识别的车载虚拟屏交互信息系统
CN115525152A (zh) 图像处理方法及系统、装置、电子设备和存储介质
CN110065439A (zh) 一种车内交互系统
CN110413113A (zh) 一种车载机器人及交互方法
CN113661495A (zh) 视线校准方法及装置、设备、计算机可读存储介质、系统、车辆
JP2018055264A (ja) ジェスチャ検出装置
CN202615313U (zh) 车载识别控制系统
CN107472140B (zh) 一种眼控车载hud系统
CN115223231A (zh) 视线方向检测方法和装置
CN113002461A (zh) Ar-hud系统的虚像位置调整方法、装置及存储介质
CN107548483B (zh) 控制方法、控制装置、系统以及包括这样的控制装置的机动车辆
CN116400805A (zh) 车载娱乐交互方法、装置、车辆及存储介质

Legal Events

Date Code Title Description
PB01 Publication
PB01 Publication
SE01 Entry into force of request for substantive examination
SE01 Entry into force of request for substantive examination
TA01 Transfer of patent application right

Effective date of registration: 20211021

Address after: 100176 101, floor 1, building 1, yard 7, Ruihe West 2nd Road, Beijing Economic and Technological Development Zone, Daxing District, Beijing

Applicant after: Apollo Intelligent Connectivity (Beijing) Technology Co., Ltd.

Address before: 100085 Baidu Building, 10 Shangdi Tenth Street, Haidian District, Beijing

Applicant before: BAIDU ONLINE NETWORK TECHNOLOGY (BEIJING) Co.,Ltd.

TA01 Transfer of patent application right
GR01 Patent grant
GR01 Patent grant