CN117523015A - 图像生成方法和装置 - Google Patents
图像生成方法和装置 Download PDFInfo
- Publication number
- CN117523015A CN117523015A CN202311369091.1A CN202311369091A CN117523015A CN 117523015 A CN117523015 A CN 117523015A CN 202311369091 A CN202311369091 A CN 202311369091A CN 117523015 A CN117523015 A CN 117523015A
- Authority
- CN
- China
- Prior art keywords
- image
- user
- acquisition
- external
- determining
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Pending
Links
- 238000000034 method Methods 0.000 title claims abstract description 58
- 230000006698 induction Effects 0.000 claims abstract description 6
- 210000001508 eye Anatomy 0.000 claims description 127
- 230000000007 visual effect Effects 0.000 claims description 28
- 238000012790 confirmation Methods 0.000 claims 1
- 238000010586 diagram Methods 0.000 description 7
- 210000003811 finger Anatomy 0.000 description 6
- 210000004247 hand Anatomy 0.000 description 6
- 230000003213 activating effect Effects 0.000 description 4
- 230000001960 triggered effect Effects 0.000 description 3
- 210000005252 bulbus oculi Anatomy 0.000 description 2
- 238000004590 computer program Methods 0.000 description 2
- 230000000694 effects Effects 0.000 description 2
- 238000005516 engineering process Methods 0.000 description 2
- 210000003128 head Anatomy 0.000 description 2
- 238000003384 imaging method Methods 0.000 description 2
- 238000012986 modification Methods 0.000 description 2
- 230000004048 modification Effects 0.000 description 2
- 210000003813 thumb Anatomy 0.000 description 2
- 230000006978 adaptation Effects 0.000 description 1
- 230000015572 biosynthetic process Effects 0.000 description 1
- 238000010801 machine learning Methods 0.000 description 1
- 230000000750 progressive effect Effects 0.000 description 1
- 238000003786 synthesis reaction Methods 0.000 description 1
- 230000002194 synthesizing effect Effects 0.000 description 1
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T11/00—2D [Two Dimensional] image generation
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F3/00—Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
- G06F3/01—Input arrangements or combined input and output arrangements for interaction between user and computer
- G06F3/011—Arrangements for interaction with the human body, e.g. for user immersion in virtual reality
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F3/00—Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
- G06F3/01—Input arrangements or combined input and output arrangements for interaction between user and computer
- G06F3/017—Gesture based interaction, e.g. based on a set of recognized hand gestures
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
- G06V40/00—Recognition of biometric, human-related or animal-related patterns in image or video data
- G06V40/20—Movements or behaviour, e.g. gesture recognition
- G06V40/28—Recognition of hand or arm movements, e.g. recognition of deaf sign language
Landscapes
- Engineering & Computer Science (AREA)
- Theoretical Computer Science (AREA)
- Physics & Mathematics (AREA)
- General Physics & Mathematics (AREA)
- General Engineering & Computer Science (AREA)
- Human Computer Interaction (AREA)
- General Health & Medical Sciences (AREA)
- Psychiatry (AREA)
- Social Psychology (AREA)
- Computer Vision & Pattern Recognition (AREA)
- Multimedia (AREA)
- Health & Medical Sciences (AREA)
- User Interface Of Digital Computer (AREA)
- Fittings On The Vehicle Exterior For Carrying Loads, And Devices For Holding Or Mounting Articles (AREA)
Abstract
本申请提供了一种图像生成方法和装置,该方法包括:获得车辆车厢内的内部图像传感器采集的用户图像信息以及车辆车厢内的音频传感器感应到的用户音频信息,用户图像信息包括用户手部图像和用户眼部图像;通过车辆车厢外的外部图像传感器感应车辆车厢外的图像;基于用户音频信息、用户手部图像和用户眼部图像中至少一个,确定用户指示出的图像采集方向;从车辆车厢外的外部图像传感器中,确定感应范围包括图像采集方向的第一外部图像传感器,获得第一外部图像传感器采集到的至少一帧车厢外部图像;基于至少一帧车厢外部图像和用户眼部图像,生成与用户视角匹配的至少一帧目标图像。
Description
技术领域
本申请涉及图像处理技术领域,尤其涉及一种图像生成方法和装置。
背景技术
在车辆行驶过程中,驾驶员或者乘客可能会希望拍摄行驶路段前方或者两侧的图像。
但是,驾驶员驾驶车辆的过程中,使用手机等电子设备拍摄图像的复杂度较高,会存在较大的安全性风险,还会由于单手操作手机不稳定等原因而导致拍摄的图像效果较差。而乘客可能会由于车辆结构等遮挡手机等电子设备或者是由于安全带限制等原因,导致无法拍摄到完整且清晰的图像,使得车内拍摄车辆周围图像的复杂度较高。基于此,如何能够提高车辆内人员获取车辆周围环境图像的便捷性是本领域技术人员需要解决的技术问题。
发明内容
一方面,本申请提供了一种图像生成方法,包括:
获得车辆车厢内的内部图像传感器采集的用户图像信息以及车辆车厢内的音频传感器感应到的用户音频信息,所述用户图像信息包括用户手部图像和用户眼部图像;
通过车辆车厢外的外部图像传感器感应车辆车厢外的图像;
基于所述用户音频信息、用户手部图像和用户眼部图像中至少一个,确定用户指示出的图像采集方向;
从车辆车厢外的外部图像传感器中,确定感应范围包括所述图像采集方向的第一外部图像传感器,获得所述第一外部图像传感器采集到的至少一帧车厢外部图像;
基于所述至少一帧车厢外部图像和用户眼部图像,生成与用户视角匹配的至少一帧目标图像。
在一种可能的实现方式中,所述基于所述用户音频信息、用户手部图像和用户眼部图像中至少一个,确定用户指示出的图像采集方向,包括:
如果基于所述用户音频信息和所述用户手部图像中至少一个确认满足图像采集条件,基于所述用户音频信息、用户手部图像和用户眼部图像中至少一个,确定用户指示出的图像采集方向。
在又一种可能的实现方式中,所述通过车辆车厢外的外部图像传感器感应车辆车厢外的图像,包括:
如果基于所述用户音频信息和所述用户手部图像中至少一个确认满足图像采集条件,通过车辆车厢外的外部图像传感器感应车辆车厢外的图像。
在又一种可能的实现方式中,所述基于所述用户音频信息和所述用户手部图像中至少一个确认满足图像采集条件,包括如下任意一种:
如果所述用户音频信息中包括用于指示采集图像的至少一个关键词,确认满足图像采集条件;
如果所述用户音频信息中包括用于指示采集图像的至少一个关键词,且所述用户手部图像中包括用于指示采集图像的采集指示手势或者用于指示图像采集方向的方向指示手势,确认满足图像采集条件;
如果所述用户手部图像中包括用于指示采集图像的采集指示手势,确认满足图像采集条件。
在又一种可能的实现方式中,所述基于所述用户音频信息、用户手部图像和用户眼部图像中至少一个,确定用户指示出的图像采集方向,包括如下任意一项:
如果所述用户手部图像中包括用于指示图像采集方向的方向指示手势,确定所述方向指示手势所指示出的图像采集方向;
如果所述用户手部图像中包括用于指示采集图像的采集指示手势,确定所述采集指示手势所指示出的图像采集方向;
如果所述用户手部图像中不包括所述方向指示手势或者采集指示手势,确定所述用户音频信息指示出的图像采集方向;
如果用户手部图像中不包括所述方向指示手势或者采集指示手势,且所述用户音频信息不包括方向指示信息,基于所述用户眼部图像指示出的用户视线方向,确定图像采集方向;
如果所述用户手部图像中包括采集指示手势,基于所述采集指示手势以及所述用户眼部图像中指示出的用户视线方向或者眼部空间位置,确定图像采集方向。
在又一种可能的实现方式中,所述基于所述至少一帧车厢外部图像和用户眼部图像,生成与用户视角匹配的至少一帧目标图像,包括:
基于所述用户眼部图像确定用户视线方向;
按照所述用户视线方向,分别从各帧车厢外部图像中确定处于用户视角内的外部图像区;
将所述外部图像区确定为目标图像,得到至少一帧目标图像。
在又一种可能的实现方式中,所述按照所述用户视线方向,分别从各帧车厢外部图像中确定处于用户视角内的外部图像区,包括:
如果所述用户视线方向与所述图像采集方向的方向差小于设定阈值,按照所述用户视线方向,分别从各帧车厢外部图像中确定处于用户视角内的外部图像区;
如果所述用户视线方向与所述图像采集方向的方向差不小于设定阈值,将所述图像采集方向确定为基准视线方向,分别从各帧车厢外部图像中确定处于所述基准视线方向对应的视角范围内的外部图像区。
在又一种可能的实现方式中,所述基于所述至少一帧车厢外部图像和用户眼部图像,生成与用户视角匹配的至少一帧目标图像,包括:
如果所述用户手部图像包括用于指示采集图像的采集指示手势,确定所述采集指示手势指示出的空间采集范围;
基于所述用户眼部图像,确定用户眼部的空间位置;
基于所述用户眼部的空间位置以及所述空间采集范围,分别从各车厢外部图像中确定处于用户期望的目标视角内的图像区,将各图像区确定为目标图像。
在又一种可能的实现方式中,还包括:从车辆车厢外的外部图像传感器中,确定与所述第一外部图像传感器的感应范围相邻或者存在交集的至少一个第二外部图像传感器;
获得所述第二外部图像传感器采集到的至少一帧参考外部图像;
所述基于所述至少一帧车厢外部图像和用户眼部图像,生成与用户视角匹配的至少一帧目标图像,包括:
基于所述至少一帧车厢外部图像和各参考外部图像,结合所述用户眼部图像,合成出与用户视角匹配的至少一帧目标图像。
又一方面,本申请还提供了一种图像生成装置,包括:
信息获得单元,用于获得车辆车厢内的内部图像传感器采集的用户图像信息以及车辆车厢内的音频传感器感应到的用户音频信息,所述用户图像信息包括用户手部图像和用户眼部图像;
图像感应单元,用于通过车辆车厢外的外部图像传感器感应车辆车厢外的图像;
方向确定单元,用于基于所述用户音频信息、用户手部图像和用户眼部图像中至少一个,确定用户指示出的图像采集方向;
图像获得单元,用于从车辆车厢外的外部图像传感器中,确定感应范围包括所述图像采集方向的第一外部图像传感器,获得所述第一外部图像传感器采集到的至少一帧车厢外部图像;
图像生成单元,用于基于所述至少一帧车厢外部图像和用户眼部图像,生成与用户视角匹配的至少一帧目标图像。
附图说明
为了更清楚地说明本申请实施例中的技术方案,下面将对实施例描述中所需要使用的附图作简单地介绍,显而易见地,下面描述中的附图仅仅是本申请的实施例,对于本领域普通技术人员来讲,在不付出创造性劳动的前提下,还可以根据提供的附图获得其他的附图。
图1示出了本申请实施例提供的图像生成方法的一种流程示意图;
图2和图3分别示出了本申请实施例中采集指示手势的不同示意图;
图4示出了本申请实施例中方向指示手势的一种示意图;
图5示出了本申请实施例提供的图像生成方法的又一种流程示意图;
图6示出了本申请实施例提供的图像生成方法的又一种流程示意图;
图7示出了本申请实施例提供的图像生成方法的又一种流程示意图;
图8示出了本申请实施例提供的图像生成方法的又一种流程示意图;
图9示出了本申请实施例提供的图像生成装置的一种组成结构示意图;
图10示出了本申请实施例提供的车载控制系统的一种组成架构示意图。
具体实施方式
本申请的方案可以应用于各种车辆的车载控制系统,该车载控制系统可以包括车载控制器以及与车载控制器相连的各种传感器。基于本申请的方案车辆内部的用户可以借助车载控制系统获取到该用户期望视角内的车辆外部环境图像,提高了用户获得车辆周围的外部图像的便捷性。
下面将结合本申请实施例中的附图,对本申请实施例中的技术方案进行清楚、完整地描述,显然,所描述的实施例仅仅是本申请一部分实施例,而不是全部的实施例。基于本申请中的实施例,本领域普通技术人员在没有付出创造性劳动前提下所获得的所有其他实施例,都属于本申请保护的范围。
如图1,示出了本申请实施例提供的图像生成方法的一种流程示意图,本实施例的方法可以应用于车载控制系统,本实施例的方法可以包括:
S101,获得车辆车厢内的内部图像传感器采集的用户图像信息以及车辆车厢内的音频传感器感应到的用户音频信息。
为了便于区分,本申请将位于车辆车厢内的图像传感器称为内部图像传感器,而将位于车辆车厢外的图像传感器称为外部图像传感器。
在本申请中,内部图像传感器采集到的用户图像信息包括:用户手部图像和用户眼部图像。
如,可以通过内部图像传感器采集包括用户眼部和手部的图像,使得采集到的用户图像信息中包含用户眼部和用户手部的图像。在此基础上,本申请可以从用户图像信息中分别分离出用户手部对应的用户手部图像,以及用户眼部对应的用户眼部图像。
又如,本申请还可以分别通过不同内部图像传感器采用用户手部的图像以及用户眼部图像,以得到各自独立的用户眼部图像和用户手部图像。
其中,用户手部图像可以反映出用户手部的手势姿态以及空间位置等信息中的部分或者全部。
用户眼部图像可以反映出用户眼部的空间位置以及用户视线等信息中的部分或者全部。
其中,音频传感器用户采集车辆车厢内部的用户声音,得到用户音频信息。
S102,通过车辆车厢外的外部图像传感器感应车辆车厢外的图像。
其中,外部图像传感器感应车辆车厢外的图像可以是仅仅感应车厢外的图像,但是并不会生成车厢外图像的成像。如,外部图像传感器仅仅是采集外部图像,以使得外部图像能够以预览形式显示,但是外部图像传感器并不会缓存或者存储当前感应到的外部图像。
外部图像传感器感应车辆车厢外的图像也可以是采集并生成该车辆车厢外图像的成像。如,外部图像感应车辆车厢外的图像并缓存设定时长,在缓存的外部图像超过设定时长后,则会删除该部分外部图像。
在本申请中,车辆车厢外的外部图像传感器可以有至少一个,一般情况下可以设置多个,以能够采集车辆车厢外不同方向以及空间区域内的外部图像。
在本申请中,车辆车厢外的外部图像传感器可以一直处于启动状态,也可以是在车辆满足特定条件下处于启动状态,以感应车辆车厢外的图像,从而使得后续需要获取外部图像时,能够及时且高效地完成车辆车厢外部图像的成像。
如,在本申请中,在车辆启动或者车辆车厢内存在驾驶员或者至少一个用户的情况下,外部图像传感器会启动并感应外部图像。
又如,本申请还可以在检测到针对外部图像传感器的启动操作,例如,点击或者触摸用于启动外部图像传感器的按键或者图标等,通过车辆车厢外的外部图像传感器感应车辆车厢外的图像。
再如,本申请还可以是在确认满足图像采集条件的情况下,通过车辆车厢外的外部图像传感器感应车辆车厢外的图像。比如,如果基于该用户音频信息和用户手部图像中至少一个确认满足图像采集条件,通过车辆车厢外的外部图像传感器感应车辆车厢外的图像。
可以理解的是,用户音频信息和用户手部图像可以反映出用户是否存在图像采集需求以及具体需求情况,因此,本申请结合用户音频信息和用户手部图像中至少一个,可以合理确定用户当前是否期望采集车辆车厢外的图像。
在本申请中,基于用户音频信息和用户手部信息中至少一个确认满足图像采集条件的具体实现可以有多种可能,下面以几种可能情况进行说明:
在一种可能的情况中,如果用户音频信息中包括用于指示采集图像的至少一个关键词,确认满足图像采集条件。
例如,用户音频信息中包括“看外部景色多美”、“拍下外部景色”“拍照”、“外部真美,录下来”则说明用户存在期望采集车辆外部图像的需求,那么可以设置用户音频信息用于指示采集图像的关键词可以包括“拍照”“拍”、“录”、“录下来”“景色多美”等词中的一个或者多个。当然,此处仅仅是一个例子,具体可以根据需要设定,对此不加限制。
在又一种可能的情况中,如果用户手部图像中包括用于指示采集图像的采集指示手势,确认满足图像采集条件。
其中,采集指示手势可以为预先设定的,用于表征用户需要采集图像的手势。如,采集指示手势可以为在空间中做出框选一个区域的手势或者包含指向性的指示手势。又如,在用户为非驾驶员的情况下,采集指示手势还可以为如图2或者图3所示的采集指示手势。如,图2和图3中,用户通过左手的拇指和食指,以及右手的拇指和食指可以围一个类似“相框”的区域,以模拟相机拍照动作。当然,采集指示手势还可以有其他可能,对此不加限制。
在又一种可能的情况中,如果用户音频信息中包括用于指示采集图像的至少一个关键词,且用户手部图像中包括用于指示采集图像的采集指示手势或者用于指示图像采集方向的方向指示手势,确认满足图像采集条件。
如,用户音频信息为“看那边好美啊”,且用户手部图像中包括指示有方向的方向指示手势,则说明用户希望采集该方向指示手势指示的方向上的外部图像。
又如,用户发出的用户音频信息为“这里太好看了”,且该用户的用户手部图像包括用于指示拍照的采集指示手势,则确认满足图像采集条件。
可以理解的是,车辆车厢内部可能会存在多个用户,如,车辆车厢内可能会存在驾驶员以及坐在副驾驶位上的乘客等,因此,在本申请中,为了减少干扰情况,本申请中仅针对同一用户的用户音频信息、用户手部图像和用户眼部图像进行分析,因此,本申请实施例中,提到的用户音频信息、用户手部图像和用户眼部图像归属于同一个用户。如,在用户音频信息中包括用于指示采集图像的至少一个关键词的情况下,实际上目标用户的用户手部图像中包括用于指示采集图像的采集指示手势或者用于指示图像采集方向的方向指示手势,则确认满足图像采集条件,该目标用户为用户音频信息所归属的用户。
可以理解的是,对于每个用户而言,基于该用户的用户音频信息、用户手部图像以及用户眼部图像,生成图像的过程都相似,不再赘述。
S103,基于用户音频信息、用户手部图像和用户眼部图像中至少一个,确定用户指示出的图像采集方向。
在本申请中,该图像采集方向可以表明相对车辆而言,用户期望采集图像的方向。如,图像采集方向可以为车辆前方,车辆右侧或者车辆左侧等。
在申请中,确定图像采集方向的具体实现可以有多种可能,下面以几种可能的实现方式为例进行说明:
在一种可能的实现方式中,如果用户手部图像中包括用于指示图像采集方向的方向指示手势,确定该方向指示手势所指示出的图像采集方向。
如,用户希望采集车辆右侧的图像,那么用户可以用手指指向右侧。如图4所示的方向指示手势的示例图,那么车载控制系统可以基于图4可以确定用户希望采集车辆车厢外且处于车辆右侧的外部图像。
在又一种可能的实现方式中,如果用户手部图像中包括用于指示采集图像的采集指示手势,确定该采集指示手势所指示出的图像采集方向。
如,如果采集指示手势中直观指示有方向,则直接将采集指示手势指示的方向确定为图像采集方向。
如果采集指示手势为指示有空间采集范围,那么可以结合空间采集范围的朝向,确定图像采集方向。
如,以采集指示手势为图2所示的手势为例,如果用户希望对车辆前方进行图像采集,则可以朝向车辆前方,摆出图2所示的采集指示手势;如果用户希望对车辆右侧进行图像采集,用户可以朝车辆右侧车窗方向做出图2所示采集指示手势,那么可以结合车辆车厢内前方的内部摄像头和右侧的摄像头采集到的采集指示手势可以确定出该采集指示手势朝向右侧,那么可以确定图像采集方向为车辆右侧方向。
在又一种可能的实现方式中,如果用户手部图像中不包括方向指示手势或者采集指示手势,确定用户音频信息指示出的图像采集方向。
其中,通过解析用户音频信息指示的方向,可以将解析出的方向确定为图像采集方向,如,确定出用户音频信息中包含的指示方向的关键词信息,比如,“看右侧”“前方”等,确定关键词信息指示的方向为图像采集方向。
当然,在实际应用中,还可以结合车辆行驶方向或者朝向等信息,结合用户音频信息确定用户指示出的图像采集方向,对此不加限制。
在又一种可能的实现方式中,如果用户手部图像中不包括方向指示手势或者采集指示手势,且用户音频信息不包括方向指示信息,基于用户眼部图像指示出的用户视线方向,确定图像采集方向。
可以理解的是,如果用户未通过手势以及音频做出方向指示,那么用户眼部注视的方向就是用户当前希望采集图像的方向,因此,可以将用户眼部图像指示出的用户视线方向确定为图像采集方向。
如,对于驾驶员而言,在驾驶车辆的过程中,不能随便将手从方向盘上移开来一些手势,且驾驶员的头部一般不能随意转动,那么在需要采集图像时,驾驶员的视线方向就可以代表其希望的图像采集方向。又或者,驾驶员之外的乘客在希望采集某方向上的图像时,乘客的眼睛会观看相应方向,因此乘客的视线方向就代表了乘客期望的图像采集方向。
在又一种可能的实现方式中,如果用户手部图像中包括用于指示图像采集方向的采集指示手势,基于该采集指示手势以及用户眼部图像中指示出的用户视线方向或者眼部空间位置,确定图像采集方向。
如,考虑到用户能够做出一些采集指示手势时,用户一般为非驾驶员,此时用户在做出采集手势时,视线也会朝向采集指示手势或者需要采集图像的方向,因此,如果基于采集指示手势所限定的空间采集范围等,无法准确图像采集方向,就还可以结合用户视线方向确定图像采集方向。
类似的,还可以结合采集指示手势以及用户的眼部空间位置,确定图像采集方向。例如,仍以图2所示的采集指示手势为例,该采集指示手势可以指示出用户希望采集的图像的空间采集区域,而用户做出该手势时,用户眼部会望向该空间采集区域,那么眼部空间位置到该采集指示手势所指示出的空间采集区域的方向就可以确定为图像采集方向。
以上是以几种可能的实现方式为例,在实际应用中,确定图像采集方向还可以有其他可能,对此不加限制。
可以理解的是,在本申请中图像采集方向不仅可以表征用户期望采集图像的方向,还可以用于表征用户期望采集图像的采集视角或者作为辅助确定用户视角的辅助方向。
在本申请中,如果车辆车厢外的外部图像传感器是在需要采集图像前就预先启动的,如在车辆启动时或者车辆满足特定条件下启动等,那么在能够触发确定图像采集方向时,就表明满足图像采集条件需要在确定图像采集方向后执行后续操作。
进一步的,为了减少一些误判情况,在外部图像传感器是预先启动的情况下,本申请还可以在基于用户手部图像和用户音频信息中的至少一个确定出满足图像采集条件的情况下,执行该步骤确定图像采集方向的操作。
其中,基于用户手部图像和用户音频信息中至少一个确定满足图像采集条件的具体实现可以参见前面步骤S102的相关介绍,在此不再赘述。
S104,从车辆车厢外的外部图像传感器中,确定感应范围包括图像采集方向的第一外部图像传感器,获得第一外部图像传感器采集到的至少一帧车厢外部图像。
其中,外部图像传感器的感应范围由外部图像传感器能够采集到图像的各个角度范围组成的集合,因此,如果外部图像传感器的感应范围能够覆盖该图像采集方向,那么该外部图像传感器就能够采集到该图像采集方向一定范围内的外部图像。
在本申请中,将感应范围包括该图像采集方向的外部图像传感器称为第一外部图像传感器。将第一外部图像传感器采集到的图像称为车厢外部图像。
可以理解的是,在本申请中获得第一外部图像传感器采集到的车厢外部图像的数量可以是由车辆预先配置或者是人为预先设定的采集时长或者采集张数确定。如,如果设定每次仅仅摄取一张车辆车厢外的图像,那么可以获得第一外部图像传感器采集到的一张车厢外部图像;如果设定采集5秒时长的视频,那么需要获得第一外部图像传感器在5秒内采集到的各张车厢外部图像。
该第一外部图像传感器采集到的车厢外部图像的数量还可以由用户通过语音或者手势等控制,如,本申请可以在确定图像采集方向的同时,结合用户音频信息和用户手势信息中至少一个,确定需要采集图像,还是需要采集视频以及采集到的视频长度等。
举例说明:用户音频信息可以指示出需要采集图像还是视频,例如,用户音频信息为“外面好美,拍张照”,则说明需要第一外部图像传感器采集一张图像。如果用户音频信息为“看右侧风景,录段视频吧”,说明第一外部图像传感器采集多帧图像构成的视频,视频的长度可以为预先设定的长度。当然,用户音频信息中也可以指示出视频长度,例如,用户音频信息包括“录段5秒视频”则需要采集的视频长度为5秒,或者用户音频信息包括“录段段视频”或者“录段长视频”,则视频长度为设定的短视频或者长视频对应的视频长度。
类似的,本申请还可以通过不同用户手势来指示出需要采集的为单张图像,还是一个视频。
当然,还可以预先设定不同用户音频信息与不同用户手势所对应的图像张数或者采集图像的时长等,对此不再赘述。
需要说明的是,在实际应用中,在车辆外部同一侧面或者同一方向上有可能会同时设置多个图像传感器,因此,本申请中确定出的第一外部图像传感器可以是一个,也可以是多个,对此不加限制。
S105,基于该至少一帧车厢外部图像和用户眼部图像,生成与用户视角匹配的至少一帧目标图像。
其中,用户视角可以是结合用户眼部图像,确定出的用户观看车辆车厢外部的观看视角或者用户期望外部图像传感器采集图像的视角方向。
在本申请中,结合具体场景,用户眼部图像包含的信息等不同,生成目标图像的具体方式也会有所不同,本申请对于具体如何生成目标图像的实现不加限制。
由以上内容可知,在本申请中,车辆的车厢内部以及车厢外部设置有多种类型的传感器,通过车辆车厢内的各种传感器可以获得车厢内用户的用户手部图像、用户眼部图像和用户音频信息。基于此,在基于用户手部图像、用户眼部图像和用户音频信息中至少一个确定出图像采集方向后,本申请便可以确定车辆车厢外感应范围包括该图像采集方向的外部图像传感器,基于该外部图像传感器采集到的车厢外部图像和用户眼部图像,生成与用户视角匹配的目标图像,从而无需车辆内的驾驶员或者乘客拿出手机等电子设备并通过开启电子设备摄像头等复杂操作,便可以利用车载控制系统较为便捷地获得车辆车厢外的图像。
而且,相对于用户利用手机等电子设备在车辆车厢内对车厢外景物进行拍摄,利用车辆中位于车厢为的图像传感器采集图像,可以减少由于电子设备被遮挡或者用户姿势不对等导致的外部图像采集不完整或者不清晰的情况。
需要说明的是,本申请的方案可以适用于车辆行驶状态,也可以适用于车辆启动且静止状态等。当然,本申请尤其适用于车辆行驶状态,使得驾驶员以及其他乘客便捷获得车辆车厢外图像的效果更为明显,对此不加限制。
在本申请中,生成与用户视角匹配的至少一帧目标图像的具体实现可以有多种可能,为了便于理解,下面结合几种可能情况进行说明。
在一种可能的实现方式中,本申请可以基于用户眼部图像,确定用户视线方向。在此基础上,本申请可以按照用户视线方向,分别从各帧车厢外部图像中确定处于用户视角内的外部图像区,将各外部图像区确定为目标图像,得到至少一帧目标图像。
其中,用户视角可以是处于该用户视线方向设定范围内的空间区域,如,以用户视线方向为基准,将与用户视线方向的夹角小于设定角度值的空间区域确定为用户视角。
相应的,本申请可以从车厢外部图像中确定出处于用户视线方向内设定范围的图像区,从车厢外部图像中裁剪出该图像区,得到目标图像。
当然,在从车厢外部图像中采集出图像区的同时,本申请还可以按照设定图像参数对图像区进行转换处理,以得到具有设定图像参数的目标图像,其中,该设定图像参数可以包括设定的画面比例、亮度以及饱和度中至少一种。
其中,设定图像参数可以是依据手机等用户终端设备采集到的图像所具有的图像参数,设定的。如,设定图像参数可以包括手机采集图像时,图像所具有的目标画面比例、目标亮度以及目标饱和度等,对此不加限制。
可以理解的是,在实际应用中,经常会出现用户视线方向与图像采集方向不一致的情况,在该种情况下,用户视线方向可能并不是用户期望采集图像的用户视角。
如,对于驾驶员而言,在驾驶员驾驶车辆的过程中,驾驶员的视线一般都会看向车辆前方。在该种情况下,驾驶员可以通过语音或者手势指示车辆采集该车辆右侧或者左侧的图像,在该种情况下,通过车辆车厢外位于车辆右侧或者左侧的外部图像传感器采集到的车厢外部图像可能并不包括车辆前方的图像,即包括驾驶员视线方向上的外部图像。
基于此,本申请在基于用户视线方向从车厢外部图像中确定处于用户视角内的外部图像区之前,还需要判断用户视线方向与确定出的图像采集方向的方向差是否小于设定阈值。其中,该设定阈值可以根据需要设定,如,设定阈值可以为30度。
相应的,如果用户视线方向与图像采集方向的方向差小于设定阈值,说明用户视线方向与用户期望采集图像的方向基本是一致的,在该情况下,可以按照该用户视线方向,分别从各帧车厢外部图像中确定处于用户视角内的外部图像区。
如果用户视线方向与图像采集方向的方向差不小于设定阈值,则说明用户视线方向不能够代表用户期望采集图像的视角方向,在该种情况下,本申请可以将图像采集方向确定为基准视线方向,分别从各帧车厢外部图像中确定处于该基准视线方向对应的视角范围内的外部图像区。
如,仍以车辆的驾驶员为例,驾驶员通过手指指出车辆右侧为图像采集方向,但是驾驶员的视线方向为车辆前方,在该种情况下,本申请可以将图像采集方向作为表征用户期望采集图像的基准视线方向。
其中,确定车厢外部图像中处于基准视线方向对应的视角范围内的外部图像区的具体实现也可以有多种可能。
如,可以将基准视线方向一定角度范围内的空间范围区域确定为基准视线方向对应的视角范围。
又如,由于用户视线方向与图像采集方向不一致,也可以直接将第一外部图像传感器的感应范围确定为基准视线方向对应的视角范围。在该种情况下,本申请还可以是将车厢外部图像确定为目标图像,或者是将车厢外部图像转换为具有设定图像参数的目标参数。设定图像参数可以参见前面介绍,在此不再赘述。
在又一种可能的实现方式中,如果用户手部图像包括用于指示采集图像的采集指示手势,确定该采集指示手势指示出的空间采集范围。同时,本申请还可以基于该用户眼部图像,确定用户眼部的空间位置。在此基础上,本可以基于该用户眼部的空间位置以及该空间采集范围,分别从各车厢外部图像中确定处于用户期望的目标视角内的图像区,将各图像区确定为目标图像。
其中,用户期望的目标视角是基于用户眼部的空间位置和该采集指示手势指示出的空间采集范围,确定出的表征用户期望采集图像的视角。
在确定出目标视角的情况下,从车厢外部图像中确定处于目标视角内的图像区可以参见前面的相关介绍,在此不再赘述。
在又一种可能的实现方式中,为了能够获得与用户视角匹配,且更为全面的获得车辆车厢外的图像,本申请还可以从车辆车厢外的外部图像传感器中,确定与该第一外部图像传感器的感应范围相邻或者存在交集的至少一个第二外部图像传感器。获得各第二外部图像传感器采集到的至少一帧参考外部图像。
如,假设第一外部图像传感器为采集车辆右侧的外部图像的摄像头,由于车辆前方的摄像头的图像采集范围与车辆右侧的摄像头的采集范围相邻或者存在交集,那么可以将采集车辆前方的摄像头确定为与该第二外部图像传感器。
相应的,本申请可以基于第一外部图像传感器采集到的至少一帧车厢外部图像和各第二外部图像传感器采集到的各参考外部图像,结合用户眼部图像,合成出与用户视角匹配的至少一帧目标图像。
如,将同一时刻或者同一时间区间内该第一外部图像传感器采集到的车厢外部图像与第二外部图像传感器采集到的参考外部图像进行拼接。基于拼接出的每帧图像,结合用户眼部图像,确定出与用户视角匹配图像区,并将图像区确定为目标图像。
又如,本申请是分别从各帧车厢外部图像和各帧参考外部图像中分别确定出处于用户视角内的候选图像区。然后,再结合候选图像区对应的图像采集时刻,将同一图像采集时刻的各候选图像区合成为一张图像,将合成的图像确定为目标图像,得到至少一帧目标图像。
可以理解的是,在本申请中,车辆采集到的用户音频信息、用户手部图像和用户眼部图像均可以有多种可能情况,且基于用户音频信息、用户手部图像和用户眼部图像中一种或者多种,触发确定图像采集方向,确认满足图像采集条件的情况也有多种可能,使得本申请触发启动外部图像传感器、确定图像采集方向以及生成目标图像的具体过程均可能会有多种可能情况。
为了便于理解,以启动外部图像传感器感应车辆车厢外的图像的不同实现方式为例对本申请的方案进行说明。
如前面所述,在第一种可能的实现方式中,如果基于用户音频信息和用户手部图像中至少一个确认满足图像采集条件,本申请才会通过车辆车厢外的外部图像传感器感应车辆车厢外的图像。在此基础上,为了能够确定用户希望生成的目标图像,便可以直接基于用户音频信息、用户手部图像和用户眼部图像中至少一个,确定用户指示出的图像采集方向。
下面结合用户音频信息、用户手部信息以及用户眼部信息的几种可能情况,对第一种可能的实现方式进行说明。
如图5,示出了本申请实施例的图像生成方法的又一种流程示意图,本实施例的方法可以应用于具有车载控制系统的车辆。本实施例的方法可以包括:
S501,获得车辆车厢内的内部图像传感器采集的用户图像信息以及车辆车厢内的音频传感器感应到的用户音频信息。
其中,用户图像信息包括用户手部图像和用户眼部图像。
可以理解的是,在车辆车厢内有多个用户的情况下,内部图像传感器采集到的用户图像信息可以包括这多个用户的用户图像信息,相应的,音频传感器可以采集到多个用户的用户音频信息。
S502,如果用户音频信息中包括用于指示采集图像的至少一个关键词,确认满足图像采集条件,通过车辆车厢外的外部图像传感器感应车辆车厢外的图像。
如,以指示采集图像的关键词包括:风景不错、拍、图片、图像以及视频等,如果用户音频信息为“这里的风景不错”“拍一段视频”或者“拍一张图片”等,则确定用户希望摄取车辆车厢外图像,确认满足图像采集条件。
可以理解的是,为了能够及时采集到车厢外图像,本申请会在分析用户音频信息、以及用户图像信息以确定图像采集方向前,先将车辆车厢外各外部图像传感器启动,并感应车辆车厢外图像。
S503,如果该用户音频信息归属的目标用户对应的用户手部图像中未包括用于指示采集方向的方向指示手势或者用于指示采集图像的采集指示手势,且用户音频信息中未包括指示采集方向的关键词,基于目标用户的用户眼部图像,确定目标用户的用户视线方向。
在本申请中,为了便于区分,基于用户音频信息确定满足图像采集条件的情况下,将该用户音频信息归属的用户称为目标用户。
由前面所述可知,为了避免不同用户的用户音频信息和用户图像信息之间相互干扰,而导致错误判断出满足图像采集条件或者图像采集方向识别错误,本申请需要分别分析每个用户各自的用户图像信息和用户音频信息。
相应的,本申请需要基于用户音频信息归属的目标用户的用户手部图像以及眼部图像,来确定目标用户的用户视线方向。
如,可以基于用户音频信息的音频来源方向等,确定用户音频信息来源于驾驶员,还是来源于哪个位置的乘客,从而获取出驾驶员或者相应乘客的手部图像和眼部图像。
可以理解的是,如果目标用户的用户手部图像中未包含能够确定图像采集方向的任何手势,且目标用户的用户音频信息中也未包含任何指示方向的关键词,则说明用户视线方向上看到的外部景象就是用户希望采集到的外部图像,因此,可以将用户视线方向确定为图像采集方向。
如,以车辆的驾驶员为例,在驾驶员驾驶车辆的过程中,驾驶员的视线会朝向车辆前方,且驾驶员的手部不适合离开方向盘,此时如果驾驶员发出语音“这里好美”,则说明驾驶员在说的是车辆前方的景象,那么可以将驾驶员的视线方向确定为图像采集方向。
当然,对于车辆中驾驶员之外的乘客而言,如果乘客发出类似“这里好美”的语音,且没有任何能够指示图像采集方向或者采集范围的指示手势,那么则认为乘客视线看到的景物为需要拍摄的图像,比如,乘客的视线看向右侧车窗,则表征乘客希望采集位于车辆右侧且属于车辆外的外部图像。
在本申请中,基于用户眼部图像确定用户视线方向的方式可以有多种实现可能,对此不加限制。如,可以结合用户眼部图像确定用户眼球相对眼部方向和位置等,基于用户眼球的相对方向和位置确定用户视线方向。
S504,以目标用户的用户视线方向为图像采集方向,确定车辆车厢外感应范围包括该图像采集方向的第一外部图像传感器,获得该第一外部图像传感器采集到的至少一帧车厢外部图像。
该步骤可以参见前面实施例的相关介绍,在此不再赘述。
S505,按照该用户视线方向,分别从各帧车厢外部图像中确定处于用户视角内的外部图像区,将该外部图像区确定为目标图像,得到至少一帧目标图像。
在本实施例中,用户视线方向与图像采集方向相同,在此基础上,本申请可以直接基于用户视线方向,确定车厢外部图像中处于用户视角范围内的外部图像区,将各帧车厢外部图像中提取出的外部图像区确定为目标图像。
由本申请实施例可知,车辆车厢内的驾驶员或者乘客,如果希望拍摄车厢外部且属于用户视角的外部图像,只需要通过语音输出用于指示车辆采集图像的语音信息,则可以触发车辆启动车厢外部的外部图像传感器感应外部图像,并基于感应范围包括该用户视线方向上的外部图像传感器采集到的车厢外图像,就可以生成处于用户视线方向一定范围内的目标图像,从而使得驾驶员和乘客仅仅通过输出一个语音信号,就可以获得当前视线注视方向上的图像信息。
如,驾驶员在驾驶车辆过程中,通过语音就可以控制车辆采集车辆前方的图像,而无需驾驶员的手部脱离方向盘,也无需驾驶员头部以及视线偏离行驶方向。对于非驾驶员的乘客而言,在看到车辆前方、左侧或者右侧等方向上希望拍摄的车辆外部景物后,也可以仅仅通过输出一个语音来触发启动外部图像传感器感应图像,就可以获得用户当前视线注视方向上的图像信息。
下面针对启动外部图像传感器感应车辆车厢外图像的第一种实现方式中的另一种可能情况对本申请进行介绍。如图6,示出了本申请实施例提供的图像生成方法的又一种流程示意图,本实施例的方法可以包括:
S601,获得车辆车厢内的内部图像传感器采集的用户图像信息以及车辆车厢内的音频传感器感应到的用户音频信息。
其中,用户图像信息包括用户手部图像和用户眼部图像。
该步骤可以参见前面图5以及其他实施例的相关介绍,不再赘述。
S602,如果目标用户的用户音频信息中包括用于指示采集图像的至少一个关键词,且该目标用户的用户手部图像包括用于指示图像采集方向的方向指示手势,确认满足图像采集条件,通过车辆车厢外的外部图像传感器感应车辆车厢外的图像。
其中,方向指示手势可以为预先设定的,用于指示方向的手势。相应的,基于该方向指示手势能够确定出用户期望采集图像的方向。如,图4其示出了指向右侧的方向指示手势。
其中,目标用户可以为当前发出用户音频信息的用户。
可以理解的是,基于用户音频信息和方向指示手势能够更为准确地反映出用户的图像采集需求,如,不仅可以准确反映出的存在采集图像的需求,还能够准确反映出用户期望采集的图像属于车辆车厢外哪个方向上的景物图像。
S603,确定该目标用户的用户手部图像中方向指示手势指示的图像采集方向。
其中,分析方向指示手势所指示出的方向的具体实现可以结合手势识别技术实现或者是借助机器学习模型来识别出用户手部图像中该方向指示手势指示的方向,当然,还可以有其他实现方式,对此不加限制。
S604,从车辆车厢外的外部图像传感器中,确定感应范围包括图像采集方向的第一外部图像传感器,获得第一外部图像传感器采集到的至少一帧车厢外部图像。
S605,基于目标用户的用户眼部图像,确定用户视线方向。
S606,如果该用户视线方向与图像采集方向的方向差小于设定阈值,按照用户视线方向,分别从各帧车厢外部图像中确定处于用户视角内的外部图像区,将外部图像区确定为目标图像。
其中,设定阈值可以根据需要设定,如,一般以用户视线方向与图像采集方向的方向差小于设定阈值时,用户视线方向与图像采集方向指向车辆的同一个车窗方向为准,如,该设定阈值可以为小于45度的任意值,对此不加限制。
如,用户视线方向为车辆前方,而图像采集方向也为车辆前方方向,随着这两个方向可能不完全一致,但是二者的方向偏差会较小,则用户视线方向与图像采集方向的方向差小于设定阈值,且表明目标用户期望采集车辆前方的图像。
基于用户视线方向从车厢外部图像中确定外部图像区,可以裁剪出车厢外部图像中处于该用户视线方向一定范围内的外部图像区,对此不加限制。
当然,确定出外部图像区后,本申请还可以按照设定图像参数调整外部图像区的图像参数,将调整后的外部图像区确定为目标图像区。
S607,如果用户视线方向与图像采集方向的方向差不小于设定阈值,将图像采集方向确定为基准视线方向,分别从各帧车厢外部图像中确定处于基准视线方向对应的视角范围内的外部图像区,将外部图像区确定为目标图像。
其中,将图像采集方向确定为基准实现方向后,可以从车厢外部图像中裁剪出处于基准视线方向设定范围内的图像区作为外部图像区。
考虑到在用户视线方向与图像采集方向的方向差较大的情况下,用户指示出的图像采集方向可能并非精准反映其希望视野的采集方向,因此,为了使得用户看到更为全面的信息,本申请还可以是将车厢外部图像作为目标图像,或者是按照设定图像参数调整车厢外部图像后,将调整后的车厢外部图像作为目标图像。
为了便于理解,结合一场景举例说明,在车辆的驾驶员驾驶车辆的过程中,驾驶员如果发现车辆右侧的风景较好,希望拍摄车辆外部右侧的图像,但是驾驶员驾驶车辆过程中,为了驾驶安全性,驾驶员的视线需要注视车辆前方。基于此,驾驶员便可以在输入包含指示图像采集的语音信息的同时,用一个手指指向车辆右侧,则车辆会确认满足图像采集条件,开启车辆车厢外的外部图像传感器。在车辆通过分析用户手势图像确定出用户手势图像中方向指示手势指向的是车辆右侧,则可以将车辆车厢为能够采集车辆右侧的外部图像传感器确定为第一外部图像传感器,从而获得第一外部图像传感器采集到的车厢外部图像,将车厢外部图像或者按照设定图像参数转换后的车厢外部图像作为驾驶员期望视角内的外部图像。
需要说明的是,图6是以目标用户的用户音频信息中包括用于指示采集图像的至少一个关键词,且该目标用户的用户手部图像包括用于指示图像采集方向的方向指示手势,确认满足图像采集条件为例说明,对于目标用户的用户音频信息中包括用于指示采集图像的至少一个关键词,且该目标用户的用户手部图像包括用于指示采集图像的采集指示手势,确认满足图像采集条件也同样适用于本实施例,对此不再赘述。
下面针对启动外部图像传感器感应车辆车厢外图像的第一种实现方式中的再一种可能情况对本申请进行介绍。如图7,其示出了本申请实施例提供的图像生成方法的又一种流程示意图,本实施例的方法可以包括:
S701,获得车辆车厢内的内部图像传感器采集的用户图像信息以及车辆车厢内的音频传感器感应到的用户音频信息。
其中,用户图像信息包括用户手部图像和用户眼部图像。
该步骤可以参见前面图5以及其他实施例的相关介绍,不再赘述。
S702,如果用户手部图像中包括用于指示采集图像的采集指示手势,确认满足图像采集条件,通过车辆车厢外的外部图像传感器感应车辆车厢外的图像。
在实施例中,车辆内的用户只需要做出采集指示手势,就可以触发启动车辆车厢外的各外部图像传感器感应车辆车厢外的图像。
S703,如果用户音频信息未包括指示图像采集方向的关键词,确定图像采集指示手势指示的图像采集方向。
在本实施例中,以仅仅基于采集指示手势来触发车辆采集车辆车厢外图像为例说明,在此基础上,与用户手部图像归属于同一用户的用户音频信息可以为空,也可以是包括用于指示图像采集方向的关键词之外的其他语音信息,对此不加限制。
其中,确定图像采集指示手势指示的图像采集方向可以有多种可能,如,可以按照预先设定的不同类型的采集指示手势所代表的采集方向,确定该采集指示手势对应的图像采集方向。
又如,确定采集指示手势指示出的空间采集范围,基于该空间采集范围的朝向,确定图像采集方向。仍以图2所示的采集指示手势为例,该采集指示手势中两个手部的手指围成的区域代表空间采集范围,如果用户朝向车辆前方做出该采集指示手势,说明该采集指示手势的朝向为车辆前方,则图像采集方向为车辆前方。
S704,从车辆车厢外的外部图像传感器中,确定感应范围包括图像采集方向的第一外部图像传感器,获得第一外部图像传感器采集到的至少一帧车厢外部图像。
该步骤可以参见前面实施例的相关介绍,在此不再赘述。
S705,确定该采集指示手势指示出的空间采集范围。
该步骤如前面步骤S703的相关描述,在此不再赘述。
可以理解的是,如果前面步骤S703已确定出空间采集范围,则此处无需重复执行该步骤。
S706,基于用户眼部图像,确定用户眼部的空间位置。
如,基于用户眼部图像中用户眼部所处的图像坐标,以及采集到该用户眼部图像的内部图像传感器的相机坐标系位置,可以转换出用户眼部的空间位置。
当然,本申请对于基于用户眼部图像确定用户眼部的空间位置的具体实现不加限制,在此不再赘述。
S707,基于用户眼部的空间位置以及空间采集范围,分别从各车厢外部图像中确定处于用户期望的目标视角内的图像区,将各图像区确定为目标图像。
如,基于用户眼部的空间位置,确定用户眼部到该空间采集范围的距离,基于用户眼部的空间位置、该距离以及该空间采集范围,确定出用户期望采集图像的目标视角,然后,从车厢外部图像中确定处于目标视角内的图像区。
可以理解的是,在空间采集范围确定的情况下,用户眼部的空间位置以及用户眼部到该空间采集范围对应区域的该距离不同,表征用户期望采集图像的目标视角也会有所不同。
当然,结合用户眼部的空间位置和该空间采集范围,还可以有其他确定用户期望的目标视角的方式,对此不加限制。
在本实施例中,只需要车辆内的用户根据实际需要采集图像的方向和视角区域,做出一个采集指示手势,就可以触发车辆获得到车辆外部相应方向以及相应视角区域内的图像,操作较为便捷。
本实施例可以适用于非驾驶员或者是车辆非行驶状态下的驾驶员通过一个采集指示手势便捷实现采集车辆车厢外部图像。
举例说明,在车辆行驶过程中,车辆中副驾驶员的乘客如果朝向车辆行驶前方做出如图2或者图3所示的采集指示手势,那么车辆就可以通过车辆外部且采集车辆前方的摄像头采集车辆车厢外部图像,并结合该乘客的眼部图像确定乘客眼部位置,结合乘客眼部位置和该采集指示手势指示出的空间采集范围,从车厢外部图像中提取出用户期望采集的目标视角范围内的目标图像。
当然,乘客也可以朝向车辆左侧做出图2或者图3所示的采集指示手势,此时乘客的眼部也必然朝向车辆左侧,基于此,可以通过车辆车厢外且位于车辆左侧的摄像头采集车厢外部图像,而基于该车厢外部图像确定目标图像的过程与前面类似,不再赘述。
可以理解的是,以上针对启动外部图像传感器感应车辆车厢外图像的第一种实现方式中以几种可能情况为例进行说明,在实际应用中,该种实现方式还可以有其他可能情况,如其他确定图像采集方向的具体实现等,在此无法赘述。
下面针对启动外部图像传感器感应车辆车厢外图像的第二种实现方式进行介绍。
在第二种实现方式中,外部图像传感器感应车辆车厢外图像可以在确认满足图像采集条件前就执行。下面结合图8进行说明。图8示出了本申请实施例提供的图像生成方法的又一种流程示意图,本实施例的方法可以包括:
S801,获得车辆车厢内的内部图像传感器采集的用户图像信息以及车辆车厢内的音频传感器感应到的用户音频信息。
其中,用户图像信息包括用户手部图像和用户眼部图像;
S802,检测到用户启动外部图像传感器的操作动作后,通过车辆车厢外的外部图像传感器感应车辆车厢外的图像。
其中,该操作动作可以是点击用于启动外部图像传感器的控制区、按键或者图标,对此不加限制。
可以理解的是,本实施例是为了便于理解,以一种实现方式为例说明,在实际应用中,在智能车辆驾驶场景中,也可以是在车辆启动后,自动开启车辆车厢外的外部图像传感器,外部图像传感器会自动感应车辆车厢外的图像。对于其他触发外部图像传感器感应车辆车厢外图像的实现也同样适用于本实施例。
S803,如果基于用户音频信息和用户手部图像中至少一个确认满足图像采集条件,基于用户音频信息、用户手部图像和用户眼部图像中至少一个,确定用户指示出的图像采集方向。
在本申请中,确认满足图像采集条件的方式可以为前面提到的任意一种情况,相应的前面针对第一种实现方式举例的几种实现也同样适用于本实施例。
在触发满足图像采集条件的实现不同时,确定图像采集方向的具体实现也会有所不同,为了便于理解,仅以两种情况简单说明:
在一种情况中,如果用户音频信息中包括用于指示采集图像的至少一个关键词,确认满足图像采集条件。
在此基础上,如果该用户音频信息归属的目标用户对应的用户手部图像中未包括用于指示采集方向的方向指示手势或者用于指示采集图像的采集指示手势,而该用户音频信息中包括指示采集方向的关键词,则确定用户音频信息中指示出的图像采集方向;如果用户音频信息中未包括指示采集方向的关键词且用户手部图像未包括方向指示手势和采集指示手势,基于目标用户的用户眼部图像,确定图像采集方向。
在又一种情况中,如果用户手部图像中包括用于指示采集图像的采集指示手势,确认满足图像采集条件。在此基础上,基于用户手部图像指示的采集指示手势,确定图像采集方向;如果用户音频信息也包括指示采集方向的关键词,可以结合采集指示手势和该关键词,综合确定图像采集方向。
S804,从车辆车厢外的外部图像传感器中,确定感应范围包括图像采集方向的第一外部图像传感器,获得第一外部图像传感器采集到的至少一帧车厢外部图像。
该步骤可以参见前面介绍,在此不再赘述。
S805,基于至少一帧车厢外部图像和用户眼部图像,生成与用户视角匹配的至少一帧目标图像。
在该步骤中,结合触发图像采集条件的方式以及确定图像采集方向的方式不同,确定目标图像的实现也会有所不同,具体可以参见前面实施例相关介绍,在此不再赘述。
对应本申请的一种图像生成方法,本申请还提供了一种图像生成装置。
如图9所示,其示出了本申请实施例提供的一种图像生成装置的一种组成结构示意图,本实施例的装置可以包括:
信息获得单元901,用于获得车辆车厢内的内部图像传感器采集的用户图像信息以及车辆车厢内的音频传感器感应到的用户音频信息,所述用户图像信息包括用户手部图像和用户眼部图像;
图像感应单元902,用于通过车辆车厢外的外部图像传感器感应车辆车厢外的图像;
方向确定单元903,用于基于所述用户音频信息、用户手部图像和用户眼部图像中至少一个,确定用户指示出的图像采集方向;
图像获得单元904,用于从车辆车厢外的外部图像传感器中,确定感应范围包括所述图像采集方向的第一外部图像传感器,获得所述第一外部图像传感器采集到的至少一帧车厢外部图像;
图像生成单元905,用于基于所述至少一帧车厢外部图像和用户眼部图像,生成与用户视角匹配的至少一帧目标图像。
在一种可能的实现方式中,该方向确定单元,包括:
方向确定子单元,用于如果基于所述用户音频信息和所述用户手部图像中至少一个确认满足图像采集条件,基于所述用户音频信息、用户手部图像和用户眼部图像中至少一个,确定用户指示出的图像采集方向。
在又一种可能的实现方式中,图像感应单元,包括:
图像感应子单元,用于如果基于所述用户音频信息和所述用户手部图像中至少一个确认满足图像采集条件,通过车辆车厢外的外部图像传感器感应车辆车厢外的图像。
在又一种可能的实现方式中,该方向确定子单元或者图像感应子单元基于所述用户音频信息和所述用户手部图像中至少一个确认满足图像采集条件,包括如下任意一种:
如果所述用户音频信息中包括用于指示采集图像的至少一个关键词,确认满足图像采集条件;
如果所述用户音频信息中包括用于指示采集图像的至少一个关键词,且所述用户手部图像中包括用于指示采集图像的采集指示手势或者用于指示图像采集方向的方向指示手势,确认满足图像采集条件;
如果所述用户手部图像中包括用于指示采集图像的采集指示手势,确认满足图像采集条件。
在又一种可能的实现方式中,该方向确定单元或者方向确定子单元基于所述用户音频信息、用户手部图像和用户眼部图像中至少一个,确定用户指示出的图像采集方向,包括如下任意一项:
如果所述用户手部图像中包括用于指示图像采集方向的方向指示手势,确定所述方向指示手势所指示出的图像采集方向;
如果所述用户手部图像中包括用于指示采集图像的采集指示手势,确定所述采集指示手势所指示出的图像采集方向;
如果所述用户手部图像中不包括所述方向指示手势或者采集指示手势,确定所述用户音频信息指示出的图像采集方向;
如果用户手部图像中不包括所述方向指示手势或者采集指示手势,且所述用户音频信息不包括方向指示信息,基于所述用户眼部图像指示出的用户视线方向,确定图像采集方向;
如果所述用户手部图像中包括采集指示手势,基于所述采集指示手势以及所述用户眼部图像中指示出的用户视线方向或者眼部空间位置,确定图像采集方向。
在又一种可能的实现方式中,该图像生成单元,包括:
视线确定子单元,用于基于所述用户眼部图像确定用户视线方向;
区确定子单元,用于按照所述用户视线方向,分别从各帧车厢外部图像中确定处于用户视角内的外部图像区;
目标确定子单元,用于将所述外部图像区确定为目标图像,得到至少一帧目标图像。
在又一种可能的实现方式中,该区确定子单元,包括:
第一确定子单元,用于如果所述用户视线方向与所述图像采集方向的方向差小于设定阈值,按照所述用户视线方向,分别从各帧车厢外部图像中确定处于用户视角内的外部图像区;
第二确定子单元,用于如果所述用户视线方向与所述图像采集方向的方向差不小于设定阈值,将所述图像采集方向确定为基准视线方向,分别从各帧车厢外部图像中确定处于所述基准视线方向对应的视角范围内的外部图像区。
在又一种可能的实现方式中,该图像生成单元,包括:
范围确定子单元,用于如果所述用户手部图像包括用于指示采集图像的采集指示手势,确定所述采集指示手势指示出的空间采集范围;
位置确定子单元,用于基于所述用户眼部图像,确定用户眼部的空间位置;
目标确定子单元,用于基于所述用户眼部的空间位置以及所述空间采集范围,分别从各车厢外部图像中确定处于用户期望的目标视角内的图像区,将各图像区确定为目标图像。
在又一种可能的实现方式中,该装置还包括:
传感器确定单元,用于从车辆车厢外的外部图像传感器中,确定与所述第一外部图像传感器的感应范围相邻或者存在交集的至少一个第二外部图像传感器;
参考获得单元,用于获得所述第二外部图像传感器采集到的至少一帧参考外部图像;
该图像生成单元包括:
图像合成子单元,用于基于所述至少一帧车厢外部图像和各参考外部图像,结合所述用户眼部图像,合成出与用户视角匹配的至少一帧目标图像。
又一方面,本申请还提供了一种车载控制系统,如图10所示,其示出了该车载控制系统的一种组成结构示意图。
该车载控制系统至少包括控制器1001、存储器1002、位于车辆车厢内的内部图像传感器1003和音频传感器1004、以及位于车辆车厢外的外部图像传感器1005。
其中,控制器1001用于执行如上任意一个实施例中的图像生成方法。
该存储器1002用于存储处理器执行操作所需的程序。
当然,该车载控制器还可以包括音频输出装置以及其他传感器等,对此不加限制。
另一方面,本申请还提供了一种计算机可读存储介质,所述计算机可读存储介质中存储有至少一条指令、至少一段程序、代码集或指令集,所述至少一条指令、所述至少一段程序、所述代码集或指令集由处理器加载并执行以实现如上任意一个实施例所述的图像生成方法。
本申请还提出了一种计算机程序,该计算机程序包括计算机指令,该计算机指令存储在计算机可读存储介质中。计算机程序在电子设备上运行时,用于执行如上任意一个实施例中的图像生成方法。
可以理解的是,在本申请中,说明书和权利要求书及上述附图中的术语“第一”、“第二”、“第三”“第四”等(如果存在)是用于区别类似的部分,而不必用于描述特定的顺序或先后次序。应该理解这样使用的数据在适当情况下可以互换,以便这里描述的本申请的实施例能够以除了在这里图示的以外的顺序实施。
需要说明的是,本说明书中的各个实施例均采用递进的方式描述,每个实施例重点说明的都是与其他实施例的不同之处,各个实施例之间相同相似的部分互相参见即可。同时,本说明书中各实施例中记载的特征可以相互替换或者组合,使本领域专业技术人员能够实现或使用本申请。对于装置类实施例而言,由于其与方法实施例基本相似,所以描述的比较简单,相关之处参见方法实施例的部分说明即可。
最后,还需要说明的是,在本文中,诸如第一和第二等之类的关系术语仅仅用来将一个实体或者操作与另一个实体或操作区分开来,而不一定要求或者暗示这些实体或操作之间存在任何这种实际的关系或者顺序。而且,术语“包括”、“包含”或者其任何其他变体意在涵盖非排他性的包含,从而使得包括一系列要素的过程、方法、物品或者设备不仅包括那些要素,而且还包括没有明确列出的其他要素,或者是还包括为这种过程、方法、物品或者设备所固有的要素。在没有更多限制的情况下,由语句“包括一个……”限定的要素,并不排除在包括要素的过程、方法、物品或者设备中还存在另外的相同要素。
对所公开的实施例的上述说明,使本领域技术人员能够实现或使用本申请。对这些实施例的多种修改对本领域技术人员来说将是显而易见的,本文中所定义的一般原理可以在不脱离本申请的精神或范围的情况下,在其它实施例中实现。因此,本申请将不会被限制于本文所示的这些实施例,而是要符合与本文所公开的原理和新颖特点相一致的最宽的范围。
以上仅是本申请的优选实施方式,应当指出,对于本技术领域的普通技术人员来说,在不脱离本申请原理的前提下,还可以做出若干改进和润饰,这些改进和润饰也应视为本申请的保护范围。
Claims (10)
1.一种图像生成方法,包括:
获得车辆车厢内的内部图像传感器采集的用户图像信息以及车辆车厢内的音频传感器感应到的用户音频信息,所述用户图像信息包括用户手部图像和用户眼部图像;
通过车辆车厢外的外部图像传感器感应车辆车厢外的图像;
基于所述用户音频信息、用户手部图像和用户眼部图像中至少一个,确定用户指示出的图像采集方向;
从车辆车厢外的外部图像传感器中,确定感应范围包括所述图像采集方向的第一外部图像传感器,获得所述第一外部图像传感器采集到的至少一帧车厢外部图像;
基于所述至少一帧车厢外部图像和用户眼部图像,生成与用户视角匹配的至少一帧目标图像。
2.根据权利要求1所述的图像生成方法,所述基于所述用户音频信息、用户手部图像和用户眼部图像中至少一个,确定用户指示出的图像采集方向,包括:
如果基于所述用户音频信息和所述用户手部图像中至少一个确认满足图像采集条件,基于所述用户音频信息、用户手部图像和用户眼部图像中至少一个,确定用户指示出的图像采集方向。
3.根据权利要求1所述的图像生成方法,所述通过车辆车厢外的外部图像传感器感应车辆车厢外的图像,包括:
如果基于所述用户音频信息和所述用户手部图像中至少一个确认满足图像采集条件,通过车辆车厢外的外部图像传感器感应车辆车厢外的图像。
4.根据权利要求2或3所述的图像生成方法,所述基于所述用户音频信息和所述用户手部图像中至少一个确认满足图像采集条件,包括如下任意一种:
如果所述用户音频信息中包括用于指示采集图像的至少一个关键词,确认满足图像采集条件;
如果所述用户音频信息中包括用于指示采集图像的至少一个关键词,且所述用户手部图像中包括用于指示采集图像的采集指示手势或者用于指示图像采集方向的方向指示手势,确认满足图像采集条件;
如果所述用户手部图像中包括用于指示采集图像的采集指示手势,确认满足图像采集条件。
5.根据权利要求1至3任意一项所述的图像生成方法,所述基于所述用户音频信息、用户手部图像和用户眼部图像中至少一个,确定用户指示出的图像采集方向,包括如下任意一项:
如果所述用户手部图像中包括用于指示图像采集方向的方向指示手势,确定所述方向指示手势所指示出的图像采集方向;
如果所述用户手部图像中包括用于指示采集图像的采集指示手势,确定所述采集指示手势所指示出的图像采集方向;
如果所述用户手部图像中不包括所述方向指示手势或者采集指示手势,确定所述用户音频信息指示出的图像采集方向;
如果用户手部图像中不包括所述方向指示手势或者采集指示手势,且所述用户音频信息不包括方向指示信息,基于所述用户眼部图像指示出的用户视线方向,确定图像采集方向;
如果所述用户手部图像中包括采集指示手势,基于所述采集指示手势以及所述用户眼部图像中指示出的用户视线方向或者眼部空间位置,确定图像采集方向。
6.根据权利要求1所述的图像生成方法,所述基于所述至少一帧车厢外部图像和用户眼部图像,生成与用户视角匹配的至少一帧目标图像,包括:
基于所述用户眼部图像确定用户视线方向;
按照所述用户视线方向,分别从各帧车厢外部图像中确定处于用户视角内的外部图像区;
将所述外部图像区确定为目标图像,得到至少一帧目标图像。
7.根据权利要求6所述的图像生成方法,所述按照所述用户视线方向,分别从各帧车厢外部图像中确定处于用户视角内的外部图像区,包括:
如果所述用户视线方向与所述图像采集方向的方向差小于设定阈值,按照所述用户视线方向,分别从各帧车厢外部图像中确定处于用户视角内的外部图像区;
如果所述用户视线方向与所述图像采集方向的方向差不小于设定阈值,将所述图像采集方向确定为基准视线方向,分别从各帧车厢外部图像中确定处于所述基准视线方向对应的视角范围内的外部图像区。
8.根据权利要求1所述的图像生成方法,所述基于所述至少一帧车厢外部图像和用户眼部图像,生成与用户视角匹配的至少一帧目标图像,包括:
如果所述用户手部图像包括用于指示采集图像的采集指示手势,确定所述采集指示手势指示出的空间采集范围;
基于所述用户眼部图像,确定用户眼部的空间位置;
基于所述用户眼部的空间位置以及所述空间采集范围,分别从各车厢外部图像中确定处于用户期望的目标视角内的图像区,将各图像区确定为目标图像。
9.根据权利要求1所述的图像生成方法,还包括:从车辆车厢外的外部图像传感器中,确定与所述第一外部图像传感器的感应范围相邻或者存在交集的至少一个第二外部图像传感器;
获得所述第二外部图像传感器采集到的至少一帧参考外部图像;
所述基于所述至少一帧车厢外部图像和用户眼部图像,生成与用户视角匹配的至少一帧目标图像,包括:
基于所述至少一帧车厢外部图像和各参考外部图像,结合所述用户眼部图像,合成出与用户视角匹配的至少一帧目标图像。
10.一种图像生成装置,包括:
信息获得单元,用于获得车辆车厢内的内部图像传感器采集的用户图像信息以及车辆车厢内的音频传感器感应到的用户音频信息,所述用户图像信息包括用户手部图像和用户眼部图像;
图像感应单元,用于通过车辆车厢外的外部图像传感器感应车辆车厢外的图像;
方向确定单元,用于基于所述用户音频信息、用户手部图像和用户眼部图像中至少一个,确定用户指示出的图像采集方向;
图像获得单元,用于从车辆车厢外的外部图像传感器中,确定感应范围包括所述图像采集方向的第一外部图像传感器,获得所述第一外部图像传感器采集到的至少一帧车厢外部图像;
图像生成单元,用于基于所述至少一帧车厢外部图像和用户眼部图像,生成与用户视角匹配的至少一帧目标图像。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202311369091.1A CN117523015A (zh) | 2023-10-20 | 2023-10-20 | 图像生成方法和装置 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202311369091.1A CN117523015A (zh) | 2023-10-20 | 2023-10-20 | 图像生成方法和装置 |
Publications (1)
Publication Number | Publication Date |
---|---|
CN117523015A true CN117523015A (zh) | 2024-02-06 |
Family
ID=89746639
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN202311369091.1A Pending CN117523015A (zh) | 2023-10-20 | 2023-10-20 | 图像生成方法和装置 |
Country Status (1)
Country | Link |
---|---|
CN (1) | CN117523015A (zh) |
-
2023
- 2023-10-20 CN CN202311369091.1A patent/CN117523015A/zh active Pending
Similar Documents
Publication | Publication Date | Title |
---|---|---|
KR101459441B1 (ko) | 차량 내 손가락 사이점을 이용한 사용자 인터페이스 조작 시스템 및 방법 | |
US11847857B2 (en) | Vehicle device setting method | |
KR101438615B1 (ko) | 2차원 카메라를 이용한 사용자 인터페이스 조작 시스템 및 방법 | |
CN103786644B (zh) | 用于追踪外围车辆位置的装置和方法 | |
KR101490908B1 (ko) | 차량 내 손모양 궤적 인식을 이용한 사용자 인터페이스 조작 시스템 및 방법 | |
CN108681688B (zh) | 手势识别组件及其识别方法 | |
KR101459445B1 (ko) | 차량내 손목각을 이용한 사용자 인터페이스 조작 시스템 및 방법 | |
CN113228620B (zh) | 一种图像的获取方法以及相关设备 | |
WO2018061413A1 (ja) | ジェスチャ検出装置 | |
KR20200037725A (ko) | 기기 제어 장치 | |
JP6342874B2 (ja) | 画像認識装置 | |
WO2020045598A1 (ja) | 電子機器及び固体撮像装置 | |
US10228769B2 (en) | Equipment control device, equipment control method, and non-transitory recording medium | |
CN117523015A (zh) | 图像生成方法和装置 | |
JP2016115118A (ja) | 下方視判定装置および下方視判定方法 | |
CN107832726B (zh) | 使用者识别和确认装置及车用中央控制系统 | |
CN114760417A (zh) | 一种图像拍摄方法和装置、电子设备和存储介质 | |
CN114495072A (zh) | 乘员状态检测方法及装置、电子设备和存储介质 | |
CN114040107A (zh) | 智能汽车图像拍摄系统、方法、车辆及介质 | |
CN112182256A (zh) | 一种物体识别方法、装置及车辆 | |
KR101724754B1 (ko) | 동작 인식을 이용한 차량주변 촬영시스템 | |
WO2018193579A1 (ja) | 画像認識装置 | |
KR101438563B1 (ko) | 차량용 블랙박스의 연속 영상촬영 장치 | |
CN114842457B (zh) | 模型训练及特征提取方法、装置、电子设备和介质 | |
CN115376114A (zh) | 一种汽车摄像的图像多模态取景方法及系统 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination |