CN115393380A - 车内全景图像显示方法、装置、电子设备及存储介质 - Google Patents
车内全景图像显示方法、装置、电子设备及存储介质 Download PDFInfo
- Publication number
- CN115393380A CN115393380A CN202210917650.7A CN202210917650A CN115393380A CN 115393380 A CN115393380 A CN 115393380A CN 202210917650 A CN202210917650 A CN 202210917650A CN 115393380 A CN115393380 A CN 115393380A
- Authority
- CN
- China
- Prior art keywords
- vehicle
- panoramic image
- head
- image
- target object
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Granted
Links
Images
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T7/00—Image analysis
- G06T7/10—Segmentation; Edge detection
- G06T7/13—Edge detection
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T19/00—Manipulating 3D models or images for computer graphics
- G06T19/006—Mixed reality
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T7/00—Image analysis
- G06T7/60—Analysis of geometric attributes
- G06T7/66—Analysis of geometric attributes of image moments or centre of gravity
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T2207/00—Indexing scheme for image analysis or image enhancement
- G06T2207/20—Special algorithmic details
- G06T2207/20084—Artificial neural networks [ANN]
-
- Y—GENERAL TAGGING OF NEW TECHNOLOGICAL DEVELOPMENTS; GENERAL TAGGING OF CROSS-SECTIONAL TECHNOLOGIES SPANNING OVER SEVERAL SECTIONS OF THE IPC; TECHNICAL SUBJECTS COVERED BY FORMER USPC CROSS-REFERENCE ART COLLECTIONS [XRACs] AND DIGESTS
- Y02—TECHNOLOGIES OR APPLICATIONS FOR MITIGATION OR ADAPTATION AGAINST CLIMATE CHANGE
- Y02T—CLIMATE CHANGE MITIGATION TECHNOLOGIES RELATED TO TRANSPORTATION
- Y02T10/00—Road transport of goods or passengers
- Y02T10/10—Internal combustion engine [ICE] based vehicles
- Y02T10/40—Engine management systems
Landscapes
- Engineering & Computer Science (AREA)
- Physics & Mathematics (AREA)
- General Physics & Mathematics (AREA)
- Theoretical Computer Science (AREA)
- Computer Vision & Pattern Recognition (AREA)
- Geometry (AREA)
- Computer Graphics (AREA)
- Computer Hardware Design (AREA)
- General Engineering & Computer Science (AREA)
- Software Systems (AREA)
- Fittings On The Vehicle Exterior For Carrying Loads, And Devices For Holding Or Mounting Articles (AREA)
Abstract
本发明实施例提供了一种车内全景图像显示方法、装置、电子设备及存储介质,方法包括:获取车内全景图像,以及拍摄车内全景图像的相机在车辆内的拍摄位置,检测出车内全景图像中目标对象的轮廓,基于目标对象和轮廓的中心点位置,确定出车内全景图像中的车头方向,车头方向为拍摄位置对应的观察点位置朝向车辆的车头的方向,根据所述车头方向获取所述车内全景图像中与所述车头方向对应的图像内容,以用于显示。本发明实施例中,通过相机的拍摄位置对应目标对象和其轮廓的中心点位置可以快速地确定出车内全景图像中的车头方向,实现自动化的车头方向检测,不再需要人工参与,同时提高车头方向检测的正确率。
Description
技术领域
本发明实施例涉及计算机技术领域,特别是涉及一种车内全景图像显示方法、一种车内全景图像显示装置、一种电子设备以及一种计算机存储介质。
背景技术
虚拟现实(VirtualReality,VR)是一种模拟人在自然环境中视、听、动等行为的先进人机交互技术,能够为使用者模拟出与现实中相同的三维图像世界。近些年来,VR技术发展迅速,人们的生产和生活也迫切地需要VR技术带来的各种便捷。其中,在用户刚开启全景显示车辆内饰全景图像时,需要将车辆内饰全景图像中的车头方向对应的图像内容显示给用户,以使用户在观察点位置能够面向车头,帮助用户确定自己在车辆中的位置以及视角范围,给用户带来更好的观看体验。
目前,查找车辆内饰全景图像上车头方向的方法,一种是人工查找车辆内饰全景图像上车头方向,另一种是在车辆内饰全景图像上检测前挡风玻璃,将观察点位置朝向前挡风玻璃的中心的方向作为当前拍摄位置对应的车头方向。
然而,采用上述人工查找车头方向的方式存在速度慢,人工成本比较高问题;采用检测前挡风玻璃确定车头方向的方式,一方面由于玻璃是透明的,导致存在检测正确率底的问题,另一方面由于前挡风玻璃比较宽,在车辆内饰全景图像上,挡风玻璃的中心并不一定对应当前拍摄位置的车头方向,例如全景相机放在主驾驶位置的时候,车头方向应该为观察点位置朝向主驾驶座位前方的挡风玻璃上的方向,而不是观察点位置朝向前挡风玻璃的中心的方向。
发明内容
本发明实施例是提供一种车内全景图像显示方法、装置、电子设备以及计算机可读存储介质,以解决采用人工查找车头方向和检测前挡风玻璃方法确定车头方向的方法时,存在的速度慢,人工成本比较高以及检测的车头方向不准确的问题。
本发明实施例公开了一种车内全景图像显示方法,包括:
获取车内全景图像,以及拍摄所述车内全景图像的所述相机在车辆内的拍摄位置;其中,所述车内全景图中包括所述拍摄位置对应的目标对象;
检测出所述车内全景图像中所述目标对象的轮廓;
基于所述目标对象和所述轮廓的中心点位置,确定出所述车内全景图像中的车头方向;所述车头方向为所述拍摄位置对应的观察点位置朝向所述车辆的车头的方向;
根据所述车头方向获取所述车内全景图像中与所述车头方向对应的图像内容,以用于显示。
可选地,所述拍摄位置至少包括主驾驶位上方、中央扶手盒上方、后排中间座椅上方和副驾驶位上方;
所述主驾驶位上方对应的目标对象为方向盘,所述中央扶手盒上方和所述后排中间座椅上方对应的目标对象为后视镜,所述副驾驶位上方对应的目标对象为副驾驶座椅头枕。
可选地,所述基于所述目标对象和所述轮廓的中心点位置,确定出所述车内全景图像中的车头方向,包括:
当所述拍摄位置为所述主驾驶位上方、所述中央扶手盒上方和所述后排中间座椅上方时,将所述观察点位置朝向所述轮廓的中心点位置的方向确定为车头方向;
当所述拍摄位置为所述副驾驶位上方时,将所述观察点位置朝向与所述轮廓的中心点位置相距所述车内全景图像的像素坐标的列数的一半处的位置的方向,确定为车头方向。
可选地,所述根据所述车头方向获取所述车内全景图像中与所述车头方向对应的图像内容,以用于显示,包括:
对所述车内全景图像的像素进行移动,使得所述图像内容位于所述车内全景图像的中间位置;
获取所述车内全景图像的中间位置对应的图像内容,以用于显示。
可选地,所述对所述车内全景图像的像素进行移动,使得所述图像内容位于所述车内全景图像的中间位置,包括:
确定出所述图像内容的位置的像素坐标的第一列数,以及所述车内全景图像中间位置的像素坐标的第二列数;
计算所述第一列数和所述第二列数的差值;
根据所述差值对所述车内全景图像的像素在列方向上进行移动,使得所述图像内容位于所述车内全景图像的中间位置。
可选地,检测出所述车内全景图中所述目标对象的轮廓,包括:
将所述车内全景图像输入预先训练完成的目标检测模型,得到与所述目标对象对应的轮廓。
可选地,在所述将所述车内全景图像输入预先训练完成的目标检测模型之前,所述方法还包括:
获取样本图像训练数据;其中,所述样本图像训练数据具有对应的参照轮廓;
将所述样本图像训练数据输入至待训练的目标检测模型,得到所述样本图像中目标对象的轮廓;
根据预设的损失函数,计算训练过程中所述待训练的目标检测模型输出的轮廓,与所述参照轮廓的损失值;
当所述损失值满足预设条件时,得到训练完成的目标检测模型。
本发明实施例公开了一种车内全景图像显示装置,包括:
图像获取模块,用于获取车内全景图像,以及拍摄所述车内全景图像的所述相机在车辆内的拍摄位置;其中,所述车内全景图中包括所述拍摄位置对应的目标对象;
轮廓检测模块,用于检测出所述车内全景图像中所述目标对象的轮廓;
位置确定模块,用于基于所述目标对象和所述轮廓的中心点位置,确定出所述车内全景图像中的车头方向;所述车头方向为所述拍摄位置对应的观察点位置朝向所述车辆的车头的方向;
图像显示模块,用于根据所述车头方向获取所述车内全景图像中与所述车头方向对应的图像内容,以用于显示。
获取车内全景图像,以及拍摄所述车内全景图像的所述相机在车辆内的拍摄位置;其中,所述车内全景图中包括所述拍摄位置对应的目标对象;
检测出所述车内全景图像中所述目标对象的轮廓;
基于所述目标对象和所述轮廓的中心点位置,确定出所述车内全景图像中的车头方向;所述车头方向为所述拍摄位置对应的观察点位置朝向所述车辆的车头的方向;
根据所述车头方向获取所述车内全景图像中与所述车头方向对应的图像内容,以用于显示。
可选地,所述拍摄位置至少包括主驾驶位上方、中央扶手盒上方、后排中间座椅上方和副驾驶位上方;
所述主驾驶位上方对应的目标对象为方向盘,所述中央扶手盒上方和所述后排中间座椅上方对应的目标对象为后视镜,所述副驾驶位上方对应的目标对象为副驾驶座椅头枕。
可选地,所述位置确定模块,包括:
第一位置确定子模块,当所述拍摄位置为所述主驾驶位上方、所述中央扶手盒上方和所述后排中间座椅上方时,将所述观察点位置朝向所述轮廓的中心点位置的方向确定为车头方向;
第二位置确定子模块,当所述拍摄位置为所述副驾驶位上方时,将所述观察点位置朝向与所述轮廓的中心点位置相距所述车内全景图像的像素坐标的列数的一半处的位置的方向,确定为车头方向。
可选地,所述图像显示模块,包括:
像素移动子模块,用于对所述车内全景图像的像素进行移动,使得所述图像内容位于所述车内全景图像的中间位置;
图像显示子模块,用于获取所述车内全景图像的中间位置对应的图像内容,以用于显示。
可选地,所述像素移动子模块,包括:
列数确定单元,用于确定出所述图像内容的位置的像素坐标的第一列数,以及所述车内全景图像中间位置的像素坐标的第二列数;
差值计算单元,用于计算所述第一列数和所述第二列数的差值;
像素移动单元,用于根据所述差值对所述车内全景图像的像素在列方向上进行移动,使得所述图像内容位于所述车内全景图像的中间位置。
可选地,所述轮廓检测模块,包括:
第一轮廓预测子模块,用于将所述车内全景图像输入预先训练完成的目标检测模型,得到与所述目标对象对应的轮廓。
可选地,还包括:
数据获取子模块,用于获取样本图像训练数据;其中,所述样本图像训练数据具有对应的参照轮廓;
第二轮廓预测子模块,用于将所述样本图像训练数据输入至待训练的目标检测模型,得到所述样本图像中目标对象的轮廓;
损失值计算子模块,用于根据预设的损失函数,计算训练过程中所述待训练的目标检测模型输出的轮廓,与所述参照轮廓的损失值;
模型训练完成子模块,用于当所述损失值满足预设条件时,得到训练完成的目标检测模型。
本发明实施例还公开了一种电子设备,包括处理器、通信接口、存储器和通信总线,其中,所述处理器、所述通信接口以及所述存储器通过所述通信总线完成相互间的通信;
所述存储器,用于存放计算机程序;
所述处理器,用于执行存储器上所存放的程序时,实现如本发明实施例所述的方法。
本发明实施例还公开了一个或多个计算机存储介质,其上存储有指令,当由一个或多个处理器执行时,使得所述处理器执行如本发明实施例所述的方法。
本发明实施例还公开了一种计算机程序产品,该程序产品被存储在存储介质中,该计算机程序产品被至少一个处理器执行以实现如本发明实施例所述的方法。
本发明实施例包括以下优点:获取车内全景图像,以及拍摄车内全景图像的相机在车辆内的拍摄位置,检测出车内全景图像中目标对象的轮廓,基于目标对象和轮廓的中心点位置,确定出车内全景图像中的车头方向,车头方向为拍摄位置对应的观察点位置朝向车辆的车头的方向,根据所述车头方向获取所述车内全景图像中与所述车头方向对应的图像内容,以用于显示。本发明实施例中,相机不同的拍摄位置对应不同的目标对象和车头方向,在检测车内全景图像中相机的拍摄位置对应目标对象的轮廓后,可以通过相机的拍摄位置对应目标对象和其轮廓的中心点快速地确定出车内全景图像中,观察点位置朝向车头的车头方向,实现自动化的车头方向检测,不再需要人工参与,同时提高车头方向检测的正确率,准确找到每一个拍摄位置对应的车头方向。解决采用人工查找车头方向和检测前挡风玻璃确定车头方向的方法时,存在的速度慢,人工成本比较高以及检测的车头方向不准确的问题。
附图说明
图1是本发明实施例中提供的一种车内全景图像显示方法的步骤流程图;
图2是本发明实施例中提供的一种车内全景图像显示的示意图;
图3是本发明实施例中提供的一种车内全景图像的示意图之一;
图4是本发明实施例中提供的一种车内全景图像的示意图之二;
图5是本发明实施例中提供的一种车内全景图像校正的步骤流程图;
图6是本发明实施例中提供的一种车内全景图像显示装置的结构框图;
图7是本发明实施例中提供的一种电子设备的框图。
具体实施方式
为使本发明的上述目的、特征和优点能够更加明显易懂,下面结合附图和具体实施方式对本发明作进一步详细的说明。
参照图1,示出了本发明实施例中提供的一种车内全景图像显示方法的步骤流程图,具体可以包括如下步骤:
步骤102:获取车内全景图像,以及拍摄所述车内全景图像的所述相机在车辆内的拍摄位置。
其中,车内全景图中包括拍摄位置对应的目标对象;
相机为全景相机,安装在车内,相机默认与汽车底盘平行或者夹角很小,用于拍摄车辆内的车内全景图像(车辆内饰全景图像);全景图像是通过全景相机拍摄的具有360度景象的图像,全景图像首尾的景象是可以连接在一起的;
相机在车辆内的拍摄位置可以为多种,如可以为主驾驶位上方、中央扶手盒上方、后排中间座椅上方和副驾驶位上方等,不同拍摄位置拍摄到的车内全景图像。而车内全景图像进行VR显示时,基于相机在车辆内的拍摄位置不同,用户在车内的观测位置也不同,例如当第一车内全景图像和第二车内全景图像分别为在主驾驶位上方和副驾驶位上方的相机拍摄生成时,那么第一车内全景图像的观察点位置在主驾驶位上方,第二车内全景图像的观察点位置在副驾驶位上方。由于车内全景图像的车头方向为观察点位置朝向车辆的车头的方向,因此,基于观察点位置不同,第一车内全景图像和第二车内全景图像的车头方向也不同。
在车内全景图像刚进行VR显示时,需要用户在观察点位置面向车辆的车头,因此,可以将此时用户看到的图像内容中的设备/结构作为目标对象。作为示例,拍摄位置在主驾驶位上方时,用户在主驾驶位上的观察点位置面向车辆的车头,用户观看到的图像内容中间处包含主驾驶位前面的方向盘,那么相机的拍摄位置对应的目标对象可以为方向盘;拍摄位置在中央扶手盒上方或后排中间座椅上方时,观察点位置在中央扶手盒上或后排中间座椅上时,用户观看到的图像内容中间处包含车内后视镜,那么相机的拍摄位置对应的目标对象可以为后视镜;相机的拍摄位置为副驾驶位上方时,观察点位置在副驾驶位上,用户观看到的图像内容中间处对应副驾驶位前面的挡风玻璃中心点位置,此时,由于副驾驶前方的挡风玻璃中心点位置不容易检测,因此将副驾驶位前面的挡风玻璃中心点位置相反方向的副驾驶座椅头枕作为相机的拍摄位置对应的目标对象。
具体地,获取相机拍摄到的车内全景图像,以及该相机在车辆内的拍摄位置,以便基于拍摄位置对应的目标对象去确定车内全景图像的车头方向。
步骤104:检测出所述车内全景图像中所述目标对象的轮廓。
具体地,在获取到车内全景图像,可以去检测出车内全景图像中相机的拍摄位置对应目标对象的轮廓。
作为示例,当相机的拍摄位置为主驾驶位上方时,相机的拍摄位置对应的目标对象为方向盘,那么此时去检测出车内全景图像中方向盘的轮廓;当相机的拍摄位置为副驾驶位上方时相机的拍摄位置对应的目标对象为副驾驶座椅头枕,那么此时去检测出车内全景图像中副驾驶座椅头枕的轮廓,需要说明的是,在全景图像上物体遵循近大远小的规律,车内全景图像上可以检测出不止一个座椅头枕,但是当拍摄位置是副驾驶位上方时,车内全景图像中最大的座椅头枕为副驾驶座椅头枕。
步骤106:基于所述目标对象和所述轮廓的中心点位置,确定出所述车内全景图像中的车头方向。
其中,车头方向为拍摄位置对应的观察点位置朝向车辆的车头的方向,即在车内全景图像进行显示时,用户通过观察点位置朝向车辆的车头的方向。每一个全景图像都存在一个观察点位置,也就是视点,在车内全景图像通过计算机技术实现全方位互动式观看的真实场景还原展示时,用户通过观察点位置实现空间360°范围内观察;
车头方向为用户在观察点位置朝向车辆的车头的方向。如拍摄位置为主驾驶位上方时,用户在主驾驶位上的观察点位置朝向车辆的车头的方向为车头方向,拍摄位置为副驾驶位上方时,用户在副驾驶位上的观察点位置朝向车辆的车头的方向为车头方向。
具体地,在检测出车内全景图像中相机的拍摄位置对应的目标对象的轮廓之后,由于目标对象的轮廓与车内全景图像中车头方向对应的图像内容存在对应关系,因此可以根据目标对象和轮廓的中心点位置确定车内全景图像中的车头方向。例如当目标对象为方向盘时,那么此时将观察点位置朝向方向盘轮廓的中心点位置的方向作为车内全景图像中的车头方向。
步骤108:根据所述车头方向获取所述车内全景图像中与所述车头方向对应的图像内容,以用于显示。
其中,车头方向对应的图像内容为用户在观察点位置上正面朝向车头时,用户观看到的图像内容。
具体地,在确定出车内全景图像中的车头方向之后,可以获取车内全景图像中与车头方向对应的图像内容,显示给用户观看。作为示例,在接收到车内全景图像的VR显示指令时,直接显示车内全景图像中与车头方向对应的图像内容,以帮助用户确定自己在车辆中的位置以及视角范围,给用户带来更好的观看体验。
参照图2,示出了本发明实施例中提供的一种车内全景图像显示的示意图。如图2中的a,车头方向为主驾驶位上的观察点位置朝向主驾驶位前面方向盘中心点位置的方向时,在接收到车内全景图像的VR显示指令后,显示的车内全景图像中与车头方向对应的图像内容,以帮助用户确定自己在车辆中的位置以及视角范围,给用户带来更好的观看体验。如图2中的b,车头方向为副驾驶位上的观察点位置朝向副驾驶位前面的挡风玻璃中心点位置的方向时,在接收到车内全景图像的VR显示指令后,显示的车内全景图像中与车头方向对应的图像内容,以便于用户确定自己在车辆中的位置以及视角范围,给用户带来更好的观看体验。
上述实施例中,获取车内全景图像,以及拍摄车内全景图像的相机在车辆内的拍摄位置,车内全景图中包括拍摄位置对应的目标对象,检测出车内全景图像中目标对象的轮廓,基于目标对象和轮廓的中心点位置,确定出车内全景图像中的车头方向,车头方向为拍摄位置对应的观察点位置朝向车辆的车头的方向,根据所述车头方向获取所述车内全景图像中与所述车头方向对应的图像内容,以用于显示。本发明实施例中,相机不同的拍摄位置对应不同的目标对象和车头方向,在检测车内全景图像中相机的拍摄位置对应目标对象的轮廓后,可以通过相机的拍摄位置对应目标对象和轮廓的中心点快速地确定出车内全景图像中,观察点位置朝向车头的车头方向,实现自动化的车头方向检测,不再需要人工参与,同时提高车头方向检测的正确率,准确找到每一个拍摄位置的车头方向。解决采用人工查找车头方向和检测前挡风玻璃确定车头方向的方法时,存在的速度慢,人工成本比较高以及检测的车头方向不准确的问题。
在上述实施例的基础上,提出了上述实施例的变型实施例,在此需要说明的是,为了使描述简要,在变型实施例中仅描述与上述实施例的不同之处。
在一示例性实施例中,所述基于所述目标对象和所述轮廓的中心点位置,确定出所述车内全景图像中的车头方向,包括:当所述拍摄位置为所述主驾驶位上方、所述中央扶手盒上方和所述后排中间座椅上方时,将所述观察点位置朝向所述轮廓的中心点位置的方向确定为车头方向;当所述拍摄位置为所述副驾驶位上方时,将所述观察点位置朝向与所述轮廓的中心点位置相距所述车内全景图像的像素坐标的列数的一半处的位置的方向,确定为车头方向。
具体地,当拍摄位置为主驾驶位上方时,用户在观察点位置朝向车头时观察到的图像内容中间处包括方向盘,因此将方向盘作为拍摄位置对应的目标对象为后视镜,将观察点位置朝向方向盘的轮廓的中心点位置的方向确定为车头方向。
当拍摄位置为中央扶手盒上方和后排中间座椅上方时,用户在观察点位置朝向车头时观察到的图像内容中间处包括后视镜,因此拍摄位置对应的目标对象为后视镜,将观察点位置朝向后视镜的轮廓的中心点位置的方向确定为车头方向。
需要说明的是,本发明实施例中的观察点位置朝向方向盘的轮廓的中心点位置和后视镜的轮廓的中心点位置,是指观察点位置朝向方向盘的轮廓的中心点位置对应的列数(像素坐标的列数)和后视镜的轮廓的中心点位置对应的列数。
当拍摄位置为副驾驶位上方时,用户在观察点位置朝向车头时观察到的图像内容中间处包括副驾驶位前方的挡风玻璃,但挡风玻璃不易检测,因此将挡风玻璃相反方向的副驾驶座椅头枕作为拍摄位置对应的目标对象,而车内全景图像中的车头方向为观察点位置朝向副驾驶位前方的挡风玻璃中心点位置的方向,所以此时不能够直接将副驾驶位上观察点位置朝向副驾驶座椅头枕的轮廓的中心点位置的方向直接确定为车头方向。由于在副驾驶位上方拍摄车内全景图像时,副驾驶位座椅头枕所在的位置和副驾驶位前面的挡风玻璃正好处于相反的两个方向,全景图像是360度的景象,相反两个方向的夹角是180度是360度的一半,所以副驾驶位座椅头枕和车头方向正好相差全景图像1/2图像宽度的像素,也就是说座椅头枕的轮廓的中心点位置与副驾驶位前面的挡风玻璃的中心点位置刚好相距车内全景图像的宽度的一半,因此将观察点位置朝向与副驾驶座椅头枕的轮廓的中心点位置相距车内全景图像的像素坐标的列数的一半处的位置(副驾驶位前面的挡风玻璃中心点位置)的方向,确定为车头方向。例如,车内全景图像中像素的列数为1000列,全景图像的像素坐标的列数的一半为500列,而副驾驶位座椅头枕的轮廓的中心点位置位于车内全景图像中的300列,副驾驶位前面的挡风玻璃中心点位置位于车内全景图像中的800列,那么此时将副驾驶位上的观察点位置朝向全景图像中的第800列的方向确定为车头方向。
上述实施例中,通过将拍摄位置信息和目标对象(方向盘、车内后视镜、座椅头枕)的目标检测结果(轮廓)相结合,可以充分利用这三类目标对象目标检测的正确率比较高的性质,提升了车头方向检测的正确率。
在一示例性实施例中,所述根据所述车头方向获取所述车内全景图像中与所述车头方向对应的图像内容,以用于显示,包括:对所述车内全景图像的像素进行移动,使得所述图像内容位于所述车内全景图像的中间位置;获取所述车内全景图像的中间位置对应的图像内容,以用于显示。
其中,车内全景图像的中间位置是指全景图像中像素坐标的中间列数,当车内全景图像中像素坐标的列数为1000列时,车内全景图像的中间位置为第500列。
具体地,由于在车内全景图像进行VR显示时,会先直接显示车内全景图像的中间位置对应的图像内容,如中间位置为第500列,那么显示全景图像中300列至700列的图像内容,因此在确定出车内全景图像中的车头方向之后,需判断车内全景图像中的车头方向对应的图像内容是否位于车内全景图像的中间位置,若车头方向对应的图像内容位于车内全景图像的中间位置,则在VR显示时,直接展示车内全景图像的中间位置对应的图像内容。
若车头方向对应的图像内容并未位于车内全景图像的中间位置,则对车内全景图像的像素进行移动,使得车头方向对应的图像内容位于车内全景图像的中间位置,然后获取车内全景图像的中间位置对应的图像内容,以用于显示,以使用户在观察点位置时的视角朝向车辆的车头,帮助用户确定自己在车辆中的位置以及视角范围,给用户带来更好的观看体验
在一示例性实施例中,所述对所述车内全景图像的像素进行移动,使得所述图像内容位于所述车内全景图像的中间位置,包括:确定出所述图像内容的位置的像素坐标的第一列数,以及所述车内全景图像中间位置的像素坐标的第二列数;计算所述第一列数和所述第二列数的差值;根据所述差值对所述车内全景图像的像素在列方向上进行移动,使得所述图像内容位于所述车内全景图像的中间位置。
具体地,确定出车头方向对应的图像内容在全景图像中的像素坐标的第一列数,如车头方向对应的图像内容的中间位置在全景图像中的像素坐标的第一列数,以及车内全景图像中间位置的像素坐标的第二列数,计算第一列数和第二列数的差值,将全景图像的像素在列方向上移动该差值,从而实现将车头方向对应的图像内容移动至车内全景图像的中间位置。
作为示例,车内全景图像中像素的列数为1000列,车头方向对应的图像内容包括方向盘,方向盘中心点位置在全景图像中的像素坐标的第一列数为300列,车内全景图像的中间位置的第二列数为500列,那么车头方向对应的图像内容中方向盘中心点位置与车内全景图像的中间位置相差200列,将车内全景图像的所有像素在方向上移动200列,使得车头方向对应的图像内容中的方向盘中心点位置位于车内全景图像的500列,从而实现将车头方向对应的图像内容移动至车内全景图像的中间位置。需要说明的是,由于车辆全景图像360度景象的图像,车辆全景图像首尾的景象是可以连接在一起的,因此在全景图像中像素移动的过程中,对于全景图像中的第800列至1000列像素,会移动到全景图像中的0列至200列中。
参照图3,示出了本发明实施例中提供的一种车内全景图像的示意图之一,图中的车头方向为主驾驶位上的观察点位置朝向方向盘的中心点位置的方向,此时车头方向对应的图像内容并没有位于车内全景图像的中间位置,因此需要将方向盘的中心点位置移动到车内全景图像的中间位置。参照图4,示出了本发明实施例中提供的一种车内全景图像的示意图之二,图4中的方向盘的中心点位置位于车内全景图像的中间位置,即车头方向对应的图像内容位于车内全景图像的中间位置。
上述实施例中,在确定出车头方向之后,将方向盘的位置直接移动到全景图像的中间位置处,以便与在车内全景图像VR显示时,显示车内全景图像中车头方向对应的图像内容,以帮助用户确定自己在车辆中的位置以及视角范围,给用户带来更好的观看体验。
在一示例性实施例中,所述检测出所述车内全景图中所述目标对象的轮廓,包括:将所述车内全景图像输入预先训练完成的目标检测模型,得到与所述目标对象对应的轮廓。
其中,目标检测模型可以是yolov5、Faster-rcnn等各种模型。
具体地,在获取到车内全景图像和相机的拍摄位置之后,可以将车内全景图像输入目标对象对应的预先训练完成的目标检测模型中,得到与目标对象对应的轮廓。例如,当目标对象为方向盘时,目标检测模型为方向盘检测模型,将车内全景图像输入方向盘检测模型,得到方向盘对应的轮廓;当目标对象为后视镜时,目标检测模型为后视镜检测模型,将车内全景图像输入后视镜检测模型,得到后视镜对应的轮廓。
上述实施例中,通过目标检测模型检测出车内全景图像中的目标对象的轮廓,以便基于目标对象的轮廓确定车内全景图像中的车头方向。
在一示例性实施例中,在所述将所述车内全景图像输入预先训练完成的目标检测模型之前,所述方法还包括:获取样本图像训练数据;其中,所述样本图像训练数据具有对应的参照轮廓;将所述样本图像训练数据输入至待训练的目标检测模型,得到所述样本图像中目标对象的轮廓;根据预设的损失函数,计算训练过程中所述待训练的目标检测模型输出的轮廓,与所述参照轮廓的损失值;当所述损失值满足预设条件时,得到训练完成的目标检测模型。
具体地,在将车内全景图像输入预先训练完成的目标检测模型之前,需要对待训练的目标检测模型进行训练,将样本图像训练数据输入待训练的目标检测模型中,得到本图像中目标对象的轮廓,然后根据预设的损失函数,计算训练过程中待训练的目标检测模型输出的轮廓,与参照轮廓的损失值,当损失值小于预设阈值或者损失值收敛时,确定目标检测模型训练完成,得到训练完成的目标检测模型。
为了更好的理解本发明中的实施例,下述结合图5进行示例性说明。
参照图5,示出了本发明实施例中提供的一种车内全景图像校正的步骤流程图。在VR场景下,汽车内饰全景图像(车内全景图)的拍摄位置主要是主驾驶位上方、副驾驶位上方、中央扶手盒上方、后排中间座位上方等几个位置。
拍摄过程中记录下每个图片属于三个拍摄位置中的哪一个:主驾驶位上方、副驾驶位上方,中央位置上方(中央扶手盒上方和后排中间座位上方);
使用专门训练的用于检测方向盘、车内后视镜、座椅头枕三类对象的目标检测模型,检测汽车内饰全景图像上的方向盘、车内后视镜、座椅头枕。
关于目标检测模型的简单介绍:①模型可以是yolov5、Faster-rcnn等各种目标检测模型;②使用人工标注的具有方向盘、车内后视镜、座椅头枕三类对象的训练数据进行训练;③训练好的模型,只需要输入VR场景的汽车内饰全景图像,就可以返回方向盘、车内后视镜、座椅头枕的bounding box位置(轮廓)。
在主驾驶位上方拍摄时,汽车内饰全景图像肯定可以拍到方向盘;在中央扶手盒上方、后排中间座位上方拍摄时,汽车内饰全景图像肯定可以拍到车内后视镜;在副驾驶位上方拍摄时,汽车内饰全景图像肯定可以拍到副驾驶位的座椅头枕;结合拍摄位置的信息,确定车头方向的位置。
当拍摄位置是主驾驶位上方时,把主驾驶位上的观察点位置朝向方向盘boundingbox的中心所在的列的方向作为车头方向;当拍摄位置是中央扶手盒上方、后排中间座椅上方时,把中央扶手盒上或后排中间座椅上的观察点位置朝向车内后视镜bounding box的中心所在的列的方向作为车头方向;
当拍摄位置是副驾驶位上方时,把副驾驶位上的观察点位置朝向最大的座椅头枕bounding box的中心所在的列相距图像宽度的1/2个像素后的位置的方向,作为车头方向;需要说明的是:在副驾驶位上方拍摄汽车内饰全景图像时,副驾驶位座椅头枕所在的位置和副驾驶位下的车头方向所在的位置正好处于相反的两个方向;全景图像拍摄的图像是360度的景象,相反两个方向的夹角是180度是360度的一半,所以座椅头枕和副驾驶位前方的挡风玻璃正好相差全景图像1/2图像宽度的像素。全景图像上物体遵循近大远小的规律,汽车内饰全景图像上可以检测出不止一个座椅头枕,但是当拍摄位置是副驾驶位上方时,副驾驶座椅头枕在当前全景图像中是最大的;
把上一步找到的车头方向对应的图像内容,旋转到车内全景图像的中心;就实现了车头方向的矫正。
上述实施例中,以实现自动化的车头方向检测,不再需要人工参与,方向盘、车内后视镜、座椅头枕都是不透明的,检测的正确率比透明的前挡风玻璃高得多;拍摄位置信息和方向盘、车内后视镜、座椅头枕目标检测相结合,可以准确找到每一个拍摄位置的车头方向。
需要说明的是,对于方法实施例,为了简单描述,故将其都表述为一系列的动作组合,但是本领域技术人员应该知悉,本发明实施例并不受所描述的动作顺序的限制,因为依据本发明实施例,某些步骤可以采用其他顺序或者同时进行。其次,本领域技术人员也应该知悉,说明书中所描述的实施例均属于优选实施例,所涉及的动作并不一定是本发明实施例所必须的。
参照图6,示出了本发明实施例中提供的一种车内全景方向显示装置600的结构框图,具体可以包括如下模块:
图像获取模块602,用于获取车内全景图像,以及拍摄所述车内全景图像的所述相机在车辆内的拍摄位置;其中,所述车内全景图中包括所述拍摄位置对应的目标对象;
轮廓检测模块604,用于检测出所述车内全景图像中所述目标对象的轮廓;
位置确定模块606,用于基于所述目标对象和所述轮廓的中心点位置,确定出所述车内全景图像中的车头方向;所述车头方向为所述拍摄位置对应的观察点位置朝向所述车辆的车头的方向;
图像显示模块608,用于根据所述车头方向获取所述车内全景图像中与所述车头方向对应的图像内容,以用于显示。
获取车内全景图像,以及拍摄所述车内全景图像的所述相机在车辆内的拍摄位置;其中,所述车内全景图中包括所述拍摄位置对应的目标对象;
检测出所述车内全景图像中所述目标对象的轮廓;
基于所述目标对象和所述轮廓的中心点位置,确定出所述车内全景图像中的车头方向;所述车头方向为所述拍摄位置对应的观察点位置朝向所述车辆的车头的方向;
根据所述车头方向获取所述车内全景图像中与所述车头方向对应的图像内容,以用于显示。
可选地,所述拍摄位置至少包括主驾驶位上方、中央扶手盒上方、后排中间座椅上方和副驾驶位上方;
所述主驾驶位上方对应的目标对象为方向盘,所述中央扶手盒上方和所述后排中间座椅上方对应的目标对象为后视镜,所述副驾驶位上方对应的目标对象为副驾驶座椅头枕。
可选地,所述位置确定模块,包括:
第一位置确定子模块,当所述拍摄位置为所述主驾驶位上方、所述中央扶手盒上方和所述后排中间座椅上方时,将所述观察点位置朝向所述轮廓的中心点位置的方向确定为车头方向;
第二位置确定子模块,当所述拍摄位置为所述副驾驶位上方时,将所述观察点位置朝向与所述轮廓的中心点位置相距所述车内全景图像的像素坐标的列数的一半处的位置的方向,确定为车头方向。
可选地,所述图像显示模块,包括:
像素移动子模块,用于对所述车内全景图像的像素进行移动,使得所述图像内容位于所述车内全景图像的中间位置;
图像显示子模块,用于获取所述车内全景图像的中间位置对应的图像内容,以用于显示。
可选地,所述像素移动子模块,包括:
列数确定单元,用于确定出所述图像内容的位置的像素坐标的第一列数,以及所述车内全景图像中间位置的像素坐标的第二列数;
差值计算单元,用于计算所述第一列数和所述第二列数的差值;
像素移动单元,用于根据所述差值对所述车内全景图像的像素在列方向上进行移动,使得所述图像内容位于所述车内全景图像的中间位置。
可选地,所述轮廓检测模块,包括:
第一轮廓预测子模块,用于将所述车内全景图像输入预先训练完成的目标检测模型,得到与所述目标对象对应的轮廓。
可选地,还包括:
数据获取子模块,用于获取样本图像训练数据;其中,所述样本图像训练数据具有对应的参照轮廓;
第二轮廓预测子模块,用于将所述样本图像训练数据输入至待训练的目标检测模型,得到所述样本图像中目标对象的轮廓;
损失值计算子模块,用于根据预设的损失函数,计算训练过程中所述待训练的目标检测模型输出的轮廓,与所述参照轮廓的损失值;
模型训练完成子模块,用于当所述损失值满足预设条件时,得到训练完成的目标检测模型。
对于装置实施例而言,由于其与方法实施例基本相似,所以描述的比较简单,相关之处参见方法实施例的部分说明即可。
另外,本发明实施例还提供了一种电子设备,包括:处理器,存储器,存储在存储器上并可在处理器上运行的计算机程序,该计算机程序被处理器执行时实现上述数据获取方法实施例的各个过程,且能达到相同的技术效果,为避免重复,这里不再赘述。
本发明实施例还提供了一种计算机可读存储介质,计算机可读存储介质上存储有计算机程序,计算机程序被处理器执行时实现上述数据获取方法实施例的各个过程,且能达到相同的技术效果,为避免重复,这里不再赘述。其中,所述的计算机可读存储介质,如只读存储器(Read-Only Memory,简称ROM)、随机存取存储器(Random Access Memory,简称RAM)、磁碟或者光盘等。
图7为实现本发明各个实施例的一种电子设备的硬件结构示意图。
该电子设备700包括但不限于:射频单元701、网络模块702、音频输出单元703、输入单元704、传感器705、显示单元706、用户输入单元707、接口单元708、存储器709、处理器710、以及电源711等部件。本领域技术人员可以理解,图7中示出的电子设备结构并不构成对电子设备的限定,电子设备可以包括比图示更多或更少的部件,或者组合某些部件,或者不同的部件布置。在本发明实施例中,电子设备包括但不限于手机、平板电脑、笔记本电脑、掌上电脑、车载终端、可穿戴设备、以及计步器等。
应理解的是,本发明实施例中,射频单元701可用于收发信息或通话过程中,信号的接收和发送,具体的,将来自基站的下行数据接收后,给处理器710处理;另外,将上行的数据发送给基站。通常,射频单元701包括但不限于天线、至少一个放大器、收发信机、耦合器、低噪声放大器、双工器等。此外,射频单元701还可以通过无线通信系统与网络和其他设备通信。
电子设备通过网络模块702为用户提供了无线的宽带互联网访问,如帮助用户收发电子邮件、浏览网页和访问流式媒体等。
音频输出单元703可以将射频单元701或网络模块702接收的或者在存储器709中存储的音频数据转换成音频信号并且输出为声音。而且,音频输出单元703还可以提供与电子设备700执行的特定功能相关的音频输出(例如,呼叫信号接收声音、消息接收声音等等)。音频输出单元703包括扬声器、蜂鸣器以及受话器等。
输入单元704用于接收音频或视频信号。输入单元704可以包括图形处理器(Graphics Processing Unit,GPU)7041和麦克风7042,图形处理器7041对在视频捕获模式或图像捕获模式中由图像捕获装置(如摄像头)获得的静态图片或视频的图像数据进行处理。处理后的图像帧可以显示在显示单元706上。经图形处理器7041处理后的图像帧可以存储在存储器709(或其它存储介质)中或者经由射频单元701或网络模块702进行发送。麦克风7042可以接收声音,并且能够将这样的声音处理为音频数据。处理后的音频数据可以在电话通话模式的情况下转换为可经由射频单元701发送到移动通信基站的格式输出。
电子设备700还包括至少一种传感器705,比如光传感器、运动传感器以及其他传感器。具体地,光传感器包括环境光传感器及接近传感器,其中,环境光传感器可根据环境光线的明暗来调节显示面板7061的亮度,接近传感器可在电子设备700移动到耳边时,关闭显示面板7061和/或背光。作为运动传感器的一种,加速计传感器可检测各个方向上(一般为三轴)加速度的大小,静止时可检测出重力的大小及方向,可用于识别电子设备姿态(比如横竖屏切换、相关游戏、磁力计姿态校准)、振动识别相关功能(比如计步器、敲击)等;传感器705还可以包括指纹传感器、压力传感器、虹膜传感器、分子传感器、陀螺仪、气压计、湿度计、温度计、红外线传感器等,在此不再赘述。
显示单元706用于显示由用户输入的信息或提供给用户的信息。显示单元706可包括显示面板7061,可以采用液晶显示器(Liquid Crystal Display,LCD)、有机发光二极管(Organic Light-Emitting Diode,OLED)等形式来配置显示面板7061。
用户输入单元707可用于接收输入的数字或字符信息,以及产生与电子设备的用户设置以及功能控制有关的键信号输入。具体地,用户输入单元707包括触控面板7071以及其他输入设备7072。触控面板7071,也称为触摸屏,可收集用户在其上或附近的触摸操作(比如用户使用手指、触笔等任何适合的物体或附件在触控面板7071上或在触控面板7071附近的操作)。触控面板7071可包括触摸检测装置和触摸控制器两个部分。其中,触摸检测装置检测用户的触摸方位,并检测触摸操作带来的信号,将信号传送给触摸控制器;触摸控制器从触摸检测装置上接收触摸信息,并将它转换成触点坐标,再送给处理器710,接收处理器710发来的命令并加以执行。此外,可以采用电阻式、电容式、红外线以及表面声波等多种类型实现触控面板7071。除了触控面板7071,用户输入单元707还可以包括其他输入设备7072。具体地,其他输入设备7072可以包括但不限于物理键盘、功能键(比如音量控制按键、开关按键等)、轨迹球、鼠标、操作杆,在此不再赘述。
进一步的,触控面板7071可覆盖在显示面板7061上,当触控面板7071检测到在其上或附近的触摸操作后,传送给处理器710以确定触摸事件的类型,随后处理器710根据触摸事件的类型在显示面板7061上提供相应的视觉输出。虽然在图7中,触控面板7071与显示面板7061是作为两个独立的部件来实现电子设备的输入和输出功能,但是在某些实施例中,可以将触控面板7071与显示面板7061集成而实现电子设备的输入和输出功能,具体此处不做限定。
接口单元708为外部装置与电子设备700连接的接口。例如,外部装置可以包括有线或无线头戴式耳机端口、外部电源(或电池充电器)端口、有线或无线数据端口、存储卡端口、用于连接具有识别模块的装置的端口、音频输入/输出(I/O)端口、视频I/O端口、耳机端口等等。接口单元708可以用于接收来自外部装置的输入(例如,数据信息、电力等等)并且将接收到的输入传输到电子设备700内的一个或多个元件或者可以用于在电子设备700和外部装置之间传输数据。
存储器709可用于存储软件程序以及各种数据。存储器709可主要包括存储程序区和存储数据区,其中,存储程序区可存储操作系统、至少一个功能所需的应用程序(比如声音播放功能、图像播放功能等)等;存储数据区可存储根据手机的使用所创建的数据(比如音频数据、电话本等)等。此外,存储器709可以包括高速随机存取存储器,还可以包括非易失性存储器,例如至少一个磁盘存储器件、闪存器件、或其他易失性固态存储器件。
处理器710是电子设备的控制中心,利用各种接口和线路连接整个电子设备的各个部分,通过运行或执行存储在存储器709内的软件程序和/或模块,以及调用存储在存储器709内的数据,执行电子设备的各种功能和处理数据,从而对电子设备进行整体监控。处理器710可包括一个或多个处理单元;优选的,处理器710可集成应用处理器和调制解调处理器,其中,应用处理器主要处理操作系统、用户界面和应用程序等,调制解调处理器主要处理无线通信。可以理解的是,上述调制解调处理器也可以不集成到处理器710中。
电子设备700还可以包括给各个部件供电的电源711(比如电池),优选的,电源711可以通过电源管理系统与处理器710逻辑相连,从而通过电源管理系统实现管理充电、放电、以及功耗管理等功能。
另外,电子设备700包括一些未示出的功能模块,在此不再赘述。
需要说明的是,在本文中,术语“包括”、“包含”或者其任何其他变体意在涵盖非排他性的包含,从而使得包括一系列要素的过程、方法、物品或者装置不仅包括那些要素,而且还包括没有明确列出的其他要素,或者是还包括为这种过程、方法、物品或者装置所固有的要素。在没有更多限制的情况下,由语句“包括一个……”限定的要素,并不排除在包括该要素的过程、方法、物品或者装置中还存在另外的相同要素。
通过以上的实施方式的描述,本领域的技术人员可以清楚地了解到上述实施例方法可借助软件加必需的通用硬件平台的方式来实现,当然也可以通过硬件,但很多情况下前者是更佳的实施方式。基于这样的理解,本发明的技术方案本质上或者说对现有技术做出贡献的部分可以以软件产品的形式体现出来,该计算机软件产品存储在一个存储介质(如ROM/RAM、磁碟、光盘)中,包括若干指令用以使得一台终端(可以是手机,计算机,服务器,空调器,或者网络设备等)执行本发明各个实施例所述的方法。
上面结合附图对本发明的实施例进行了描述,但是本发明并不局限于上述的具体实施方式,上述的具体实施方式仅仅是示意性的,而不是限制性的,本领域的普通技术人员在本发明的启示下,在不脱离本发明宗旨和权利要求所保护的范围情况下,还可做出很多形式,均属于本发明的保护之内。
本领域普通技术人员可以意识到,结合本发明实施例中所公开的实施例描述的各示例的单元及算法步骤,能够以电子硬件、或者计算机软件和电子硬件的结合来实现。这些功能究竟以硬件还是软件方式来执行,取决于技术方案的特定应用和设计约束条件。专业技术人员可以对每个特定的应用来使用不同方法来实现所描述的功能,但是这种实现不应认为超出本发明的范围。
所属领域的技术人员可以清楚地了解到,为描述的方便和简洁,上述描述的系统、装置和单元的具体工作过程,可以参考前述方法实施例中的对应过程,在此不再赘述。
在本申请所提供的实施例中,应该理解到,所揭露的装置和方法,可以通过其它的方式实现。例如,以上所描述的装置实施例仅仅是示意性的,例如,所述单元的划分,仅仅为一种逻辑功能划分,实际实现时可以有另外的划分方式,例如多个单元或组件可以结合或者可以集成到另一个系统,或一些特征可以忽略,或不执行。另一点,所显示或讨论的相互之间的耦合或直接耦合或通信连接可以是通过一些接口,装置或单元的间接耦合或通信连接,可以是电性,机械或其它的形式。
所述作为分离部件说明的单元可以是或者也可以不是物理上分开的,作为单元显示的部件可以是或者也可以不是物理单元,即可以位于一个地方,或者也可以分布到多个网络单元上。可以根据实际的需要选择其中的部分或者全部单元来实现本实施例方案的目的。
另外,在本发明各个实施例中的各功能单元可以集成在一个处理单元中,也可以是各个单元单独物理存在,也可以两个或两个以上单元集成在一个单元中。
所述功能如果以软件功能单元的形式实现并作为独立的产品销售或使用时,可以存储在一个计算机可读取存储介质中。基于这样的理解,本发明的技术方案本质上或者说对现有技术做出贡献的部分或者该技术方案的部分可以以软件产品的形式体现出来,该计算机软件产品存储在一个存储介质中,包括若干指令用以使得一台计算机设备(可以是个人计算机,服务器,或者网络设备等)执行本发明各个实施例所述方法的全部或部分步骤。而前述的存储介质包括:U盘、移动硬盘、ROM、RAM、磁碟或者光盘等各种可以存储程序代码的介质。
以上所述,仅为本发明的具体实施方式,但本发明的保护范围并不局限于此,任何熟悉本技术领域的技术人员在本发明揭露的技术范围内,可轻易想到变化或替换,都应涵盖在本发明的保护范围之内。因此,本发明的保护范围应以权利要求的保护范围为准。
Claims (10)
1.一种车内全景图像显示方法,其特征在于,包括:
获取车内全景图像,以及拍摄所述车内全景图像的所述相机在车辆内的拍摄位置;其中,所述车内全景图中包括所述拍摄位置对应的目标对象;
检测出所述车内全景图像中所述目标对象的轮廓;
基于所述目标对象和所述轮廓的中心点位置,确定出所述车内全景图像中的车头方向;所述车头方向为所述拍摄位置对应的观察点位置朝向所述车辆的车头的方向;
根据所述车头方向获取所述车内全景图像中与所述车头方向对应的图像内容,以用于显示。
2.根据权利要求1所述的方法,其特征在于,所述拍摄位置至少包括主驾驶位上方、中央扶手盒上方、后排中间座椅上方和副驾驶位上方;
所述主驾驶位上方对应的目标对象为方向盘,所述中央扶手盒上方和所述后排中间座椅上方对应的目标对象为后视镜,所述副驾驶位上方对应的目标对象为副驾驶座椅头枕。
3.根据权利要求2所述的方法,其特征在于,所述基于所述目标对象和所述轮廓的中心点位置,确定出所述车内全景图像中的车头方向,包括:
当所述拍摄位置为所述主驾驶位上方、所述中央扶手盒上方和所述后排中间座椅上方时,将所述观察点位置朝向所述轮廓的中心点位置的方向确定为车头方向;
当所述拍摄位置为所述副驾驶位上方时,将所述观察点位置朝向与所述轮廓的中心点位置相距所述车内全景图像的像素坐标的列数的一半处的位置的方向,确定为车头方向。
4.根据权利要求1所述的方法,其特征在于,所述根据所述车头方向获取所述车内全景图像中与所述车头方向对应的图像内容,以用于显示,包括:
对所述车内全景图像的像素进行移动,使得所述图像内容位于所述车内全景图像的中间位置;
获取所述车内全景图像的中间位置对应的图像内容,以用于显示。
5.根据权利要求4所述的方法,其特征在于,所述对所述车内全景图像的像素进行移动,使得所述图像内容位于所述车内全景图像的中间位置,包括:
确定出所述图像内容的位置的像素坐标的第一列数,以及所述车内全景图像中间位置的像素坐标的第二列数;
计算所述第一列数和所述第二列数的差值;
根据所述差值对所述车内全景图像的像素在列方向上进行移动,使得所述图像内容位于所述车内全景图像的中间位置。
6.根据权利要求1所述的方法,其特征在于,所述检测出所述车内全景图中所述目标对象的轮廓,包括:
将所述车内全景图像输入预先训练完成的目标检测模型,得到与所述目标对象对应的轮廓。
7.根据权利要求6所述的方法,其特征在于,在所述将所述车内全景图像输入预先训练完成的目标检测模型之前,所述方法还包括:
获取样本图像训练数据;其中,所述样本图像训练数据具有对应的参照轮廓;
将所述样本图像训练数据输入至待训练的目标检测模型,得到所述样本图像中目标对象的轮廓;
根据预设的损失函数,计算训练过程中所述待训练的目标检测模型输出的轮廓,与所述参照轮廓的损失值;
当所述损失值满足预设条件时,得到训练完成的目标检测模型。
8.一种车内全景图像显示装置,其特征在于,包括:
图像获取模块,用于获取车内全景图像,以及拍摄所述车内全景图像的所述相机在车辆内的拍摄位置;其中,所述车内全景图中包括所述拍摄位置对应的目标对象;
轮廓检测模块,用于检测出所述车内全景图像中所述目标对象的轮廓;
位置确定模块,用于基于所述目标对象和所述轮廓的中心点位置,确定出所述车内全景图像中的车头方向;所述车头方向为所述拍摄位置对应的观察点位置朝向所述车辆的车头的方向;
图像显示模块,用于根据所述车头方向获取所述车内全景图像中与所述车头方向对应的图像内容,以用于显示。
9.一种电子设备,其特征在于,包括处理器、通信接口、存储器和通信总线,其中,所述处理器、所述通信接口以及所述存储器通过所述通信总线完成相互间的通信;
所述存储器,用于存放计算机程序;
所述处理器,用于执行存储器上所存放的程序时,实现如权利要求1至7任一项所述的方法。
10.一个或多个计算机存储介质,其上存储有指令,当由一个或多个处理器执行时,使得所述处理器执行如权利要求1至7任一项所述的方法。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202210917650.7A CN115393380B (zh) | 2022-08-01 | 2022-08-01 | 车内全景图像显示方法、装置、电子设备及存储介质 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202210917650.7A CN115393380B (zh) | 2022-08-01 | 2022-08-01 | 车内全景图像显示方法、装置、电子设备及存储介质 |
Publications (2)
Publication Number | Publication Date |
---|---|
CN115393380A true CN115393380A (zh) | 2022-11-25 |
CN115393380B CN115393380B (zh) | 2023-07-04 |
Family
ID=84119340
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN202210917650.7A Active CN115393380B (zh) | 2022-08-01 | 2022-08-01 | 车内全景图像显示方法、装置、电子设备及存储介质 |
Country Status (1)
Country | Link |
---|---|
CN (1) | CN115393380B (zh) |
Citations (12)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN101499178A (zh) * | 2008-01-29 | 2009-08-05 | 国际商业机器公司 | 用于优化虚拟环境中的对象的自然语言描述的系统和方法 |
CN104527570A (zh) * | 2014-12-22 | 2015-04-22 | 清华大学苏州汽车研究院(吴江) | 一种基于全景图像的车辆防盗系统 |
CN105501120A (zh) * | 2015-12-24 | 2016-04-20 | 戴姆勒股份公司 | 车辆全景影像采集系统 |
CN107659851A (zh) * | 2017-03-28 | 2018-02-02 | 腾讯科技(北京)有限公司 | 全景图像的展示控制方法及装置 |
CN107861714A (zh) * | 2017-10-26 | 2018-03-30 | 天津科技大学 | 基于IntelRealSense的汽车展示应用的开发方法及系统 |
CN109949121A (zh) * | 2019-01-21 | 2019-06-28 | 广东康云科技有限公司 | 一种智能看车的数据处理方法及系统 |
US20200151472A1 (en) * | 2017-05-24 | 2020-05-14 | Audi Ag | External depiction of photographs of a vehicle interior in vr goggles |
CN112905005A (zh) * | 2021-01-22 | 2021-06-04 | 领悦数字信息技术有限公司 | 用于车辆的自适应显示方法、装置及存储介质 |
US20210205712A1 (en) * | 2017-10-12 | 2021-07-08 | Audi Ag | Method for operating an electronic display device wearable on the head and display system for displaying virtual content |
CN113870287A (zh) * | 2021-10-14 | 2021-12-31 | 车智互联(北京)科技有限公司 | 一种车辆vr内饰处理方法、计算设备以及存储介质 |
WO2022052789A1 (zh) * | 2020-09-08 | 2022-03-17 | 恒大新能源汽车投资控股集团有限公司 | 车内后视镜全视野动态显示方法、存储介质及电子设备 |
CN114332830A (zh) * | 2021-12-15 | 2022-04-12 | 中汽创智科技有限公司 | 图像处理方法、装置及介质 |
-
2022
- 2022-08-01 CN CN202210917650.7A patent/CN115393380B/zh active Active
Patent Citations (12)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN101499178A (zh) * | 2008-01-29 | 2009-08-05 | 国际商业机器公司 | 用于优化虚拟环境中的对象的自然语言描述的系统和方法 |
CN104527570A (zh) * | 2014-12-22 | 2015-04-22 | 清华大学苏州汽车研究院(吴江) | 一种基于全景图像的车辆防盗系统 |
CN105501120A (zh) * | 2015-12-24 | 2016-04-20 | 戴姆勒股份公司 | 车辆全景影像采集系统 |
CN107659851A (zh) * | 2017-03-28 | 2018-02-02 | 腾讯科技(北京)有限公司 | 全景图像的展示控制方法及装置 |
US20200151472A1 (en) * | 2017-05-24 | 2020-05-14 | Audi Ag | External depiction of photographs of a vehicle interior in vr goggles |
US20210205712A1 (en) * | 2017-10-12 | 2021-07-08 | Audi Ag | Method for operating an electronic display device wearable on the head and display system for displaying virtual content |
CN107861714A (zh) * | 2017-10-26 | 2018-03-30 | 天津科技大学 | 基于IntelRealSense的汽车展示应用的开发方法及系统 |
CN109949121A (zh) * | 2019-01-21 | 2019-06-28 | 广东康云科技有限公司 | 一种智能看车的数据处理方法及系统 |
WO2022052789A1 (zh) * | 2020-09-08 | 2022-03-17 | 恒大新能源汽车投资控股集团有限公司 | 车内后视镜全视野动态显示方法、存储介质及电子设备 |
CN112905005A (zh) * | 2021-01-22 | 2021-06-04 | 领悦数字信息技术有限公司 | 用于车辆的自适应显示方法、装置及存储介质 |
CN113870287A (zh) * | 2021-10-14 | 2021-12-31 | 车智互联(北京)科技有限公司 | 一种车辆vr内饰处理方法、计算设备以及存储介质 |
CN114332830A (zh) * | 2021-12-15 | 2022-04-12 | 中汽创智科技有限公司 | 图像处理方法、装置及介质 |
Non-Patent Citations (4)
Title |
---|
IGOR V. BARKATOV 等: "360 ◦ Photographic Panoramas as an Effective Multifunctional Aid for Teaching Technology Subjects", PROCEEDINGS OF THE 1ST SYMPOSIUM ON ADVANCES IN EDUCATIONAL TECHNOLOGY, pages 1 - 11 * |
PHILIPP HOCK 等: "CarVR: Enabling In-Car Virtual Reality Entertainment", CHI 2017, pages 1 - 11 * |
赵颖: "面向B2C型共享汽车用户行为的限定性交互设计研究", 中国博士学位论文全文数据库 工程科技II辑, no. 2021, pages 034 - 14 * |
陈力: "基于凝视交互的虚拟汽车展示系统研究", 中国优秀硕士学位论文全文数据库 信息科技辑, no. 2018, pages 138 - 554 * |
Also Published As
Publication number | Publication date |
---|---|
CN115393380B (zh) | 2023-07-04 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
CN109977845B (zh) | 一种可行驶区域检测方法及车载终端 | |
CN110809115B (zh) | 拍摄方法及电子设备 | |
CN107707817B (zh) | 一种视频拍摄方法及移动终端 | |
CN110557575B (zh) | 消除炫光的方法和电子设备 | |
CN108153422B (zh) | 一种显示对象控制方法和移动终端 | |
CN110213485B (zh) | 一种图像处理方法及终端 | |
CN109241832B (zh) | 一种人脸活体检测的方法及终端设备 | |
CN111031234B (zh) | 一种图像处理方法及电子设备 | |
CN109819166B (zh) | 一种图像处理方法和电子设备 | |
WO2021136495A1 (zh) | 一种车机显示界面的页面布局控制方法及装置 | |
CN111401463A (zh) | 检测结果输出的方法、电子设备及介质 | |
CN109246351B (zh) | 一种构图方法及终端设备 | |
CN115002295A (zh) | 图像数据同步方法、装置、终端设备及存储介质 | |
CN109784234B (zh) | 一种基于前向鱼眼镜头的直角弯识别方法及车载设备 | |
CN110312070B (zh) | 一种图像处理方法及终端 | |
CN109711477B (zh) | 一种自动驾驶模型的训练方法及装置 | |
CN110942023A (zh) | 车辆视觉盲区的指示方法、装置、设备及存储介质 | |
CN110933307A (zh) | 一种电子设备及图像处理方法 | |
CN111031246A (zh) | 拍摄方法及电子设备 | |
CN107798662B (zh) | 一种图像处理方法及移动终端 | |
CN108259756B (zh) | 一种图像拍摄方法及移动终端 | |
CN112464831B (zh) | 视频分类方法、视频分类模型的训练方法及相关设备 | |
CN112124434A (zh) | 透明a柱的实现方法及装置 | |
CN108063894B (zh) | 一种视频处理方法及移动终端 | |
CN109828812B (zh) | 截图方法、装置及终端设备 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination | ||
GR01 | Patent grant | ||
GR01 | Patent grant |